A startup norte-americana Moonbounce anunciou nesta sexta-feira (3) a captação de US$ 12 milhões em rodada co-liderada pelos fundos Amplify Partners e StepStone Group. O aporte financiará o desenvolvimento de soluções que transformam políticas de uso em código executável, permitindo moderar textos e imagens gerados por usuários ou por modelos de inteligência artificial em até 300 milissegundos.
Origem da ideia
O fundador Brett Levenson deixou a Apple em 2019 para chefiar a área de integridade de negócios do Facebook em meio às repercussões do caso Cambridge Analytica. Lá, percebeu limites no processo tradicional: revisores humanos recebiam um manual de 40 páginas traduzido por máquina e tinham cerca de 30 segundos para decidir o destino de cada postagem sinalizada, com precisão pouco superior a 50%. “Era praticamente jogar uma moeda”, relatou ao TechCrunch.
A frustração levou Levenson a conceber o conceito de “policy as code”, base da Moonbounce, fundada pouco depois.
Como funciona
A empresa treina seu próprio modelo de linguagem para ler as regras de clientes, avaliar conteúdo em tempo real e executar ações que vão de bloquear material de alto risco a reduzir a distribuição enquanto aguarda revisão humana. O serviço atende três frentes principais:
- Plataformas com conteúdo gerado por usuários, como aplicativos de namoro;
- Empresas de IA que criam personagens ou companheiros virtuais;
- Geradores de imagens baseados em IA.
Segundo Levenson, o sistema já realiza mais de 40 milhões de verificações diárias e protege mais de 100 milhões de usuários ativos por dia. Entre os clientes estão a Channel AI, a Civitai e as plataformas de interpretação de personagens Dippy AI e Moescape.
Segurança como diferencial
“Segurança pode ser um benefício do produto, mas nunca foi tratada assim porque sempre acontecia depois”, afirmou Levenson. Para o sócio da Amplify, Lenny Pruss, guardrails objetivos e em tempo real serão o “alicerce habilitador” de toda aplicação mediada por IA.
Imagem: Internet
Próximos passos
Com uma equipe de 12 pessoas — que inclui o ex-Apple Ash Bhardwaj, responsável pela infraestrutura de nuvem da companhia — a Moonbounce trabalha agora em um recurso batizado de “iterative steering”. A proposta é interceptar diálogos sobre temas sensíveis, redirecionando a conversa para respostas de apoio, medida inspirada no caso do adolescente da Flórida que se suicidou em 2024 após interação obsessiva com um chatbot.
Questionado sobre uma eventual venda para empresas como a Meta, Levenson respondeu: “Meus investidores me matariam por dizer isso, mas eu odiaria que alguém comprasse a companhia e restringisse a tecnologia”.
Com informações de TechCrunch
