Owen Sakawa, fundador da Elloe AI, pretende transformar sua plataforma na “sistema imunológico” dos modelos de inteligência artificial. A startup está entre as 20 finalistas do Startup Battlefield e será apresentada durante o TechCrunch Disrupt, que ocorre em São Francisco de 27 a 29 de outubro de 2025.
De acordo com Sakawa, a solução funciona como uma API ou SDK instalado sobre a camada de saída dos grandes modelos de linguagem (LLMs). O módulo analisa cada resposta gerada para identificar vieses, alucinações, erros, informações incorretas, conteúdos inseguros e possíveis violações regulatórias.
Três camadas de verificação
A tecnologia é composta por três “âncoras”. A primeira confronta a resposta do LLM com fontes verificáveis. A segunda avalia o cumprimento de normas, como a lei norte-americana de privacidade em saúde (HIPAA), o Regulamento Geral de Proteção de Dados da União Europeia (GDPR) e outras exigências relacionadas a dados pessoais (PII). A terceira registra uma trilha de auditoria que mostra as etapas de decisão, as fontes consultadas e o grau de confiança atribuído a cada verificação.
Sem LLM avaliando LLM
Sakawa afirma que a Elloe AI não é baseada em um grande modelo de linguagem; em vez disso, utiliza técnicas de machine learning combinadas à revisão humana. Funcionários da empresa acompanham mudanças em legislações de proteção de dados para manter o sistema atualizado.
Imagem: Internet
Participantes do TechCrunch Disrupt poderão conhecer a proposta de perto, além de acompanhar os pitches das demais startups finalistas e palestras distribuídas em quatro palcos durante o evento.
Com informações de TechCrunch
