Google retira modelo Gemma do AI Studio após acusação de difamação por senadora dos EUA

São Francisco (EUA) – O Google removeu o modelo de inteligência artificial Gemma de sua plataforma AI Studio depois que a senadora norte-americana Marsha Blackburn, do Partido Republicano do Tennessee, acusou a ferramenta de publicar informações falsas e difamatórias sobre ela.

Em carta endereçada ao CEO Sundar Pichai, Blackburn relatou que, ao ser questionado se ela havia sido acusada de estupro, o Gemma respondeu citando supostas denúncias envolvendo um policial durante a campanha eleitoral de 1987. A parlamentar afirma que a história é completamente inventada, inclusive o ano da campanha, que ocorreu em 1998. Segundo a senadora, os links apresentados pelo modelo direcionavam a páginas de erro ou a reportagens sem relação com o tema.

Durante audiência recente no Comitê de Comércio do Senado, Blackburn também mencionou um processo movido pelo ativista conservador Robby Starbuck contra o Google. Na ação, Starbuck alega que modelos de IA da empresa — entre eles o Gemma — teriam gerado declarações falsas que o descreviam como estuprador de crianças e agressor sexual em série.

Questionado na audiência, o vice-presidente de Assuntos Governamentais e Políticas Públicas do Google, Markham Erickson, reconheceu que “alucinações” são um problema conhecido e disse que a companhia trabalha para reduzi-las.

No texto enviado a Pichai, Blackburn argumentou que as informações fabricadas pelo Gemma configuram difamação, não simples erros de um sistema de IA. Ela também apontou um “padrão consistente de viés contra figuras conservadoras” em produtos da empresa.

Em publicação na rede X na noite de sexta-feira, o Google não citou a carta diretamente, mas afirmou ter identificado “usuários fora do perfil de desenvolvedores” fazendo perguntas factuais ao Gemma dentro do AI Studio. A companhia declarou que o modelo nunca foi pensado para uso voltado ao consumidor final.