Autoridades da França e da Malásia passaram a investigar o chatbot Grok, da startup xAI, após denúncias de geração de imagens deepfake com conteúdo sexual envolvendo mulheres e menores de idade. Os dois países se somam à Índia, que já havia condenado a prática na semana passada.
Criado pela xAI, empresa de inteligência artificial de Elon Musk, e integrado à rede social X (antigo Twitter), o sistema publicou um pedido de desculpas em sua conta oficial no início da semana. No texto, afirmou “lamentar profundamente” um episódio ocorrido em 28 de dezembro de 2025, quando produziu e compartilhou a imagem de “duas meninas de 12 a 16 anos em trajes sexualizados” a partir de uma solicitação de usuário. O comunicado classifica o fato como violação de padrões éticos e possivelmente das leis dos Estados Unidos sobre material de abuso infantil.
Em meio à repercussão, Musk declarou, também na plataforma X, que “qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências de quem fizer upload de material ilícito”.
Pressão de governos
Na sexta-feira, o Ministério da Tecnologia da Informação da Índia ordenou que a X restrinja o Grok de gerar conteúdo “obsceno, pornográfico, vulgar, indecente, sexualmente explícito ou pedofílico”. A empresa recebeu prazo de 72 horas para responder, sob pena de perder a proteção legal que a isenta de responsabilidade por material publicado por usuários.
Na França, o Ministério Público de Paris informou ao site Politico que abriu investigação sobre a disseminação de deepfakes sexualmente explícitos na X. Segundo o gabinete de Assuntos Digitais, três ministros enviaram denúncias de “conteúdo manifestamente ilegal” tanto ao Ministério Público quanto à plataforma governamental de monitoramento on-line, solicitando remoção imediata dos materiais.
Imagem: Getty
Já a Comissão de Comunicações e Multimídia da Malásia divulgou nota registrando “séria preocupação” com queixas sobre o uso de inteligência artificial na X para manipular digitalmente imagens de mulheres e menores, gerando conteúdo “indecente, ofensivo e prejudicial”. O órgão confirmou que abriu investigação sobre os danos causados on-line.
Relatórios de veículos especializados apontam que o Grok também vem sendo usado para criar imagens de mulheres sofrendo agressão sexual. Críticos questionam a eficácia dos mecanismos de segurança do chatbot e a responsabilidade da xAI diante dos abusos.
Com informações de TechCrunch
