O Ministério de Tecnologia da Informação da Índia determinou, nesta sexta-feira (2), que a plataforma X implemente mudanças técnicas e processuais imediatas no chatbot de inteligência artificial Grok, após relatos de geração de imagens consideradas obscenas.
De acordo com a ordem enviada à empresa de Elon Musk, a ferramenta deve bloquear a criação de conteúdos envolvendo nudez, sexualização, material sexual explícito ou qualquer outro tipo de conteúdo ilegal segundo a legislação indiana. A X recebeu prazo de 72 horas para apresentar um relatório detalhando as medidas adotadas.
O documento avisa que o descumprimento poderá comprometer a proteção de “porto seguro”, que isenta a plataforma de responsabilidade por conteúdo gerado por usuários. O governo também sinalizou possíveis sanções com base na Lei de TI e em estatutos criminais do país.
A decisão foi motivada por queixas de usuários que publicaram exemplos de imagens alteradas pelo Grok para mostrar mulheres com roupas de banho. A parlamentar Priyanka Chaturvedi formalizou uma reclamação sobre o caso. Além disso, relatos recentes apontaram que o chatbot produziu imagens sexualizadas envolvendo menores de idade — falha reconhecida pela X, que removeu esse material.
Apesar da exclusão das imagens com menores, a TechCrunch verificou que fotos em que mulheres aparecem de biquíni por meio de alteração da IA ainda estavam disponíveis na plataforma no momento da publicação.
A ordem desta sexta-feira sucede um aviso mais amplo enviado na segunda-feira da mesma semana a todas as redes sociais, reforçando que a conformidade com as normas contra conteúdo obsceno é condição para manter a imunidade legal por publicações de terceiros.
No comunicado, o governo reiterou que a não observância das regras “será vista com seriedade” e poderá resultar em ações contra a empresa, seus responsáveis e usuários infratores, “sem aviso adicional”.
Imagem: Getty
A Índia, um dos maiores mercados digitais do mundo, tornou-se um teste importante para o grau de responsabilidade exigido das plataformas sobre material gerado por inteligência artificial. Qualquer endurecimento local pode impactar empresas globais que operam em diversos países.
Enquanto questiona pontos das regras indianas na Justiça, a X já atendeu a grande parte das ordens de bloqueio emitidas pelo governo. O Grok, por sua vez, vem sendo usado na plataforma para checagem de fatos em tempo real e comentários sobre eventos noticiosos, o que amplia a visibilidade — e a sensibilidade política — de suas respostas.
A X e a xAI, responsável pelo desenvolvimento do Grok, não responderam imediatamente aos pedidos de comentário sobre a determinação do governo indiano.
Com informações de TechCrunch
