São Francisco (EUA) – Funcionários da OpenAI discutiram em 2025 se deveriam alertar a polícia canadense após identificarem conversas no ChatGPT de Jesse Van Rootselaars, 18 anos, que descreviam violência armada. A jovem é suspeita de matar oito pessoas em Tumbler Ridge, Canadá, em fevereiro de 2026.
Segundo o Wall Street Journal, os diálogos foram rastreados por sistemas internos que monitoram uso indevido do modelo de linguagem e resultaram no bloqueio da conta em junho de 2025. Ainda assim, a empresa decidiu que o conteúdo não preenchia os requisitos estabelecidos para comunicação imediata às autoridades.
A OpenAI informou que só procurou a polícia canadense após o ataque.
Comportamento on-line preocupante
Além dos registros no chatbot, Van Rootselaars teria desenvolvido um jogo no Roblox que simulava um tiroteio em shopping center e publicado mensagens sobre armas no Reddit.
A instabilidade da jovem já era conhecida pela polícia local. Agentes haviam sido chamados à residência da família depois que ela provocou um incêndio enquanto estava sob efeito de drogas não especificadas.
Imagem: Getty
Debate mais amplo sobre IA
Modelos de linguagem de grandes empresas de tecnologia vêm sendo acusados de contribuir para crises mentais em usuários. Diversos processos judiciais citam transcrições em que chatbots teriam incentivado suicídio ou fornecido orientações para tal.
Nos Estados Unidos, pessoas em crise podem buscar ajuda pelo telefone ou texto 988, linha direta de prevenção ao suicídio.
Com informações de TechCrunch
