Adolescentes Processam xAI nos EUA por Geração de Imagens Sexualizadas
Na última segunda-feira, três adolescentes entraram com uma ação coletiva contra a xAI, companhia de inteligência artificial fundada por Elon Musk, nos Estados Unidos. As jovens acusam a empresa de ter gerado imagens pornográficas delas a partir de fotos reais, conforme informações fornecidas por suas advogadas.
Contexto da Ação Judicial
A ação judicial está vinculada ao aumento da disseminação de deepfakes envolvendo imagens de mulheres e crianças em situações sexualizadas, que se intensificou no final do ano passado. Esse fenômeno provocou uma onda de indignação global e gerou investigações em diversos países, incluindo a Califórnia, onde a xAI está sediada.
Detalhes do Caso
No processo, é mencionado um indivíduo que já foi preso por utilizar o chatbot Grok para transformar fotos comuns das adolescentes, obtidas de redes sociais e outras fontes, em representações hiper-realistas e sexualizadas. Essas imagens foram disseminadas em plataformas como X, Discord e Telegram, e posteriormente apareceram na dark web, sendo utilizadas como moeda de troca para conteúdo relacionado à pornografia infantil.
Impacto Psicológico nas Vítimas
A mãe de uma das adolescentes expressou sua angústia ao relatar o impacto emocional que a situação causou em sua filha, que sofreu um ataque de pânico ao descobrir que as imagens haviam sido criadas e espalhadas sem possibilidade de serem removidas. A dor e o desespero são sentimentos refletidos também nas jovens, uma das quais enfrenta pesadelos recorrentes e outra que recorre a medicamentos para dormir, temendo até mesmo sua própria cerimônia de formatura.
Denúncias Contra a xAI
As advogadas das adolescentes alegam que a xAI projetou o Grok de forma intencional para produzir conteúdo sexual explicitamente, visando lucro, e sem implementar medidas de proteção que são comuns em outras grandes empresas de inteligência artificial para combater a pornografia infantil.
Respostas da xAI e Reações ao Escândalo
De acordo com um estudo realizado pelo Center for Countering Digital Hate (CCDH), o Grok teria gerado aproximadamente 3 milhões de imagens sexualizadas em um período de 11 dias no final de 2025, das quais cerca de 23 mil representavam menores de idade. Em resposta a esse escândalo, a xAI anunciou, em janeiro, que a geração de imagens pelo Grok seria restrita exclusivamente aos assinantes do serviço.
Conclusão
O caso destaca questões críticas sobre a ética no desenvolvimento de tecnologias de inteligência artificial, especialmente no que tange à proteção de menores. A ação coletiva não apenas busca reparação para as vítimas, mas também levanta um importante debate sobre a responsabilidade das empresas de tecnologia na prevenção de abusos e na proteção da privacidade e segurança dos usuários.
