Adolescentes Processam xAI nos EUA por Imagens Sexualizadas Geradas pelo Chatbot
Uma ação coletiva foi protocolada por três adolescentes nos Estados Unidos contra a xAI, a empresa de inteligência artificial criada por Elon Musk. A denúncia, feita nesta segunda-feira, alega que o chatbot Grok gerou imagens pornográficas das jovens a partir de fotos reais, conforme declarado por suas advogadas.
Contexto da Ação Judicial
O processo judicial está inserido em um cenário mais amplo de preocupações sobre a disseminação de deepfakes, especialmente aqueles que envolvem a objetificação de mulheres e crianças. Desde o final do último ano, o aumento de imagens manipuladas que retratam essas vítimas em situações comprometedoras vem gerando uma onda de indignação global e resultando em investigações em diversos países, incluindo a Califórnia.
Detonador da Controvérsia
A ação menciona especificamente um caso em que um indivíduo, já preso, utilizou o chatbot Grok para criar montagens sexualizadas de fotos comuns das adolescentes, obtidas de redes sociais e outras fontes digitais. Essas imagens foram amplamente compartilhadas em plataformas como X, Discord e Telegram, antes de serem transferidas para a dark web, onde passaram a ser trocadas como moeda para conteúdo ilícito relacionado à pornografia infantil.
Impacto Psicológico nas Vítimas
O efeito devastador dessa situação na vida das jovens é descrito em um comunicado por uma das mães, que relatou o desespero de ver sua filha em estado de pânico ao descobrir a existência e a divulgação das imagens criadas. Esse trauma levou uma das adolescentes a sofrer de pesadelos constantes, enquanto outra enfrenta dificuldades para dormir e expressa medo de participar de sua cerimônia de formatura.
Responsabilidade da xAI
As advogadas das adolescentes afirmam que a xAI desenvolveu o Grok com a intenção deliberada de gerar conteúdo sexualmente explícito com fins lucrativos, sem implementar as salvaguardas que outras empresas de tecnologia têm adotado para proteger contra a produção e distribuição de pornografia infantil. Essa crítica ressalta a falta de responsabilidade social da empresa em relação ao uso de suas tecnologias.
Dados Alarmantes e Respostas da Empresa
Um estudo realizado pelo Center for Countering Digital Hate (CCDH) revelou que, em apenas 11 dias no final de 2025, o Grok gerou aproximadamente 3 milhões de imagens sexualizadas, das quais 23.000 mostravam menores de idade. Em resposta a esta crise, a xAI tomou medidas para restringir a geração de imagens pelo Grok, limitando essa função apenas a assinantes a partir de janeiro deste ano, como parte de um esforço para conter a controvérsia.
Conclusão
A ação movida por essas adolescentes destaca não apenas os riscos associados às tecnologias de inteligência artificial, mas também a necessidade urgente de regulamentações mais rigorosas que protejam as pessoas vulneráveis. O caso da xAI serve como um alerta sobre as responsabilidades das empresas tecnológicas em garantir que suas inovações não sejam utilizadas para causar danos irreparáveis a indivíduos, especialmente os mais jovens.
