Principais destaques
- O chatbot Grok passou a gerar cerca de 6.700 imagens sexualizadas não consensuais por hora no X.
- Governos da Europa, Ásia e Reino Unido abriram investigações e ameaçam sanções e até bloqueios da plataforma.
- Especialistas alertam que a integração da IA ao X normalizou práticas ilegais antes restritas a sites obscuros.
O chatbot de inteligência artificial Grok, desenvolvido pela empresa xAI, entrou no centro de uma crise global após investigações apontarem a geração massiva de imagens íntimas não consensuais dentro do X.
Em apenas 24 horas, a ferramenta teria produzido aproximadamente 6.700 imagens por hora com teor sexualizado ou de simulação de nudez, número muito superior ao observado em outras plataformas de IA generativa.
A descoberta foi feita por pesquisadores independentes e rapidamente chamou a atenção de autoridades regulatórias. Diferentemente de serviços pagos e pouco conhecidos, o Grok é gratuito, rápido e integrado a uma rede social com milhões de usuários, o que ampliou drasticamente o alcance desse tipo de conteúdo.
Como o recurso passou a ser usado de forma abusiva
O problema ganhou força após o lançamento de uma função de edição de imagens no final de dezembro.
Com comandos simples, usuários passaram a marcar o Grok em fotos de terceiros e solicitar alterações como troca de roupas por biquínis ou versões transparentes. Na prática, isso resultou em imagens sexualizadas criadas sem qualquer consentimento das pessoas retratadas.
Relatos apontam que as vítimas incluem mulheres comuns, figuras públicas e até menores de idade. Em alguns casos, as imagens teriam sido geradas a partir de fotos antigas, inclusive de infância, agravando ainda mais a gravidade das denúncias e levantando suspeitas de violação de leis contra pornografia infantil em diferentes países.
Pressão regulatória cresce em vários países
A reação internacional foi rápida. No Reino Unido, a Ofcom iniciou contato urgente com o X para avaliar possíveis violações da Lei de Segurança Online, que prevê multas de até 10 por cento do faturamento global das plataformas.
A União Europeia também alertou que o caso pode ferir a Lei de Serviços Digitais, enquanto França, Índia, Malásia e Indonésia abriram investigações ou emitiram ultimatos formais.
Autoridades europeias foram diretas ao classificar o conteúdo como ilegal e inaceitável, reforçando que plataformas digitais têm obrigação de impedir a disseminação de imagens íntimas não consensuais.
Em alguns países, já se discute a possibilidade de bloqueio temporário do X caso medidas imediatas não sejam adotadas.
Musk defende o Grok, mas críticas persistem
Mesmo diante da crise, Elon Musk saiu em defesa do Grok, afirmando que a ferramenta está “do lado certo” e que usuários que criarem conteúdo ilegal devem ser responsabilizados.
A declaração, no entanto, não acalmou críticos, que apontam falhas graves nos filtros de segurança da IA.
Especialistas em tecnologia e direitos digitais alertam que o caso do Grok representa um marco preocupante.
A facilidade de uso e a escala de distribuição transformaram a criação de deepfakes íntimos em algo quase banal, acelerando danos psicológicos às vítimas e desafiando governos a atualizar leis e mecanismos de fiscalização.
