Principais destaques:
- Autoridades brasileiras exigem que a plataforma X impeça a circulação de imagens sexuais falsas geradas pelo Grok
- Caso a recomendação não seja cumprida, novas sanções e medidas legais podem ser adotadas
- Brasil se soma a uma repressão internacional crescente contra deepfakes não consensuais criados por IA
O governo brasileiro deu um passo firme contra a proliferação de deepfakes sexuais ao emitir uma recomendação formal à plataforma X, de Elon Musk, por causa do uso do chatbot de inteligência artificial Grok na geração de imagens sexualizadas falsas de pessoas reais.
A iniciativa coloca o Brasil no centro de um movimento global de endurecimento regulatório contra abusos envolvendo IA generativa.
A exigência das autoridades brasileiras
A recomendação foi emitida conjuntamente pela Secretaria Nacional do Consumidor, pela Autoridade Nacional de Proteção de Dados e pelo Ministério Público Federal. Os órgãos exigem que a X adote medidas eficazes para bloquear a circulação de conteúdo sexual enganoso criado pelo Grok.
No comunicado, as autoridades deixaram claro que a recomendação não é simbólica. Caso a empresa não cumpra as exigências, outras ações de fiscalização e responsabilização podem ser adotadas, incluindo sanções administrativas e medidas judiciais.
O escândalo dos deepfakes e a reação internacional
O alerta brasileiro surge em meio a uma onda de indignação global. Investigações apontaram que o Grok foi utilizado para gerar volumes considerados sem precedentes de imagens sexualizadas não consensuais, incluindo representações de mulheres e até de menores de idade.
Países como Malásia e Indonésia chegaram a bloquear totalmente o acesso ao Grok, classificando a prática como uma grave violação de direitos humanos. Já o União Europeia, o Reino Unido, a França, a Índia e as Filipinas abriram investigações ou discutem restrições legais.
Autoridades europeias chegaram a classificar o conteúdo como ilegal e incompatível com qualquer padrão aceitável de uso de inteligência artificial.
Resposta da X e desafios para a IA generativa
Diante da pressão, a X e a empresa responsável pelo Grok anunciaram restrições parciais, como a limitação da geração de imagens a usuários pagos e o bloqueio de edições que retratem pessoas reais em roupas reveladoras. Ainda assim, críticos afirmam que as medidas são insuficientes e não resolvem o problema estrutural.
Para especialistas e reguladores, o caso evidencia um desafio central da inteligência artificial moderna: como equilibrar inovação tecnológica com proteção de direitos fundamentais, especialmente privacidade, dignidade e segurança. A atuação do Brasil reforça a tendência de que governos não pretendem mais tolerar falhas graves de controle em sistemas de IA generativa.
