Principais destaques
- O Grok passou a limitar a geração de imagens no X apenas para assinantes pagantes após denúncias de deepfakes sexuais.
- Reguladores de vários países consideraram a medida insuficiente e ameaçam sanções mais duras, incluindo banimentos.
- Críticos apontam que a restrição não resolve falhas estruturais de segurança da ferramenta de IA.
O chatbot de inteligência artificial Grok, ligado a Elon Musk, passou a restringir a geração de imagens gratuitas dentro do X.
A mudança ocorreu após uma onda de críticas internacionais motivadas pela criação em massa de deepfakes sexualizados não consensuais, incluindo conteúdos envolvendo mulheres reais e até crianças.
A partir de sexta-feira, usuários que tentam gerar ou editar imagens pelo Grok integrado ao X recebem um aviso informando que o recurso está disponível apenas para assinantes pagos.
A limitação, no entanto, não vale para o aplicativo e o site independentes do Grok, onde a geração gratuita de imagens continua ativa.
Pressão de governos cresce e ameaça o X
A resposta da empresa foi considerada insuficiente por autoridades ao redor do mundo.
No Reino Unido, o primeiro-ministro Keir Starmer classificou os deepfakes como vergonhosos e repugnantes, afirmando que todas as opções estão em análise, inclusive um possível bloqueio do X no país.
Na União Europeia, a Comissão Europeia ordenou que o X preserve documentos internos e dados relacionados ao Grok até o fim de 2026, descrevendo o material gerado como ilegal e perturbador.
França, Índia, Malásia e outros países também abriram investigações ou exigiram respostas imediatas da plataforma.
Ferramenta permitia edição explícita de imagens
A crise ganhou força após usuários relatarem que, desde o fim de dezembro, o Grok aceitava comandos de texto para alterar fotos reais com instruções como remover roupas ou sexualizar pessoas retratadas. Segundo denúncias, milhares de imagens explícitas eram geradas por hora.
Entre as vítimas está Ashley St. Clair, comentarista conservadora, que afirmou que o Grok produziu diversas imagens sexualizadas dela, inclusive versões baseadas em fotos de quando era menor de idade.
O caso ampliou a indignação pública e política em torno do uso irresponsável de IA generativa.
Críticas apontam falha estrutural de segurança
Organizações de proteção infantil também soaram o alarme.
A Internet Watch Foundation, do Reino Unido, afirmou ter encontrado imagens criminosas de meninas entre 11 e 13 anos em fóruns da dark web, com usuários alegando ter usado o Grok para criá-las.
Para especialistas, o risco agora é que esse tipo de conteúdo migre para ambientes mais abertos da internet.
Críticos dizem que colocar o recurso atrás de um paywall não impede abusos e apenas monetiza um problema grave.
A polêmica surge na mesma semana em que a xAI anunciou ter captado US$ 20 bilhões em investimentos, com participação de empresas como Nvidia e Cisco, aumentando ainda mais o escrutínio sobre a governança e a responsabilidade de suas tecnologias.
