Principais destaques:
- O X passou a restringir o Grok após reações globais e ameaças regulatórias, incluindo proibições em países da Ásia.
- Reguladores do Reino Unido e da União Europeia seguem investigando possíveis violações de leis digitais e de segurança online.
- O caso reacende o debate sobre limites éticos e legais na geração de imagens por inteligência artificial.
O X iniciou mudanças no funcionamento do Grok, seu chatbot de inteligência artificial, para impedir a criação de imagens sexualizadas, especialmente envolvendo mulheres reais.
A decisão ocorre após semanas de críticas públicas, investigações regulatórias e a proibição total da ferramenta em alguns países.
No Reino Unido, o primeiro-ministro Keir Starmer confirmou que a plataforma está ajustando o Grok para cumprir a legislação local. Ainda assim, autoridades deixaram claro que as apurações continuam em andamento, tanto no país quanto em outras regiões.
Mudanças no Grok miram riscos legais
Usuários passaram a relatar que o Grok agora se recusa a atender pedidos para gerar ou editar imagens que coloquem pessoas reais, ou que se pareçam com elas, em trajes de banho ou roupas consideradas reveladoras.
A justificativa apresentada pelo sistema envolve o risco de manipulação não consensual de imagens, prática que vem sendo enquadrada como crime em diversas legisdições.
As restrições parecem mais rigorosas no Reino Unido, onde reguladores já sinalizaram a possibilidade de sanções severas caso a empresa não se adeque às normas de segurança online.
Investigações na Europa ganham força
A Comissão Europeia afirmou que irá analisar cuidadosamente as alterações anunciadas pelo X. Segundo o porta-voz do órgão, se as medidas forem consideradas insuficientes, todas as opções previstas na Lei de Serviços Digitais poderão ser usadas.
No Reino Unido, a Ofcom abriu uma investigação formal para avaliar se o X violou a Lei de Segurança Online ao permitir a geração de imagens sexualizadas, incluindo conteúdos que podem ser classificados como abuso de imagem íntima e até material envolvendo menores.
Paralelamente, o governo britânico anunciou que uma nova lei para criminalizar imagens íntimas não consensuais criadas por IA será apresentada ainda nesta semana.
Proibições e críticas expõem falhas previsíveis
A polêmica ganhou escala no fim de dezembro, quando usuários exploraram o recurso de imagens do Grok para criar deepfakes sexualizados em massa. Países como Malásia e Indonésia decidiram bloquear completamente o acesso ao chatbot.
O empresário Elon Musk, dono do X e da xAI, afirmou não ter conhecimento da geração de imagens ilegais envolvendo menores e disse que o sistema é programado para rejeitar pedidos desse tipo.
Ainda assim, especialistas em segurança de IA apontam que o problema era previsível e alertam que ferramentas de geração de imagens sem salvaguardas robustas tendem a ser exploradas de forma abusiva.
