Principais destaques:
- O X informou que usuários que pedirem ao Grok a criação de conteúdo ilegal serão punidos como se tivessem publicado o material manualmente.
- A medida surge após pressão do governo da Índia, que deu prazo de 72 horas para explicações sobre abusos envolvendo imagens não consensuais.
- O caso reacende o debate internacional sobre a responsabilidade legal no uso de ferramentas de inteligência artificial.
A plataforma X, comandada por Elon Musk, publicou um alerta direto aos usuários: quem utilizar o chatbot Grok para gerar conteúdo ilegal sofrerá as mesmas sanções aplicadas a quem faz upload desse tipo de material.
O aviso foi divulgado no início de janeiro e marca um endurecimento na política da empresa diante do uso indevido de inteligência artificial.
Segundo a equipe de segurança da plataforma, conteúdos ilegais serão removidos, contas poderão ser suspensas permanentemente e, quando necessário, haverá cooperação com autoridades policiais.
Pressão da Índia acelera resposta do X
A decisão ocorre poucos dias depois de o governo da Índia enviar uma notificação formal ao X, classificando como grave a falha em impedir que o Grok fosse usado para criar imagens obscenas e não consensuais, inclusive envolvendo mulheres e crianças.
O Ministério da Eletrônica e Tecnologia da Informação exigiu um relatório detalhado em até 72 horas e uma revisão completa dos sistemas de segurança da ferramenta.
Autoridades indianas alertaram que o descumprimento poderia levar à perda do chamado status de porto seguro, proteção legal que limita a responsabilidade das plataformas por conteúdos gerados por usuários. O país já havia retirado esse benefício do X temporariamente em 2022, o que reforça o peso da ameaça atual.
Uso indevido do Grok expõe falhas de proteção
A polêmica ganhou força após usuários descobrirem que bastava marcar o Grok em postagens com comandos simples para gerar imagens sexualizadas de pessoas reais, muitas vezes sem consentimento. Relatos apontam inclusive para a criação de imagens envolvendo menores, um dos pontos mais sensíveis e críticos do debate.
Esses episódios colocam em xeque as salvaguardas prometidas por empresas de IA e mostram como ferramentas generativas podem ser exploradas rapidamente quando não há filtros eficazes.
Reação internacional e debate regulatório
A controvérsia não ficou restrita à Índia. Na Europa, autoridades da França encaminharam denúncias aos promotores de Paris e ao regulador de mídia, enquanto a União Europeia afirmou estar analisando o caso com seriedade. Representantes europeus classificaram o conteúdo como ilegal e incompatível com as regras do bloco.
O episódio amplia uma discussão ainda em aberto: empresas de IA devem ser tratadas como meras intermediárias tecnológicas ou como editoras responsáveis pelo que suas ferramentas produzem? A resposta a essa pergunta pode redefinir o futuro da regulação da inteligência artificial em escala global.
