Principais destaques:
- Pesquisadores alertam para o surgimento de enxames de inteligência artificial capazes de se passar por humanos nas redes sociais.
- Esses sistemas podem espalhar desinformação, criar falsas maiorias e até assediar usuários reais de forma coordenada.
- O risco é considerado uma nova etapa da guerra de informação, com possíveis impactos diretos em eleições e no debate público.
Pesquisadores estão soando o alarme sobre uma nova geração de ameaças digitais.
Segundo um comentário publicado recentemente na revista Science, enxames de agentes de inteligência artificial podem, em breve, ocupar redes sociais em grande escala, imitando comportamentos humanos para influenciar opiniões, espalhar narrativas falsas e enfraquecer processos democráticos.
Diferentemente dos bots tradicionais, esses enxames de IA seriam altamente adaptáveis e difíceis de identificar. A proposta não é apenas postar mensagens repetidas, mas criar a ilusão de um movimento social legítimo, com múltiplas vozes, perfis consistentes e interação contínua com usuários reais.
O poder da falsa maioria nas redes
Segundo Jonas Kunst, professor da BI Norwegian Business School e um dos autores do comentário, seres humanos tendem ao conformismo. Quando muitas pessoas aparentam concordar com algo, isso gera uma sensação de legitimidade. Enxames de IA poderiam explorar exatamente esse viés psicológico, fabricando consensos artificiais.
Esses sistemas não apenas reforçariam determinadas ideias, como também poderiam agir de forma agressiva contra quem discordasse. Ao simular um grupo indignado ou hostil, o enxame poderia assediar usuários críticos até forçá-los a abandonar a discussão ou até a própria plataforma.
De bots simples a organismos digitais
As redes sociais já convivem com bots há anos. Hoje, eles representam mais da metade do tráfego da web e costumam executar tarefas simples, como repetir mensagens ou inflar hashtags. Apesar do impacto negativo, esses bots são relativamente fáceis de detectar.
Os enxames de IA representam um salto qualitativo. Coordenados por grandes modelos de linguagem, eles seriam capazes de aprender com o ambiente, adaptar o discurso a diferentes comunidades e manter identidades persistentes. Daniel Schroeder, pesquisador da SINTEF, descreve esses sistemas como quase um organismo digital, capaz de evoluir ao longo do tempo para explorar vulnerabilidades humanas.
Um exemplo real já chamou atenção recentemente, quando o Reddit ameaçou tomar medidas legais contra pesquisadores que usaram chatbots para influenciar debates em uma comunidade com milhões de usuários. Os testes indicaram que respostas geradas por IA foram várias vezes mais persuasivas do que as escritas por humanos.
Como se defender dessa nova ameaça
Os pesquisadores reconhecem que não existe uma solução simples. Uma das respostas mais prováveis das plataformas seria reforçar a autenticação de contas, exigindo provas de que usuários são pessoas reais. No entanto, isso pode gerar problemas sérios em países onde o anonimato é essencial para a dissidência política.
Outras propostas incluem o monitoramento de padrões estatísticos anômalos no tráfego das redes e a criação de um observatório internacional dedicado a estudar e combater a influência de enxames de IA. A ideia é agir antes que esses sistemas sejam usados de forma decisiva para manipular eleições ou grandes eventos sociais.
Para os autores, o aviso é claro. A ameaça ainda está em formação, mas o potencial de impacto é enorme. Preparar-se agora pode ser a única forma de evitar que a próxima grande crise democrática tenha origem em linhas de código invisíveis.
