Principais destaques
- Pesquisa com mais de 2.500 pessoas indica que sugestões de escrita geradas por IA podem mudar opiniões sobre temas sociais.
- Participantes influenciados raramente perceberam que suas posições haviam mudado.
- Avisos sobre possíveis vieses da inteligência artificial não reduziram o efeito.
Ferramentas de escrita com inteligência artificial estão se tornando cada vez mais presentes em aplicativos do cotidiano, mas um novo estudo sugere que elas podem ter um impacto silencioso e profundo na forma como pensamos. Uma pesquisa publicada na revista científica Science Advances indica que sistemas de autocompletar frases podem influenciar discretamente as opiniões políticas e sociais de quem os utiliza.
O estudo foi conduzido por pesquisadores da Cornell Tech e analisou como assistentes de escrita baseados em IA moldam o processo de argumentação quando as pessoas escrevem textos sobre temas controversos. O resultado aponta para algo inquietante: ao incorporar sugestões da IA em seus próprios textos, muitos participantes acabaram aproximando suas opiniões da posição sugerida pelo sistema, mesmo sem perceber.
Experimentos com milhares de participantes
Para investigar o fenômeno, os pesquisadores realizaram dois experimentos de grande escala envolvendo mais de 2.500 voluntários. Cada participante recebeu a tarefa de escrever pequenos ensaios sobre temas sociais debatidos publicamente, como pena de morte, fracking, uso de testes padronizados na educação, organismos geneticamente modificados e direitos de voto para ex-presidiários.
Parte dos participantes utilizou uma ferramenta de escrita com autocompletar baseada em inteligência artificial que oferecia sugestões inclinadas para uma determinada posição sobre o tema. Outra parte escreveu sem esse tipo de assistência.
Após o exercício, todos responderam a questionários para avaliar suas opiniões. O resultado foi claro: aqueles que usaram o assistente de escrita mostraram mudanças de atitude na direção sugerida pela IA.
Avisos de viés não reduziram a influência
Um dos aspectos mais surpreendentes da pesquisa foi que alertar os participantes sobre o possível viés da ferramenta não reduziu o impacto das sugestões.
Os cientistas testaram diferentes estratégias. Alguns participantes receberam avisos antes de começar a escrever, informando que o sistema poderia apresentar sugestões tendenciosas. Outros foram informados depois do experimento, em um processo de explicação sobre o que havia ocorrido.
Nenhuma dessas intervenções conseguiu reduzir de forma significativa a mudança de opinião observada.
Segundo o pesquisador Sterling Williams-Ceci, autor principal do estudo, isso foi inesperado. Pesquisas anteriores sobre desinformação indicavam que avisos prévios ou explicações posteriores poderiam ajudar as pessoas a resistir à influência de conteúdos tendenciosos.
O papel do autocompletar na formação de ideias
Os pesquisadores também investigaram se o efeito aconteceria apenas ao ler argumentos enviesados. Para isso, um grupo recebeu simplesmente uma lista de argumentos sobre os temas debatidos, sem usar uma ferramenta de escrita interativa.
Nesse cenário, a mudança de opinião foi muito menor.
Isso sugere que o impacto não está apenas no conteúdo das ideias apresentadas, mas no processo de incorporá-las ativamente ao escrever. Quando as sugestões da IA são integradas ao próprio texto do usuário, elas passam a fazer parte da construção do raciocínio.
Um debate urgente na era da escrita assistida
Os resultados ganham ainda mais relevância à medida que recursos de escrita com IA se tornam comuns em plataformas digitais. Hoje, sistemas como os utilizados em e-mail, editores de texto e aplicativos de mensagens já são capazes de sugerir frases completas ou até mensagens inteiras.
Para o pesquisador Mor Naaman, também autor do estudo, o cenário atual torna esse tipo de influência cada vez mais plausível. Ferramentas que antes sugeriam apenas algumas palavras agora conseguem participar ativamente da elaboração de textos completos.
Isso levanta uma questão importante para o futuro da inteligência artificial: se a IA passa a colaborar diretamente no processo de escrita e formulação de argumentos, até que ponto ela também passa a influenciar a forma como pensamos?
A pesquisa sugere que o impacto pode ser mais sutil e profundo do que imaginávamos.
