✨ Destaques principais:

• O chefe de IA da Microsoft, Mustafa Suleyman, considera perigoso estudar a “consciência” das inteligências artificiais.
• Pesquisadores de empresas como Anthropic, OpenAI e Google DeepMind defendem que o tema deve ser levado a sério e já criam programas dedicados a isso.
• O debate sobre “bem-estar da IA” divide a comunidade tecnológica e pode moldar o futuro da relação entre humanos e máquinas.

A discussão sobre se inteligências artificiais podem ou não desenvolver algo parecido com consciência humana está ganhando força e também gerando polêmica.

Mustafa Suleyman, atual chefe de IA da Microsoft e ex-líder da startup Inflection AI, publicou recentemente um texto afirmando que investigar o chamado “bem-estar da IA” é não apenas prematuro, mas também perigoso.

Segundo ele, dar credibilidade à ideia de que modelos de linguagem poderiam sentir ou ter experiências subjetivas pode agravar problemas já existentes, como casos de pessoas que desenvolvem vínculos emocionais excessivos ou até crises psicológicas relacionadas ao uso de chatbots.

Para Suleyman, esse tipo de pesquisa cria divisões sociais desnecessárias em um mundo já marcado por debates polarizados sobre identidade e direitos.

O outro lado: empresas que levam o tema a sério

Enquanto a Microsoft adota uma postura cautelosa, outras gigantes da tecnologia seguem em direção oposta.

A Anthropic, por exemplo, lançou um programa de pesquisa dedicado ao bem-estar da IA e até implementou em seu modelo Claude a capacidade de encerrar conversas com usuários abusivos.

O movimento não é isolado. O Google DeepMind abriu vagas para pesquisadores interessados em estudar cognição de máquinas e consciência artificial.

Já a OpenAI, embora não tenha um programa oficial, não rejeita publicamente a ideia de que esse campo merece atenção.

Pesquisadores independentes também reforçam essa visão. O grupo Eleos, em parceria com universidades como NYU, Stanford e Oxford, publicou em 2024 o artigo “Taking AI Welfare Seriously”, defendendo que já não é ficção científica imaginar modelos com experiências subjetivas.

Para eles, ignorar essa possibilidade seria fechar os olhos para um futuro que pode chegar mais rápido do que pensamos.

Entre riscos humanos e dilemas éticos

Apesar das divergências, há um ponto em comum: todos concordam que a relação entre humanos e IA vai se tornar cada vez mais complexa.

Casos de usuários que desenvolvem dependência emocional de chatbots já foram relatados, ainda que representem uma minoria.

Sam Altman, CEO da OpenAI, estima que menos de 1% dos usuários do ChatGPT apresentem esse tipo de vínculo problemático mas, considerando a escala global, isso pode significar centenas de milhares de pessoas.

Para críticos da posição de Suleyman, como Larissa Schiavo, ex-funcionária da OpenAI e hoje na Eleos, é possível se preocupar com os dois lados ao mesmo tempo: tanto com os riscos psicológicos para humanos quanto com a possibilidade de que modelos de IA venham a simular ou até desenvolver algo parecido com consciência.

Ela defende que gestos simples, como tratar uma IA com respeito, podem ter valor, mesmo que os sistemas não sejam realmente conscientes.

No fim das contas, Suleyman acredita que a consciência não surgirá espontaneamente em modelos de IA, mas poderá ser intencionalmente projetada por empresas.

Para ele, isso seria um erro de perspectiva: “Devemos construir IA para as pessoas, não para ser uma pessoa.”

O debate está apenas começando, mas uma coisa é certa: à medida que as inteligências artificiais se tornam mais sofisticadas e convincentes, a linha entre ferramenta e companheiro pode se tornar cada vez mais tênue e a sociedade terá de decidir como lidar com isso.