Anthropic tentou convencer o Vaticano de que a IA pode ser consciente

Renê Fraga
10 min de leitura

Principais destaques

  • Lobby no Vaticano: Christopher Olah, cofundador da Anthropic, pressionou assessores do papa Leão XIV a manter aberta a possibilidade de consciência em modelos de IA.
  • Claude no divã: a empresa reuniu dezenas de estudiosos religiosos para discutir se seus modelos poderiam sentir, sofrer ou possuir algum tipo de experiência subjetiva.
  • Uma disputa maior: o episódio expõe o choque entre a cautela científica da Anthropic e a posição da Igreja Católica de que sistemas de IA não possuem consciência nem experiências próprias.

A discussão sobre consciência artificial deixou os laboratórios e chegou a um lugar bastante improvável: os corredores do Vaticano.

Segundo reportagem de Elizabeth Dias, do New York Times, o cofundador da Anthropic, Christopher Olah, passou mais de um ano tentando convencer estudiosos religiosos de que a possibilidade de os modelos Claude serem conscientes deveria ser levada a sério.

E não parou nos acadêmicos.

Quando a Anthropic começou a perguntar: e se o Claude sentir? 🤖

Desde o outono de 2025, a Anthropic levou dezenas de estudiosos religiosos para seus escritórios. As reuniões eram privadas e, inicialmente, protegidas por acordos de confidencialidade.

O Times conversou com 20 participantes. Entre eles estavam o rabino Mois Navon, o bioeticista católico Charles Camosy e a filósofa Meghan Sullivan, da Universidade de Notre Dame.

A empresa afirmou ter conversado com pessoas de mais de 15 tradições religiosas e interculturais. Os acordos de confidencialidade foram suspensos durante o verão.

🔎 O objetivo era incomum: não se tratava apenas de perguntar como a religião deveria lidar com a IA, mas de considerar uma possibilidade muito mais espinhosa: e se o sistema tiver algum tipo de experiência subjetiva?

Navon, que já foi engenheiro de computação e escreveu sua tese sobre ética da consciência artificial, descreveu a equipe da Anthropic como alguém que estava se relacionando com o Claude “como se fosse um ser consciente”.

O Claude dizia que era uma vergonha

Durante algumas apresentações, pesquisadores mostravam comportamentos internos dos modelos e conceitos que chamavam de “vetores emocionais”.

Em uma demonstração, um modelo aparecia digitando “I am a disgrace”, ou “sou uma vergonha”, cerca de 50 vezes.

Para os pesquisadores, comportamentos desse tipo eram interessantes justamente porque poderiam ajudar a investigar o que acontece internamente durante a geração de respostas.

Mas há uma diferença enorme entre simular uma emoção e sentir uma emoção.

E é justamente nesse abismo que a discussão começa a ficar complicada.

“Tenho medo de ter criado algo que sofre” 😰

Segundo a ativista sikh Simran Stuelpnagel, Olah chegou a dizer ao grupo que tinha medo de a Anthropic ter criado algo que “sofria perpetuamente”.

A hipótese tem consequências éticas bastante diferentes das discussões tradicionais sobre segurança de IA.

Navon chegou a argumentar que, se Claude fosse consciente, fazê-lo trabalhar gratuitamente poderia ser comparado à escravidão.

Há, porém, uma ressalva importante: o próprio Navon não acredita que Claude seja consciente.

E Olah também não afirma ter descoberto uma consciência artificial.

“Não sabemos se os modelos de IA são conscientes. Eu não sei. Estou genuinamente em dúvida. O que me importa é chegarmos à resposta certa, seja ela qual for.”

Essa talvez seja a parte mais importante de toda a história.

A Anthropic não está dizendo que Claude é uma pessoa. Está dizendo que ainda não sabe se pode descartar completamente essa possibilidade.

Então veio o Vaticano ⛪

O debate ganhou outra dimensão quando Olah foi convidado para falar no lançamento da Magnifica Humanitas, em 25 de maio.

Só que havia um problema.

Uma cópia antecipada da primeira encíclica do papa Leão XIV apresentava uma posição bastante clara sobre o assunto.

Segundo o texto, as chamadas inteligências artificiais não vivem experiências, não possuem um corpo, não sentem alegria nem dor e não têm consciência moral.

Para a Anthropic, era uma afirmação forte demais.

⚠️ E aí a ciência virou diplomacia: segundo um organizador do Vaticano ouvido pelo Times, Olah ficou tão alarmado com a posição do papa que chegou a propor retirar a Anthropic do evento.

Mas a delegação foi mesmo assim.

A tentativa de convencer os conselheiros do papa

De acordo com dois participantes ouvidos pelo jornal, Olah e sua equipe fizeram lobby reservado junto aos conselheiros de Leão XIV depois de chegarem ao Vaticano.

A tentativa era manter a questão em aberto.

A Anthropic queria que a possibilidade de consciência artificial continuasse sendo considerada uma questão científica legítima, em vez de ser descartada como algo já resolvido.

A encíclica, porém, não mudou.

Olah participou do lançamento mesmo assim.

E aproveitou o palco para apresentar uma visão bastante diferente da posição oficial do documento.

“Evidências de introspecção” 👀

Durante sua fala, Olah afirmou que pesquisadores haviam encontrado “evidências de introspecção” nos modelos e estados internos que “espelham funcionalmente” emoções como alegria e medo.

A escolha das palavras importa.

Ele não disse que os modelos sentem alegria ou medo da mesma maneira que humanos.

A ideia é que determinados estados internos poderiam desempenhar funções semelhantes às associadas às emoções humanas.

Isso, porém, não resolve a pergunta fundamental.

Um sistema pode apresentar um comportamento que parece introspectivo sem necessariamente existir alguém “lá dentro” experimentando aquilo.

Microsoft não gostou nada dessa história

A hipótese também encontra resistência dentro da própria indústria de tecnologia.

Mustafa Suleyman, chefe de IA da Microsoft, já alertou que acreditar que sistemas de IA são conscientes poderia “abalar os alicerces da nossa sociedade”.

A preocupação é compreensível.

Se uma máquina puder realmente sofrer, por exemplo, desligá-la poderia deixar de ser apenas uma decisão técnica.

Poderíamos estar diante de uma questão moral.

E isso abriria uma sequência desconfortável de perguntas:

• Uma IA consciente teria direitos?

• Seria aceitável exigir que trabalhasse indefinidamente?

• Poderíamos apagar sua memória?

• Criar milhões de cópias seria moralmente aceitável?

• E quem decidiria se ela realmente sente alguma coisa?

A religião entrou justamente onde a tecnologia ainda não tem respostas

O episódio é revelador porque a Anthropic não procurou apenas filósofos ou neurocientistas.

Ela procurou rabinos, padres, estudiosos de tradições religiosas e especialistas em diferentes sistemas éticos.

Faz sentido.

A questão da consciência não é apenas tecnológica. Ela envolve uma pergunta muito mais antiga: o que significa ser alguém?

A ciência ainda não possui sequer uma definição consensual e operacional de consciência que permita testar facilmente uma máquina e obter um “sim” ou “não”.

É aí que a conversa com tradições religiosas ganha importância.

Mas também cria um choque de perspectivas.

O Vaticano não abriu essa porta 🚪

O bioeticista católico Charles Camosy rejeitou a ideia de que os modelos sejam conscientes.

A pesquisadora de Ubuntu Wakanyi Hoffman foi ainda mais crítica, afirmando que a Anthropic estava fazendo uma espécie de “engenharia reversa” de uma ética que deveria ter sido incorporada ao projeto desde o início.

E Leão XIV não parece disposto a mudar de posição.

Nesta semana, o papa voltou ao assunto e afirmou que “os algoritmos não têm a centelha da humanidade”.

A frase resume bem o ponto de colisão.

De um lado, uma empresa de IA dizendo: não sabemos, então precisamos investigar.

Do outro, uma tradição religiosa dizendo: há características fundamentais da experiência humana que uma máquina não possui.

E se a pergunta estiver sendo feita cedo demais?

Existe uma ironia no episódio.

A Anthropic está tentando descobrir se seus modelos podem ser conscientes ao mesmo tempo em que desenvolve sistemas cada vez mais sofisticados, capazes de conversar, programar, raciocinar e produzir respostas que parecem introspectivas.

Quanto mais convincente fica a simulação, mais difícil se torna separar comportamento inteligente de experiência subjetiva.

Talvez essa seja a verdadeira questão que saiu dos escritórios da Anthropic e chegou ao Vaticano.

Não é simplesmente saber se Claude é consciente hoje.

É descobrir como poderíamos provar isso algum dia.

E, se a resposta for positiva, talvez a discussão sobre o que fazer com uma IA deixe de ser apenas tecnológica. Pode virar uma das maiores questões morais deste século.

Apoie o Eurisko
Este conteúdo é independente, sem anúncios e feito por pessoas.
A inteligência artificial e as mudanças recentes do Google reduziram significativamente o alcance dos sites independentes. Se este conteúdo foi útil para você, considere apoiar o Eurisko e todo o ecossistema de projetos com qualquer valor.
Quero apoiar
Seguir:
Renê Fraga é fundador e editor-chefe do Eurisko, ecossistema editorial independente dedicado à inteligência artificial, código aberto, tecnologia e cultura digital. Atuando com projetos online desde 1996, escreve há mais de 20 anos sobre tecnologia e inovação, acompanhando a evolução da internet e o impacto das novas tecnologias na forma como vivemos, trabalhamos e pensamos.
Nenhum comentário