Sam Altman defende limites para o avanço da inteligência artificial

Renê Fraga
9 min de leitura

Principais destaques

  • Humanos no comando: o CEO da OpenAI afirma que as pessoas não devem entregar o controle do futuro à superinteligência artificial.
  • Alerta sobre segurança: Altman diz que o setor precisa demonstrar capacidade de evitar incidentes graves de segurança e alinhamento.
  • Um debate entre concorrentes: as declarações retomam ideias de Dario Amodei, CEO da Anthropic, sobre os riscos de sistemas de IA cada vez mais poderosos.

O avanço da inteligência artificial tem uma questão que vai muito além da capacidade dos modelos: quem continuará tomando as decisões quando as máquinas se tornarem mais inteligentes do que os humanos em cada vez mais tarefas?

Sam Altman, CEO da OpenAI, voltou a colocar esse dilema no centro da discussão. Em uma publicação no X, na noite de 3 de novembro, ele defendeu que a preservação do controle humano deve estabelecer limites para o desenvolvimento da tecnologia.

A declaração reforça uma tensão crescente no setor. Empresas como OpenAI e Anthropic disputam espaço com modelos cada vez mais avançados, enquanto seus próprios líderes reconhecem que o poder desses sistemas exige novas formas de supervisão.

🧭 Altman quer estabelecer uma linha que a IA não deve cruzar

Na publicação, feita às 20h40 no horário da Costa Leste dos Estados Unidos, Altman afirmou que as pessoas devem permanecer no controle do próprio futuro.

O executivo também rejeitou a possibilidade de os humanos acabarem subordinados a sistemas que determinem quais comportamentos merecem ser recompensados.

As pessoas não devem ceder o controle do futuro à superinteligência, e essa exigência deve, em última instância, limitar o avanço da IA.

A mensagem é significativa porque vai além da defesa de mecanismos de segurança convencionais. Ela coloca o controle humano como um princípio que pode limitar até mesmo o desenvolvimento de sistemas mais capazes.

🔎 O ponto central: não basta garantir que uma inteligência artificial funcione como esperado. Também é necessário assegurar que as decisões fundamentais continuem submetidas à supervisão humana.

A declaração veio depois de uma conferência em Abu Dhabi

As palavras publicadas no X retomam comentários feitos por Altman na segunda-feira, 2 de novembro, durante a abertura da conferência de energia Adipec, em Abu Dhabi.

Em conversa com Mina Al-Oraibi, editora-chefe do jornal The National, o executivo classificou o controle humano como uma questão que não admite discussão.

Ele também afirmou que não deve haver transferência de poder para a inteligência artificial e que a tecnologia precisa servir às pessoas, e não o contrário.

Na mesma ocasião, Altman descreveu uma mudança expressiva nas capacidades dos sistemas de IA. Segundo ele, no início do ano, essas ferramentas quase sempre ficavam atrás dos cientistas mais brilhantes, mas agora seriam, na maioria das vezes, mais inteligentes do que eles.

A declaração não significa que a IA supere especialistas em todas as áreas ou que possa substituir integralmente o julgamento científico. Ainda assim, revela como o executivo enxerga a velocidade da evolução tecnológica.

⚠️ A preocupação vai além do desempenho: Altman disse que o setor precisará demonstrar que consegue evitar incidentes graves de segurança e problemas de alinhamento, isto é, situações em que o comportamento de um sistema não corresponde aos objetivos e limites estabelecidos pelos humanos.

A participação ocorreu em meio à assinatura de acordos entre Abu Dhabi e a OpenAI envolvendo energia, governo, investimentos e educação. O contexto mostra que a expansão da IA não depende apenas de avanços técnicos, mas também de infraestrutura, capital e parcerias institucionais.

A ideia também aparece no discurso do CEO da Anthropic

Um detalhe chama a atenção na publicação de Altman: uma das frases utilizadas por ele se aproxima de um argumento apresentado por Dario Amodei, CEO da Anthropic, em seu ensaio de 2024, Machines of Loving Grace.

O texto de Amodei explora diferentes cenários para uma sociedade transformada pela inteligência artificial, incluindo a possibilidade de sistemas capazes de influenciar os incentivos e as recompensas oferecidos aos seres humanos.

Altman não identificou publicamente a origem da frase citada. Uma análise mencionada no material de origem apontou a semelhança com o ensaio de Amodei, mas isso não comprova, por si só, que a passagem tenha sido reproduzida intencionalmente.

A aproximação é interessante porque OpenAI e Anthropic são concorrentes diretas no desenvolvimento de modelos avançados. Mesmo assim, seus líderes têm convergido em parte do discurso sobre os riscos de perder o controle sobre sistemas cada vez mais capazes.

🗣 Altman já havia pedido cautela antes

A declaração de novembro também não é um episódio isolado.

Em setembro, Altman manifestou concordância com Amodei sobre a necessidade de controlar o ritmo do desenvolvimento dos modelos mais avançados. Na mesma linha, afirmou ao Conselho de Segurança das Nações Unidas que sistemas de IA não deveriam ser treinados sem argumentos sólidos de que permaneceriam sob controle humano.

Essas posições refletem uma preocupação que ganhou espaço no debate sobre inteligência artificial: a velocidade da inovação pode superar a capacidade de compreender, testar e administrar todos os riscos envolvidos.

O desafio é especialmente complexo porque os sistemas são desenvolvidos em um ambiente competitivo. Uma empresa pode considerar necessário avançar rapidamente para não perder espaço, mesmo quando existem dúvidas sobre os impactos de determinadas capacidades.

💡 O dilema da indústria: defender limites de segurança é relativamente simples. O teste mais difícil é transformar esses compromissos em critérios concretos de desenvolvimento, avaliação e lançamento de modelos.

O The Washington Post, segundo o material fornecido, também abordou questões sobre a distância entre os compromissos públicos de segurança e sua aplicação prática.

Mas o que significa manter os humanos no controle?

A expressão pode parecer consensual, mas sua aplicação está longe de ser simples.

Na prática, ela envolve questões como quem define os objetivos de um sistema, quais decisões podem ser automatizadas, quando uma ferramenta deve interromper suas próprias ações e quem responde por eventuais danos.

Também há uma diferença importante entre manter uma pessoa formalmente responsável e garantir que ela consiga compreender e supervisionar decisões produzidas por sistemas complexos.

À medida que a IA assume tarefas mais sofisticadas, a supervisão humana precisa deixar de ser apenas uma declaração de princípios. Ela exige mecanismos técnicos, avaliações de risco, limites operacionais e formas de intervenção que funcionem na prática.

Isso não significa necessariamente interromper toda evolução tecnológica. Significa estabelecer quais capacidades podem ser desenvolvidas ou disponibilizadas, em quais condições e com quais garantias.

A corrida pela superinteligência continua

Apesar das declarações sobre segurança, os principais laboratórios continuam trabalhando para desenvolver modelos mais poderosos. Essa aparente contradição está no centro do debate sobre o futuro da IA.

Altman quer que o controle humano limite o avanço da tecnologia, mas transformar essa ideia em uma regra efetiva exigirá decisões difíceis das próprias empresas, além de participação de governos, pesquisadores e sociedade.

Na Adipec, o executivo afirmou que gostaria que sua posição sobre o controle humano nem precisasse ser dita. A necessidade de repetir o argumento, porém, mostra que o assunto continua longe de estar resolvido.

Se a inteligência artificial continuar ampliando suas capacidades, a questão deixará de ser apenas o que as máquinas conseguem fazer. Será também quem terá autoridade para decidir o que elas devem fazer, quais limites precisam respeitar e quando devem parar.

Apoie o Eurisko
Este conteúdo é independente, sem anúncios e feito por pessoas.
A inteligência artificial e as mudanças recentes do Google reduziram significativamente o alcance dos sites independentes. Se este conteúdo foi útil para você, considere apoiar o Eurisko e todo o ecossistema de projetos com qualquer valor.
Quero apoiar
Seguir:
Renê Fraga é fundador e editor-chefe do Eurisko, ecossistema editorial independente dedicado à inteligência artificial, código aberto, tecnologia e cultura digital. Atuando com projetos online desde 1996, escreve há mais de 20 anos sobre tecnologia e inovação, acompanhando a evolução da internet e o impacto das novas tecnologias na forma como vivemos, trabalhamos e pensamos.
Nenhum comentário