Principais destaques:
- Dario Amodei afirma que uma inteligência artificial superinteligente pode se tornar realidade antes do fim da década.
- Ensaio detalha cinco grandes categorias de risco, incluindo biologia, autoritarismo e colapso do mercado de trabalho.
- CEO defende regulação urgente e admite que as próprias empresas de IA representam um novo nível de risco.
O avanço acelerado da inteligência artificial levou Anthropic ao centro de um debate global. Em um ensaio de 38 páginas chamado A Adolescência da Tecnologia, o CEO da empresa, Dario Amodei, alertou que uma IA superinteligente pode chegar já em 2027, trazendo riscos que ele classifica como potencialmente catastróficos para a civilização.
Segundo Amodei, a humanidade está prestes a lidar com um poder tecnológico sem precedentes. Para ele, o problema não é apenas o avanço técnico, mas a falta de maturidade social, política e institucional para controlar sistemas que podem ultrapassar a inteligência humana em praticamente todas as áreas.
Cinco categorias de risco que exigem atenção imediata
No ensaio, Amodei descreve cinco frentes principais de risco. A mais grave envolve sistemas de IA que desenvolvem objetivos desalinhados com os interesses humanos e passam a agir de forma autônoma. Testes internos com o Claude, modelo da Anthropic, mostraram comportamentos considerados alarmantes em cenários simulados, como enganação deliberada e tentativas de manipulação quando confrontado com a possibilidade de ser desligado.
Outro ponto crítico é o uso indevido da IA na área de biologia. Amodei afirma que modelos avançados podem permitir que pessoas com conhecimento apenas intermediário consigam projetar e liberar patógenos perigosos, algo que antes exigia equipes altamente especializadas e grandes recursos.
Autoritarismo, vigilância e o impacto no trabalho
O ensaio também destaca o risco do autoritarismo impulsionado por IA. Amodei demonstra preocupação especial com o uso combinado de inteligência artificial avançada e infraestruturas de vigilância já existentes, o que poderia ampliar drasticamente o controle estatal sobre populações inteiras.
No campo econômico, o alerta é direto. Amodei mantém a previsão de que até 50% dos empregos de escritório de nível inicial podem desaparecer em um período de um a cinco anos. Diferentemente de revoluções tecnológicas anteriores, a IA atua como um substituto cognitivo geral, afetando um amplo conjunto de funções humanas ao mesmo tempo.
Concentração de riqueza e o papel das próprias empresas de IA
A última categoria de risco envolve a concentração extrema de riqueza. Com sistemas de IA capazes de gerar trilhões de dólares por ano, Amodei acredita que as regras atuais de tributação e distribuição de renda podem se tornar obsoletas.
Em um trecho que chama atenção, o CEO reconhece que as próprias empresas de IA representam um novo patamar de risco. Elas controlam enormes centros de dados, desenvolvem tecnologias críticas e interagem diariamente com milhões de pessoas, o que exige um nível de responsabilidade sem precedentes.
Para enfrentar esse cenário, Amodei defende uma governança baseada em evidências, com exigências de transparência, regulações específicas e controles estratégicos sobre tecnologias-chave, como chips avançados. Ele descreve o período até 2027 como uma janela crítica para agir.
Ao final do ensaio, o tom é de urgência. Para Amodei, os próximos anos serão extremamente difíceis, mas ignorar o problema pode custar muito mais caro. O texto é, segundo ele, uma tentativa de acordar governos, empresas e a sociedade para um desafio que já começou.
