Principais destaques
- A pressão chegou ao limite: pesquisadores de segurança de IA relatam licenças médicas, acompanhamento psicológico e demissões diante da intensidade do trabalho.
- As saídas se acumulam: mais de uma dúzia de pesquisadores seniores deixaram Anthropic, OpenAI e Google DeepMind nos últimos dois anos, segundo o Financial Times.
- O debate mudou de tom: além de discutir os riscos da tecnologia, funcionários começam a questionar se os próprios laboratórios estão avançando rápido demais.
Quando estudar o risco passa a ter um custo pessoal 🧠
Pesquisadores encarregados de descobrir os riscos da inteligência artificial estão enfrentando um problema particularmente estranho: o trabalho de tentar tornar a tecnologia mais segura está afetando a saúde mental de quem o faz.
Uma investigação publicada pelo Financial Times em 22 de setembro aponta que funcionários envolvidos com segurança de IA estão tirando licença médica, buscando acompanhamento psicológico e deixando seus empregos em meio à pressão crescente.
O fenômeno aparece com força no Instituto de Segurança de IA do Reino Unido, órgão responsável por avaliar modelos avançados de inteligência artificial.
Ali, segundo o jornal, vários funcionários estão atualmente afastados por problemas relacionados ao estresse.
🔬 O trabalho não é exatamente tranquilo: algumas equipes precisam testar até onde modelos de IA podem chegar em áreas como cibersegurança e biologia.
Isso significa investigar, por exemplo, se sistemas avançados poderiam ajudar alguém a descobrir vulnerabilidades de software ou desenvolver novas ameaças biológicas.
O paradoxo: para testar o perigo, é preciso chegar perto dele ⚠️
A lógica por trás desses testes é justamente descobrir problemas antes que sistemas mais poderosos cheguem às mãos do público.
Mas existe um custo psicológico em passar os dias analisando cenários que envolvem ataques cibernéticos, armas biológicas ou sistemas capazes de superar as capacidades humanas em determinadas tarefas.
Um ex-funcionário descreveu ao Financial Times o ambiente do instituto como estressante e, em alguns momentos, tóxico.
E a pressão não parece estar restrita ao Reino Unido.
Funcionários e ex-funcionários de empresas como Anthropic, OpenAI e Google DeepMind também relataram dificuldades semelhantes.
“A sensação de ter perdido o controle” está levando pessoas a pedir demissão ou entrar de licença médica.
Um funcionário da DeepMind afirmou ao Financial Times que trabalhar com segurança de IA pode carregar um risco tão elevado de esgotamento que a missão começa a parecer impossível.
E quando quem constrói a tecnologia deixa de confiar nela? 🤖
Esse talvez seja o aspecto mais interessante da história.
Não estamos falando apenas de pessoas que trabalham com IA e discordam de uma política corporativa. São pesquisadores que passaram anos justamente estudando como sistemas avançados poderiam causar danos.
Alguns passaram a considerar que o ritmo de desenvolvimento pode estar ultrapassando a capacidade das próprias empresas de compreender e controlar seus sistemas.
📉 O resultado aparece nas equipes: mais de uma dúzia de pesquisadores seniores deixaram os três grandes laboratórios ocidentais de IA nos últimos dois anos, segundo o levantamento do Financial Times.
Entre as empresas citadas estão Anthropic, OpenAI e Google DeepMind.
Uma demissão chamou atenção
Um dos casos mais recentes envolve Jacob Coxon, de 27 anos, que deixou a Anthropic no início de setembro, depois de apenas quatro meses na empresa.
Segundo o material apresentado, Coxon abriu mão de ações não adquiridas de valor considerável ao sair.
Em uma publicação no X que alcançou mais de 115 milhões de visualizações, ele afirmou que pessoas que desenvolvem IA realmente acreditam que a tecnologia poderia provocar a extinção humana antes do fim da década.
Em entrevista à CNN, Coxon disse que as empresas de IA estão “apostando com nossas vidas” e apontou como principal preocupação a possibilidade de sistemas se tornarem progressivamente mais inteligentes por conta própria.
🗣 E ele não está sozinho nessa preocupação: o pesquisador de alinhamento da Anthropic, Evan Hubinger, afirmou que estima pessoalmente uma probabilidade superior a 10% de a IA provocar a extinção humana na próxima década.
Essa é uma avaliação pessoal de Hubinger, e não uma previsão consensual da comunidade científica.
O problema não termina na porta do laboratório
Existe ainda uma segunda questão: o que acontece quando funcionários acreditam que a organização para a qual trabalham está avançando rápido demais?
Nos últimos anos, esse tipo de conflito já apareceu diversas vezes no setor.
De um lado estão empresas investindo bilhões de dólares para desenvolver modelos cada vez mais capazes. De outro, pesquisadores preocupados com alinhamento, segurança e possíveis consequências desses avanços.
A tensão aumenta porque os próprios executivos dessas empresas também passaram a falar publicamente sobre riscos.
Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, já defenderam medidas de cautela em diferentes contextos.
Mas existe uma discussão paralela sobre quanto dessas preocupações representa uma tentativa genuína de controlar os riscos e quanto pode estar relacionado aos interesses estratégicos das próprias empresas.
Essa segunda interpretação é defendida por críticos da indústria, entre eles o jornalista Steven Vaughan-Nichols, da Computerworld.
E os funcionários? Eles podem simplesmente parar? ✋
Foi justamente aí que entrou uma proposta apresentada em um evento do Stanford HAI em 21 de setembro.
O professor Rob Reich defendeu que trabalhadores de empresas de IA poderiam considerar formas de ação coletiva para pressionar os laboratórios a reduzir o ritmo de desenvolvimento.
A referência utilizada por Reich é particularmente interessante: a crise que atingiu o conselho da OpenAI em 2023.
Naquele episódio, a mobilização dos funcionários teve papel importante na manutenção de Sam Altman como CEO.
💡 A ideia agora é aplicar a mesma força coletiva a outra questão: se funcionários de empresas de IA realmente acreditam que o desenvolvimento está avançando rápido demais, uma carta aberta talvez não seja suficiente.
Reich observou que mais de 1.300 pessoas assinaram recentemente uma carta pedindo um desenvolvimento mais lento da IA.
Mas questionou o significado prático desse movimento se os próprios signatários não estiverem dispostos sequer a considerar uma paralisação de um dia.
A questão que começa a incomodar a indústria 🔎
O caso revela uma mudança importante no debate sobre inteligência artificial.
Durante muito tempo, os riscos eram discutidos principalmente como um problema técnico: alinhamento, segurança, testes, limites de capacidade e mecanismos de controle.
Agora existe também uma dimensão trabalhista e humana.
Quem testa os limites desses sistemas também precisa lidar com o peso psicológico de descobrir o que eles podem fazer.
E há uma ironia difícil de ignorar: quanto mais avançados ficam os modelos, mais importante se torna o trabalho de segurança. Mas, se esse trabalho estiver levando justamente os pesquisadores responsáveis por ele ao esgotamento e à saída dos laboratórios, surge uma pergunta incômoda.
Quem ficará para testar a próxima geração?
A resposta pode depender não apenas de novos métodos de segurança, mas também de quanto tempo as pessoas encarregadas de procurar os perigos da IA conseguem permanecer dentro da sala.
