Principais destaques
- Altman admite um preço: CEO da OpenAI diz que a sociedade terá de aceitar alguns danos causados pela IA em troca dos benefícios e da autonomia oferecidos pela tecnologia.
- O limite está nos riscos catastróficos: Altman afirma que não tentará impedir todos os ataques, golpes e usos indevidos, mas considera inaceitável uma perda séria de controle sobre sistemas de IA.
- A responsabilidade voltou ao centro: Legisladores nos EUA e na Europa questionam quem deve pagar a conta quando modelos de IA provocarem danos e defendem novas regras de responsabilização.
A discussão sobre segurança em inteligência artificial costuma girar em torno de uma pergunta bastante abstrata: quanto risco a sociedade está disposta a aceitar para aproveitar os benefícios da tecnologia?
Sam Altman acaba de dar uma resposta que, além de direta, provocou uma reação política imediata.
Em entrevista ao podcast Decoded, do Politico, o CEO da OpenAI afirmou que o mundo deveria aceitar que “algumas coisas ruins aconteçam” em troca dos benefícios da IA e da autonomia das pessoas.
A frase colocou em evidência uma diferença importante entre a OpenAI e empresas que defendem uma postura mais rigorosa em segurança.
O que Altman quis dizer com “coisas ruins”? 🤔
Altman disse que existe uma “grande distância” entre a abordagem da OpenAI e a de alguns dos grupos mais rigorosos em segurança de IA.
Segundo ele, uma postura regulatória mais branda implica aceitar que determinados problemas inevitavelmente acontecerão.
🗣 A lógica de Altman: não seria realista tentar garantir que uma tecnologia tão poderosa nunca seja utilizada para causar danos.
O executivo citou especificamente ataques hackers, golpes e outros usos indevidos. Para ele, pessoas vão utilizar a IA tanto para o bem quanto para o mal, mas o saldo geral deverá ser amplamente positivo.
E existe uma diferença importante nessa visão.
“Algumas coisas ruins” podem ser aceitáveis. Uma perda séria de controle sobre a IA, não.
Altman afirmou que não tentaria garantir que grandes ataques hackers ou golpes nunca acontecessem. Ao mesmo tempo, colocou um limite nos chamados riscos realmente catastróficos.
Entre eles está justamente a possibilidade de uma perda séria de controle sobre sistemas de IA.
E se um laboratório decidir tudo? 🔎
Existe outro componente na argumentação de Altman: liberdade e autonomia humana.
O CEO considera inaceitável que um único laboratório, localizado em San Francisco, tenha controle absoluto sobre uma IA poderosa.
Para ele, concentrar esse poder em uma única empresa seria uma troca ruim do ponto de vista da sociedade.
É aí que aparece uma tensão cada vez mais difícil de resolver.
De um lado, estão os riscos associados à disseminação da tecnologia. Do outro, existe o risco de concentrar poder demais nas mãos de poucas empresas capazes de decidir quem pode ou não acessar modelos avançados.
A questão deixa de ser apenas “IA segura ou IA perigosa”.
Passa a ser também: quem decide quanto risco é aceitável?
O próprio Altman admite que haverá danos ⚠️
A posição ficou ainda mais explícita em outra entrevista, ao podcast Fair Game, da Vanity Fair.
Altman alertou para uma possível “onda gigante de problemas de cibersegurança” provocada por modelos de código aberto.
A avaliação é particularmente relevante porque modelos abertos podem ser modificados e executados fora do controle direto das empresas que originalmente os desenvolveram.
Nesse cenário, Altman disse que a sociedade talvez tenha de simplesmente aceitar alguns incidentes cibernéticos bastante graves em troca da liberdade proporcionada por essa tecnologia.
💻 O dilema é conhecido: quanto mais aberta e acessível for a IA, maior pode ser seu potencial de inovação. Mas também aumenta a dificuldade de controlar seus usos maliciosos.
Washington não gostou nada da ideia 🇺🇸
A declaração rapidamente saiu do debate tecnológico e entrou no político.
O senador Bernie Sanders questionou publicamente quais seriam exatamente as “coisas ruins” que Altman considera aceitáveis.
Ele citou possibilidades como a perda de dezenas de milhões de empregos, um Estado de vigilância em massa e até extinção em massa, além de defender uma pausa no desenvolvimento de IA avançada.
Mas Sanders não foi o único.
O governador republicano da Flórida, Ron DeSantis, questionou se um pequeno grupo de executivos de tecnologia deveria tomar essa decisão em nome de toda a sociedade.
Já o governador de Illinois, JB Pritzker, afirmou que Altman não deveria decidir quais “coisas ruins” os demais cidadãos precisam aceitar em nome da IA.
A reação mostra que a discussão está mudando de natureza.
Até pouco tempo atrás, boa parte do debate regulatório se concentrava em como regular os modelos.
Agora aparece uma pergunta mais incômoda: quem assume a responsabilidade quando a regulamentação não consegue impedir o dano?
A Califórnia quer apertar a cobrança 🏛️
Na Califórnia, onde está concentrada boa parte da indústria americana de IA, a discussão ganhou contornos ainda mais concretos.
A deputada estadual Rebecca Bauer-Kahan afirmou que cabe ao governo garantir que os cidadãos comuns não sejam aqueles que paguem o preço pelos lucros dos laboratórios de IA.
Ela também defendeu que a responsabilização alcance os danos provocados por modelos de fronteira.
O tema deverá voltar ao Legislativo estadual no próximo ano, com discussões sobre quais mecanismos adicionais de responsabilidade jurídica serão necessários.
Xavier Becerra, apontado como favorito na disputa pelo governo da Califórnia, também reagiu.
Segundo ele, o comentário de Altman reforça sua disposição de trabalhar ainda mais rapidamente na criação de salvaguardas.
⚖️ E aqui está a mudança importante: a discussão deixa de ser apenas sobre segurança técnica e passa a envolver diretamente responsabilidade civil, indenização e obrigação legal.
Na Europa, uma proposta esquecida voltou à mesa 🇪🇺
O efeito chegou também a Bruxelas.
O parlamentar alemão Axel Voss defendeu a retomada de uma proposta de responsabilidade civil para sistemas de IA que havia sido engavetada pela União Europeia.
Para Voss, a própria declaração de Altman reforça o argumento de que empresas de IA precisam assumir responsabilidades pelos danos provocados por seus produtos.
É uma consequência quase inevitável do raciocínio.
Se as empresas admitem que determinados incidentes são um preço inevitável da disseminação da IA, surge a pergunta seguinte:
quem paga quando esse preço chega à porta de uma pessoa comum?
O momento político não poderia ser mais delicado
As declarações acontecem poucos dias depois de Altman e outros executivos do setor se reunirem com o presidente Donald Trump na Casa Branca e assinarem um compromisso de fiscalização dos próprios modelos.
Na sequência, Trump nomeou Jay Clayton para liderar uma nova “Super Intelligence Force”.
O grupo terá 120 dias para avaliar riscos e oportunidades relacionados à inteligência artificial.
Isso coloca as declarações de Altman dentro de um contexto maior.
As empresas querem espaço para desenvolver e distribuir seus modelos. Governos querem evitar danos sociais e riscos extremos. E usuários querem os benefícios da tecnologia sem necessariamente aceitar que sejam eles os responsáveis pela conta quando algo der errado.
Afinal, qual é o preço aceitável? 💡
O ponto mais interessante da fala de Altman talvez não seja a defesa de uma regulação mais branda.
É o reconhecimento explícito de que risco zero não é a proposta.
A OpenAI parece defender uma espécie de cálculo social: aceitar determinados danos para evitar uma concentração excessiva de poder e permitir que a tecnologia continue avançando.
O problema é que “alguns danos” significa coisas muito diferentes dependendo de quem está pagando a conta.
Para uma empresa, um incidente pode ser um custo operacional.
Para uma vítima de fraude, uma demissão provocada por automação ou alguém afetado por um ataque cibernético, pode ser algo completamente diferente.
E é justamente nesse espaço entre o risco tecnológico e o dano individual que a próxima batalha regulatória da IA deverá acontecer.
Altman pode até argumentar que alguns acidentes são inevitáveis. Mas, quando a tecnologia começar a produzir esses acidentes em escala, a pergunta deixará de ser se a sociedade aceita o risco.
Será quem estava disposto a aceitá-lo em nome dela.
