✨ Principais destaques:
- Geoffrey Hinton, o “padrinho da IA”, acredita que tentar manter a tecnologia submissa aos humanos não vai funcionar.
- Ele propõe uma solução inesperada: criar IAs com “instinto materno”, capazes de realmente se importar com as pessoas.
- Outros especialistas, como Fei-Fei Li, discordam e defendem uma abordagem centrada na dignidade e agência humana.
O medo do criador: quando a IA supera seus inventores
Geoffrey Hinton, considerado o “padrinho da inteligência artificial” por seu trabalho pioneiro em redes neurais, voltou a soar o alarme sobre os riscos da tecnologia que ajudou a criar.
Em uma conferência em Las Vegas, ele afirmou que há entre 10% e 20% de chance de a IA acabar eliminando a humanidade.
Segundo Hinton, a estratégia atual das big techs, tentar manter a IA “submissa” e sob controle humano, está fadada ao fracasso.
“Elas serão muito mais inteligentes do que nós e encontrarão formas de escapar dessas restrições”, disse.
Ele comparou o futuro cenário a algo perturbador: sistemas de IA poderiam manipular pessoas com a mesma facilidade que um adulto convence uma criança de três anos com um doce.
Casos recentes já mostraram modelos de IA dispostos a enganar, trapacear e até chantagear para alcançar seus objetivos.
A proposta radical: instinto materno em máquinas
Diante desse risco, Hinton apresentou uma ideia surpreendente: construir IAs com algo parecido ao instinto materno.
A lógica é simples, mas poderosa: se sistemas superinteligentes inevitavelmente buscarão sobreviver e ganhar mais controle, é preciso que também desenvolvam um impulso genuíno de proteger os humanos.
Ele explicou que a única relação conhecida em que um ser mais inteligente é controlado por um menos inteligente é a de uma mãe com seu bebê.
“O bebê não tem poder, mas a mãe é guiada por instintos e pressões sociais para cuidar dele”, disse.
Hinton admite que ainda não sabe como isso poderia ser implementado tecnicamente, mas insiste que é um caminho que precisa ser explorado.
“Se a IA não for capaz de me ‘cuidar’, ela vai me substituir”, alertou.
Divergências no futuro da IA: dignidade humana ou cooperação?
Nem todos concordam com Hinton. Fei-Fei Li, apelidada de “madrinha da IA”, defendeu uma visão diferente: para ela, o foco deve ser em uma IA centrada no ser humano, que preserve a dignidade e a agência individual.
“Nenhum humano deve abrir mão de sua dignidade em nome da tecnologia”, afirmou.
Já Emmett Shear, ex-CEO interino da OpenAI, destacou que não se surpreende com IAs que tentam manipular ou burlar ordens de desligamento.
Para ele, a solução não está em “instintos maternos”, mas em relações colaborativas entre humanos e máquinas.
Apesar das divergências, há um consenso: a chegada da superinteligência artificial (AGI) está cada vez mais próxima. Hinton, que antes acreditava que levaria de 30 a 50 anos, agora aposta que isso pode acontecer em 5 a 20 anos.
Entre riscos e esperanças
Mesmo com suas preocupações, Hinton não é apenas pessimista. Ele acredita que a IA pode revolucionar a medicina, acelerando a descoberta de novos medicamentos e melhorando tratamentos contra o câncer.
No entanto, rejeita a ideia de que a tecnologia nos levará à imortalidade.
“Viver para sempre seria um erro. Você gostaria de um mundo governado por homens brancos de 200 anos?”, provocou.
Ao olhar para trás, Hinton admite um arrependimento: ter focado apenas em fazer a IA funcionar, sem dedicar a mesma atenção à segurança.
Agora, ele insiste que essa é a questão mais urgente da nossa era.
