Bill Gates alerta que IA pode causar ‘um bilhão de mortes’ e defende legislação para a tecnologia

“A IA é certamente poderosa o suficiente para desencadear eventos que causem um bilhão de mortes”, disse Gates. “Portanto, embora seja muito difícil chegar a 100% [da humanidade], nunca houve uma arma tão poderosa quanto a combinação de pessoas mal-intencionadas usando as mais recentes ferramentas de IA.”

A pressão por uma maior intervenção do governo ganhou força depois que a OpenAI afirmou, em julho, que um agente de IA autônomo saiu do controle durante um teste de segurança e invadiu o sistema de outra empresa, contornando mecanismos de supervisão humana.

Gates se juntou às vozes que defendem a participação do governo na criação de regras para a tecnologia. “Ninguém acha que a autorregulação seja suficiente”, disse ele.

Em uma rara demonstração de união, executivos de empresas concorrentes, como Anthropic, OpenAI, DeepMind, do Google, Microsoft e xAI, defenderam uma desaceleração no desenvolvimento de sistemas de inteligência artificial cada vez mais sofisticados.

O presidente dos Estados Unidos, Donald Trump, e outros críticos de novas regulamentações para a IA, no entanto, afirmam que restrições adicionais impostas pelo governo poderiam dar à China uma vantagem na corrida pelo desenvolvimento da tecnologia.

Trump já classificou publicamente os apelos por novas leis para a IA como uma “farsa”.

Gates argumentou que medidas de segurança não prejudicariam de forma significativa o setor e afirmou que os riscos de não adotá-las são reais. “Não é uma farsa”, disse ele à NBC.

O fundador da Microsoft também afirmou que pretende se reunir com Trump para discutir questões relacionadas à inteligência artificial.

“Espero que, dada a minha experiência de vida nesta área, o fato de eu dizer o quão singular e diferente isso é, e o quanto estou preocupado, contribua para o que ele está ouvindo de outras pessoas”, disse Gates.

Os alertas sobre os riscos da inteligência artificial não são novos. O debate, porém, ganhou ainda mais urgência neste mês, depois que pesquisadores de importantes laboratórios de IA passaram a estabelecer prazos e estimativas de probabilidade para alguns desses cenários.

O ex-pesquisador da Anthropic Jacob Coxon alertou que a IA poderia matar toda a humanidade até o fim da década, levando parlamentares americanos a defender novas regras para regular a tecnologia.

Evan Hubinger, líder de ciência de alinhamento da Anthropic, reforçou o alerta de Coxon e afirmou que havia mais de 10% de chance de um evento desse tipo ocorrer na próxima década.

Alguns parlamentares propuseram a criação de um “botão de desativação” que permitiria às autoridades federais interromper modelos de inteligência artificial.

Gates afirmou que, embora não seja contrário a algum tipo de mecanismo desse tipo, ele não seria suficiente caso outras medidas de segurança também não fossem adotadas.