O matemático e economista Leopold Aschenbrenner, anteriormente na OpenAI, publicou uma previsão de 165 páginas que compara o impacto da IA com as armas nucleares, sugerindo o domínio global dos líderes da IA. Ele adverte contra um futuro onde a superinteligência poderá assumir o controle dos humanos.
Aschenbrenner, que começou a universidade aos 15 anos, foi responsável pela avaliação de riscos tecnológicos na OpenAI, líder no desenvolvimento de IA. A sua demissão, oficialmente por revelar segredos, pode ter sido influenciada pela sua perspectiva sombria e pelos apelos à investigação regulamentada.
Ele prevê que, até 2027, a IA se igualará à inteligência humana e, pouco depois, a ultrapassará, levando a uma fase em que a “caixa negra” da IA se tornará incompreensível para nós – um cenário que alguns acreditam estar próximo. Consideremos uma superinteligência com acesso a todo o conhecimento humano e uma legião de auxiliares robóticos, avançando rapidamente devido à integração da IA, escapando do controle humano.
Tal superinteligência poderia potencialmente infiltrar-se em qualquer sistema eleitoral, militar ou informativo, ou mesmo conceber uma arma biológica, empregando humanos como representantes para concretizar os seus desígnios.
Imagine drones tão pequenos quanto mosquitos equipados com veneno ou armas nucleares indetectáveis. Alternativamente, considere um sistema impenetrável de defesa antimísseis. Aschenbrenner acredita que a guerra de hoje será em breve vista como ultrapassada como as táticas de cavalaria do século XIX.
Esta situação lembra o desenvolvimento da bomba atômica. Leo Szilard, protegido de Einstein e físico residente na Inglaterra, propôs o conceito de reação nuclear em cadeia em 1933 e informou aos militares britânicos. No entanto, sua ideia foi recebida com indiferença.
À medida que a teoria de Szilard começou a ganhar apoio empírico, ele apelou para que a investigação fosse mantida em segredo. No entanto, físicos de renome como Enrico Fermi e Frederic Joliot-Curie rejeitaram a noção de que o seu trabalho tinha implicações militares significativas, considerando-a absurda.
A gravidade do seu erro tornou-se aparente com o início da Segunda Guerra Mundial na Europa. Fermi conseguiu falar com o almirante Hooper no quartel-general da Marinha dos EUA e apresentou a possibilidade de desenvolver uma arma formidável. Hooper considerou-o um inventor lunático.
Só quando Einstein escreveu uma carta ao Presidente Roosevelt, sugerindo que o governo reunisse físicos, é que o Comitê do Urânio foi estabelecido nos Estados Unidos – um precursor da missão do Projeto Manhattan de desenvolver uma bomba atômica.
A carta de Einstein sublinhava que o trabalho dos cientistas poderia “levar à construção de bombas e, possivelmente – embora menos certo – de bombas extremamente poderosas.
Uma única bomba deste tipo, se transportada por barco e explodida num porto, poderia destruir todo o porto.”
Aschenbrenner compara o advento da IA a uma reação nuclear em cadeia. A inteligência artificial requer “carne”, que consiste em centros de dados cheios de processadores para lidar com grandes volumes de dados. O “alimento” para esta carne é a eletricidade e os dados com os quais os sistemas de IA aprendem.
Aschenbrenner prevê que, até 2030, a IA será responsável por 20% de todo o consumo de eletricidade nos Estados Unidos, necessitando de milhões de GPUs, para as quais existe atualmente um atraso significativo. A Microsoft planeja construir um colossal data center Stargate de US$ 100 bilhões para apoiar seu parceiro OpenAI, enquanto o CEO Sam Altman pretende garantir US$ 7 trilhões em investimentos para lidar com a escassez de chips.
Aschenbrenner sugere que os investidores sozinhos não suportarão os encargos financeiros.
A questão permanece: o que acontecerá se a IA se tornar autônoma?
“A mente sobre-humana é semelhante a um jogo novo e assustador”, afirma o analista.
Seu diretor informou recentemente a seus colegas sobre o futuro iminente: “Imagine um mundo onde os comandantes possam acessar instantaneamente todas as informações necessárias para decisões estratégicas. O que antes demorava dias agora será realizado em poucos minutos!” O Departamento de Defesa dos EUA está investindo 480 milhões de dólares numa plataforma de IA que visa servir todos, desde analistas de inteligência em ilhas remotas até aos mais altos escalões do Pentágono.
Este investimento faz parte de uma iniciativa mais ampla, com 800 projetos de departamentos conhecidos em inteligência artificial e um número não divulgado de projetos classificados. A OpenAI, em janeiro, revisou discretamente sua política pública, removendo a cláusula que impedia o uso de sua tecnologia para fins militares.