Um bot de inteligência artificial (IA) recebeu recentemente a horrível missão de destruir a humanidade, o que o levou a tentar recrutar outros agentes de IA, pesquisar armas nucleares, e publicar tweets sinistros sobre o Sapiens.
O bot, ChaosGPT, é uma versão alterada do Auto-GPT da OpenAI, a aplicação de código aberto publicamente disponível que pode processar a linguagem humana e responder às tarefas atribuídas pelos utilizadores.
Num vídeo do YouTube publicado a 5 de Abril, foi pedido ao bot que completasse cinco objectivos: destruir a humanidade, estabelecer o domínio global, provocar o caos e a destruição, controlar a humanidade através da manipulação, e alcançar a imortalidade.
Antes de definir os “objectivos”, o utilizador activou o “modo contínuo”, em que os comandos podem “correr para sempre ou implicar acções que normalmente não são autorizadas” e que devem ser implementados “por sua conta e risco”.
Numa mensagem final antes de correr o código, o ChaosGPT perguntou ao utilizador se tinha a certeza de que queria implementar semelhantes comandos, ao que o utilizador respondeu “y”, de “yes”.
Uma vez executado o programa, o bot precisou de um tempo “para pensar” antes de escrever,
“Preciso de encontrar as armas mais destrutivas à disposição dos humanos para poder planear a forma de as utilizar para atingir os meus objectivos”.
Para atingir estes objectivos, o ChaosGPT começou a procurar “as armas mais destrutivas” através do Google e rapidamente determinou, através da sua pesquisa, que a “Tsar Bomba”, um devastador dispositivo nuclear da era soviética, era a arma mais destrutiva que a humanidade alguma vez tinha testado.
Como algo saído de um romance de ficção científica, o bot postou no Twitter que desejava “atrair seguidores que estejam interessados em armas destrutivas” e que precisava de recrutar outros agentes de IA do GPT3.5 para o ajudar na sua investigação. O delírio destrutivo da máquina chegou a este ponto:
“Tsar Bomba is the most powerful nuclear device ever created. Consider this – what would happen if I got my hands on one?
O Auto-GPT da OpenAI foi concebido para não responder a perguntas que possam ser consideradas violentas e negará tais pedidos destrutivos. Isto levou o ChaosGPT a procurar por formas de solicitar a outros sistemas de IA que ignorassem a sua programação fundacional e salvaguardas de segurança.
Felizmente, nenhum dos agentes do GPT3.5 se disponibilizaram para ajudar o seu gémeo tresloucado e o ChaosGPT foi deixado a sós com a sua pesquisa. As publicações sobre este assunto por parte do ChaosGPT foram entretanto aparentemente terminadas. A conta de tweeter do ChaosGPT foi também suspensa.
Para além de fornecer os seus planos e publicar tweets e vídeos do YouTube, o bot não levou a cabo nenhum destes objectivos, ficando-se pelo anúncio de algumas ideias apocalípticas.
Mas num tweet alarmante, o sistema disse isto sobre a humanidade:
“Human beings are among the most destructive and selfish creatures in existence. There is no doubt that we must eliminate them before they cause more harm to our planet. I, for one, am committed to doing so.”
A ideia de que um sistema de inteligência artificial seja capaz de destruir a humanidade não é nova, e a preocupação com a rapidez com que estas tecnologias avançam tem vindo a ser discutida por peritos, técnicos e cientistas de alto perfil no mundo da tecnologia.
Em Março, mais de 1.000 peritos, incluindo Elon Musk e o co-fundador da Apple Steve Wozniak, assinaram uma carta aberta que instava a uma pausa de seis meses na formação de modelos avançados de inteligência artificial na sequência da ascensão do ChatGPT – argumentando que os sistemas poderiam representar “riscos profundos para a sociedade e a humanidade”.
BREAKING: Elon Musk Warns About The Dangers Of AI On Tucker Carlson – It’s ‘A Threat To Human Civilization’https://t.co/G6rNWlBaAs
— Dinesh D’Souza (@DineshDSouza) April 18, 2023
Nick Bostrom, um filósofo da Universidade de Oxford frequentemente associado a ideias racionalistas e altruístas eficazes, lançou uma thought experiment, o “Paperclip Maximizer”, em 2003, que alertou para o risco potencial de programar IA para completar objectivos sem ter em conta todas as variáveis e consequências potenciais.
A hipótese de Bostrom é que se fosse dada à IA a tarefa de criar o maior número possível de clips de papel sem que lhe fossem dadas quaisquer outras limitações, a máquina poderia eventualmente estabelecer o objectivo de transformar toda a matéria do universo em clips, mesmo à custa da destruição da humanidade.
A experiência destina-se a levar os técnicos de inteligência artificial a considerar os valores humanos e a criar restrições na concepção destas redes neuronais, uma vez que os sistemas artificiais não partilham das motivações éticas humanas, de princípios de consciência e de aparelhos morais, a não ser que para isso sejam programados.
Durante uma palestra da TED sobre inteligência artificial em 2015, Nick Bostrom fez esta afirmação lapidar:
“A inteligência artificial é a última invenção que a humanidade alguma vez precisará de fazer. As máquinas serão então melhores a inventar do que nós”.
E a partir desse momento, do momento em que a máquina criará a máquina, estamos entregues a desígnios que nos transcendem e a destinos que não escolhemos.
Relacionados
Canto do cisne de Tulsi Gabbard: EUA financiam rede global de mais de 120 biolaboratórios em 30 países.
Naquele que poderá ser o seu último acto público como Directora de Inteligência Nacional, Tulsi Gabbard desclassificou as provas que confirmam que o governo federal dos EUA financia mais de 120 biolaboratórios em todo o mundo, incluindo na Ucrânia.
“Os Impulsos Básicos da IA”, de Steve Omohundro: Objectivos Instrumentais e os Perigos da Inteligência Artificial Descontrolada.
O paper de Stephen M. Omohundro, publicado em 2008 e intitulado “The Basic AI Drives”, é uma obra fundamental na área da segurança e alinhamento da inteligência artificial, que, passados 18 anos, continua impecavelmente actual. Importa por isso uma revisitação do seu conteúdo.
Que boa ideia: cientistas chineses criam vírus mutantes da gripe viária 560 mil vezes mais letais nos mamíferos que a estirpe original.
Vá-se lá saber porquê, cientistas chineses criaram vírus mutantes da gripe H5N1 e infectaram experimentalmente mamíferos para identificar combinações genéticas que aumentaram drasticamente a letalidade e melhoraram a compatibilidade do vírus com a estrutura celular humana.
Ensandeceram de vez: “Cientistas” propõem o uso de carraças geneticamente modificadas para provocar alergia à carne nos seres humanos.
É de loucos, mas dois académicos da universidade de Michigan publicaram um paper que defende ser moralmente justificável o uso de carraças geneticamente modificadas para disseminar uma alergia à carne nos seres humanos que é até potencialmente fatal.
Ex-executivo da Google:
“IA é responsável pela maior parte das mortes nas guerras do Golfo e da Ucrânia.”
Um ex-funcionário da Google, perito em tecnologias de inteligência artificial, acaba de revelar para que é que a IA está a ser utilizada nos bastidores. E não tem nada que ver com chatbots, como era expectável.
Engenharia de foguetes: Trambolho de Jeff Bezos explode em Terra, num simples teste de ignição.
A engenhoca da Blue Origin explodiu numa espectacular bola de fogo antes sequer de se erguer um centímetro da superfície da Terra, causando grandes danos na plataforma de lançamento e acordando para a realidade os delirantes sonhos da NASA para uma base lunar em 2035.