O ex-cientista-chefe da OpenAI, Ilya Sutskever, sugeriu a construção de um bunker para protecção contra os riscos potenciais associados à inteligência artificial geral (AGI), de acordo com novos detalhes compartilhados por pessoas familiarizadas com o tumulto de 2023 no topo da tecnológica de inteligência artificial (IA). As revelações, que surgiram em entrevistas conduzidas pela jornalista Karen Hao, destacam a intensa preocupação de Sutskever com a AGI e suas implicações.
Durante uma reunião no Verão de 2023, Sutskever terá afirmado:
“Vamos definitivamente construir um bunker antes de lançarmos a AGI”.
Dois outros indivíduos que participaram da reunião corroboraram o relato, com um deles descrevendo as crenças de Sutskever na AGI como algo semelhante a antecipar um armagedão.
A AGI refere-se a uma forma de IA capaz de compreender quaisquer tarefas intelectuais que um ser humano possa realizar e de as executar, possivelmente de forma mais eficaz. Sutskever, que foi cofundador da OpenAI, há muito que tem manifestado as suas opiniões sobre a AGI, chegando mesmo a afirmar em 2022 que alguns modelos de IA podem ser “ligeiramente conscientes”. As suas preocupações com o desenvolvimento da AGI aprofundaram-se em meados de 2023, juntamente com a crescente insatisfação com a forma como a OpenAI lida com a tecnologia.
Esse mal-estar desempenhou um papel na decisão de Sutskever de se juntar a outros membros do conselhonuma tentativa fracassada de destituir o CEO Sam Altman em Novembro de 2023. No entanto, fontes indicaram que a determinação de Sutskever vacilou quando os funcionários da OpenAI apoiaram Altman. Mais tarde, ele recuou na sua oposição à liderança de Altman, embora esse esforço para salvar o seu emprego não ter sido bem sucedido.
A turbulência interna, referida pelos membros da OpenAI como “The Blip”, sublinha as divisões dentro da empresa sobre a sua direcção e os riscos da AGI. Apesar da saída de Sutskever, o debate sobre o futuro da AGI e as suas potenciais consequências continua a pairar sobre a OpenAI e a indústria tecnológica em geral.
Recentemente, a OpenAI anunciou que estava a estabelecer uma parceria com uma start-up fundada por Jony Ive, famoso pelo seu trabalho no hardware da Apple, especialmente no design do iPhone. Embora nem Ive nem Altman tenham revelado o tipo de produto de hardware que a parceria irá produzir, especula-se que se irá centrar em “formas físicas de IA”, essencialmente transferindo a tecnologia de IA para outros veículos além dos computadores.
Elon Musk começou por se associar a Sam altman na fundação da OpenAI, mas afastou-se da empresa depois de ser confrontado com as decisões de gestão de Altman relacionadas com a ênfase no secretismo e os deficientes protocolos de segurança do projecto.
Relacionados
“Os Impulsos Básicos da IA”, de Steve Omohundro: Objectivos Instrumentais e os Perigos da Inteligência Artificial Descontrolada.
O paper de Stephen M. Omohundro, publicado em 2008 e intitulado “The Basic AI Drives”, é uma obra fundamental na área da segurança e alinhamento da inteligência artificial, que, passados 18 anos, continua impecavelmente actual. Importa por isso uma revisitação do seu conteúdo.
Que boa ideia: cientistas chineses criam vírus mutantes da gripe viária 560 mil vezes mais letais nos mamíferos que a estirpe original.
Vá-se lá saber porquê, cientistas chineses criaram vírus mutantes da gripe H5N1 e infectaram experimentalmente mamíferos para identificar combinações genéticas que aumentaram drasticamente a letalidade e melhoraram a compatibilidade do vírus com a estrutura celular humana.
Ensandeceram de vez: “Cientistas” propõem o uso de carraças geneticamente modificadas para provocar alergia à carne nos seres humanos.
É de loucos, mas dois académicos da universidade de Michigan publicaram um paper que defende ser moralmente justificável o uso de carraças geneticamente modificadas para disseminar uma alergia à carne nos seres humanos que é até potencialmente fatal.
Ex-executivo da Google:
“IA é responsável pela maior parte das mortes nas guerras do Golfo e da Ucrânia.”
Um ex-funcionário da Google, perito em tecnologias de inteligência artificial, acaba de revelar para que é que a IA está a ser utilizada nos bastidores. E não tem nada que ver com chatbots, como era expectável.
Engenharia de foguetes: Trambolho de Jeff Bezos explode em Terra, num simples teste de ignição.
A engenhoca da Blue Origin explodiu numa espectacular bola de fogo antes sequer de se erguer um centímetro da superfície da Terra, causando grandes danos na plataforma de lançamento e acordando para a realidade os delirantes sonhos da NASA para uma base lunar em 2035.
Projecto Frankenstein-Epstein: Empresa norte-americana está a manter activos e funcionais cérebros humanos retirados de cadáveres.
Num desenvolvimento digno de um filme de terror, uma startup de Connecticut está a manter cérebros humanos funcionais, fora do corpo, durante longos períodos de tempo, alegadamente para fins de investigação farmacêutica. Mas estarão estes cérebros conscientes?