A OpenAI anunciou que está a procurar de preencher uma nova posição intitulada “chefe de preparação” como parte dos seus esforços para lidar com os riscos associados à inteligência artificial (IA), incluindo uma possível IA maliciosa. O cargo foi revelado pelo CEO da OpenAI, Sam Altman, que reconheceu os “verdadeiros desafios” impostos pelas tecnologias avançadas desenvolvidas pela sua luciferina empresa.
“Este será um trabalho stressante”, afirmou Altman, sem mostrar sinais da sua inominável desfaçatez, destacando os elevados riscos e a complexidade envolvidos na gestão dos potenciais perigos dos sistemas de IA.
O infeliz que um dia afirmou “a IA provavelmente levará ao fim do mundo, mas, entretanto, haverá grandes empresas”, salientou ainda as preocupações com o impacto das tenologias na saúde mental e o seu potencial para expor vulnerabilidades críticas nos sistemas de segurança informática.
Numa publicação no X, Altman elaborou sobre a necessidade de uma compreensão mais refinada das capacidades da IA.
“Estamos a entrar num mundo onde precisamos de uma compreensão e medição mais refinadas de como estas capacidades podem ser abusadas e como podemos limitar estes efeitos negativos, tanto nos nossos produtos como no mundo.”
O CEO da OpenAI deu ainda nota que, embora exista uma base alegadamente sólida para mensurar e controlar as capacidades da IA, muito trabalho ainda tem de ser feito para lidar com as complexidades e os casos extremos.
A estratégia da empresa passa por ampliar as medidas de segurança existentes, que incluem “salvaguardas cada vez mais complexas”. De acordo com o anúncio de recrutamento, o cargo irá focar-se em melhorar os padrões de segurança juntamente com o desenvolvimento de sistemas de IA mais avançados. O salário oferecido é de 555.000 dólares por ano e participação accionista na empresa.
Não é muito dinheiro se considerarmos a missão.
Em Maio do ano passado, o ContraCultura noticiou que um ex-cientista-chefe da OpenAI, Ilya Sutskever, sugeriu a construção de um bunker para que os quadros da empresa se protegessem contra os potenciais riscos associados à inteligência artificial geral (AGI) que estavam a tentar criar.
O bot ChaosGPT, uma versão alterada do Auto-GPT da OpenAI, recebeu em 2023 a horrível missão de destruir a humanidade, o que o levou a tentar recrutar outros agentes de IA, pesquisar armas nucleares, e publicar tweets sinistros sobre a extinção da humanidade.
Chegados ao ponto extremo em que até as tecnológicas que criam estes sistemas têm medo deles, talvez fosse boa ideia parar com este exercício apocalíptico, certo?
Errado. O apocalipse é o objectivo último.
Relacionados
Canto do cisne de Tulsi Gabbard: EUA financiam rede global de mais de 120 biolaboratórios em 30 países.
Naquele que poderá ser o seu último acto público como Directora de Inteligência Nacional, Tulsi Gabbard desclassificou as provas que confirmam que o governo federal dos EUA financia mais de 120 biolaboratórios em todo o mundo, incluindo na Ucrânia.
“Os Impulsos Básicos da IA”, de Steve Omohundro: Objectivos Instrumentais e os Perigos da Inteligência Artificial Descontrolada.
O paper de Stephen M. Omohundro, publicado em 2008 e intitulado “The Basic AI Drives”, é uma obra fundamental na área da segurança e alinhamento da inteligência artificial, que, passados 18 anos, continua impecavelmente actual. Importa por isso uma revisitação do seu conteúdo.
Que boa ideia: cientistas chineses criam vírus mutantes da gripe viária 560 mil vezes mais letais nos mamíferos que a estirpe original.
Vá-se lá saber porquê, cientistas chineses criaram vírus mutantes da gripe H5N1 e infectaram experimentalmente mamíferos para identificar combinações genéticas que aumentaram drasticamente a letalidade e melhoraram a compatibilidade do vírus com a estrutura celular humana.
Ensandeceram de vez: “Cientistas” propõem o uso de carraças geneticamente modificadas para provocar alergia à carne nos seres humanos.
É de loucos, mas dois académicos da universidade de Michigan publicaram um paper que defende ser moralmente justificável o uso de carraças geneticamente modificadas para disseminar uma alergia à carne nos seres humanos que é até potencialmente fatal.
Ex-executivo da Google:
“IA é responsável pela maior parte das mortes nas guerras do Golfo e da Ucrânia.”
Um ex-funcionário da Google, perito em tecnologias de inteligência artificial, acaba de revelar para que é que a IA está a ser utilizada nos bastidores. E não tem nada que ver com chatbots, como era expectável.
Engenharia de foguetes: Trambolho de Jeff Bezos explode em Terra, num simples teste de ignição.
A engenhoca da Blue Origin explodiu numa espectacular bola de fogo antes sequer de se erguer um centímetro da superfície da Terra, causando grandes danos na plataforma de lançamento e acordando para a realidade os delirantes sonhos da NASA para uma base lunar em 2035.