Num inquérito de referência realizado no início deste ano, mais de metade dos 2.778 investigadores inquiridos manifestaram a sua preocupação com a ameaça existencial representada pela inteligência artificial (IA) sobre-humana. A sondagem sugeria uma probabilidade de cinco por cento de a humanidade poder ser extinta ou sofrer outros “resultados extremamente negativos” devido ao aparecimento de sistemas de IA super-inteligentes.
Entre as vozes que estão a lançar o alarme, destaca-se Roman Yampolskiy, um distinto professor de ciências informáticas da Universidade de Louisville e uma figura muito respeitada na investigação sobre IA. No podcast de Lex Fridman, Yampolskiy fez uma previsão sombria, estimando uma probabilidade de 99,9% de que a IA possa obliterar a humanidade nos próximos 100 anos.
“A criação de superinteligências gerais pode não acabar bem para a humanidade a longo prazo. A melhor estratégia pode ser simplesmente evitar começar este jogo potencialmente perigoso”.
Yampolskiy também destacou os problemas existentes com os actuais modelos de linguagem de grande dimensão, referindo a sua propensão para erros e a suscetibilidade à manipulação como prova de potenciais riscos futuros.
“Já foram cometidos erros; estes sistemas foram desbloqueados e utilizados de formas que os criadores não previram”.
Além disso, Yampolskiy sugeriu que um sistema super-inteligente poderá conceber métodos imprevisíveis para atingir fins destrutivos, apresentando desafios que poderemos nem sequer reconhecer como ameaças até ser demasiado tarde. Embora tenha admitido que a probabilidade das tecnologias de inteligência artificial conduzirem à extinção da humanidade não é de 100%, avisou que o risco é excessivamente elevado, apenas um milésimo abaixo do absoluto.
Sublinhando o desafio contínuo de gerir um sistema capaz de tomar milhares de milhões de decisões por segundo ao longo de muitos anos, o professor afirmou:
“Mesmo com o aumento exponencial dos nossos recursos, o risco nunca desaparecerá totalmente”.
Yampolskiy não é de todo o único perito em ciências da computação a advertir para os riscos das tecnologias de IA. Numa declaração divulgada em Junho de 2023, 350 líderes do sector declararam que evitar que a inteligência artificial cause a extinção da humanidade deve ser uma prioridade global de alto nível.
Geoffrey Hinton, um cientista da Google, apelidado de “Padrinho” da inteligência artificial, demitiu-se da empresa, para poder alertar o mundo sobre os perigos que a tecnologia apresenta, numa altura em que grandes empresas concorrem ferozmente para dominar este mercado.
Também em 2023, durante uma entrevista concedida a Tucker Carlson, Elon Musk revelou que a Google há muito que planeia criar um sistema de Inteligência artificial com características omniscientes, considerando que é em absoluto concebível que a IA possa assumir o controlo da civilização e tomar decisões fundamentais que afectem profundamente a vida das pessoas, o que em última análise pode levar à “destruição civilizacional”.
Relacionados
OpenAI e Anthropic estão a investigar dezenas de milhares de incidentes de segurança criados pelos seus sistemas de IA
A OpenAI e a Anthropic debatem-se com um problema de segurança que é várias ordens de magnitude mais complexo do que se sabe publicamente, incluindo casos em que o "botão de desactivação" não impediu a actividade de agentes de IA maliciosos.
Luna 2: O primeiro contacto.
Em 1959, a nave soviética tornou-se o primeiro veículo artificial a atingir a superfície da Lua, inaugurando uma era de grandes descobertas: o lançamento das primeiras sondas, o primeiro veículo espacial lunar e o primeiro homem a pisar o satélite natural da Terra.
Um número para a escadaria do cosmos.
Chris Lehto segue a velha máxima "como em cima, assim em baixo" para determinar uma constante de progressão entre escalas tão diferentes como a do protão e a do Sol, da bactéria e da Via Láctea. Uma teoria que vale a pena explorar.
Porquê e para quê? “Cientistas” de Stanford criam ratos com cérebros parcialmente humanos.
Sem se perceber que raio é que esta abominação contribui para o progresso da ciência ou o bem estar da humanidade, uma equipa de discípulos do Dr. Victor Frankenstein criou ratos cujos cérebros são em grande parte construídos a partir de células humanas
Departamento de Saúde chefiado por Robert F. Kennedy, Jr. financia investigação de ganho de função em 186 vírus “Frankenstein”.
Contra tudo o que RFK Jr. diz combater, o seu HHS financiou com dinheiro dos impostos dos americanos uma pesquisa de ganho de função em agentes patogénicos "Frankenstein", supostamente mais eficazes na superação do sistema imunitário humano. Com que fim?
A uns bits da III Guerra Mundial: sistema de IA alucinado inventou componentes nucleares a bordo de navio chinês com rumo ao Irão.
Na Primavera deste ano, os Estados Unidos viram-se a caminhar para um conflito militar com a China com base em dados de “inteligência” completamente fabricados por uma unidade de inteligência artificial que "alucinou".