Uma antiga funcionária do regime de Biden que trabalha em estratégias cibernéticas afirmou que as Forças Armadas dos Estados Unidos teriam dificuldade em controlar o uso de inteligência artificial pelos seus soldados.
Mieke Eoyang, subsecretária assistente de defesa para a política cibernética durante a anterio administração norte-americana, afirmou que os modelos actuais de IA são pouco adequados para utilização nas Forças Armadas e seriam perigosos, se implementados.
“Há uma série de coisas com as quais nos devemos preocupar.”
Alegando casos recorrentes de “psicose da IA” e a eventualidade da emergência de robôs assassinos, Eoyang disse que as Forças Armadas não podem simplesmente utilizar um agente público de IA existente e transformá-lo numa utilização para os militares. Isto, claro, envolveria dar aos sistemas liberdade para sugerirem o uso de violência ou até mesmo a morte de potenciais alvos.
Permitir tais capacidades está a fazer soar o alarme no Departamento de Defesa, agora Departamento de Guerra, segundo afirmou Eoyang.
“Muitas das conversas sobre as protecções da IA têm sido: como garantir que o uso da IA pelo Pentágono não resulta em exagero? Há preocupações com ‘enxames de robôs assassinos com IA’, e essas preocupações são sobre as formas como os militares nos protegem.”
E os problemas previstos não se relacionam apenas com ameaças externas:
“Também há preocupações sobre o uso de IA pelo Pentágono, relacionadas com a protecção do próprio Pentágono. Porque numa organização tão grande como as Forças Armadas, haverá algumas pessoas que se envolvem em comportamentos proibidos. Quando um indivíduo dentro do sistema se envolve neste comportamento proibido, as consequências podem ser bastante graves, e nem sequer estou a falar de coisas que envolvam armas, mas de coisas que possam envolver fugas de informação.”
Eoyang levantou ainda preocupações sobre a segurança operacional e que “actores mal-intencionados” poderiam “deitar as mãos” a ferramentas de IA utilizadas pelas Forças Armadas dos EUA.
“Há uma série de coisas com as quais nos devemos preocupar. Há perda de informação; há comprometimento que pode levar a outras consequências mais graves.”
Talvez sem o conhecimento de Eoyang, o Departamento de Guerra já está a trabalhar no desenvolvimento de um sistema interno de IA.
De acordo com o CEO da EdgeRunner, Tyler Saltsman, o Departamento de Guerra não só não tem medo da IA, como “tudo gira à volta dela”.
Saltsman acaba de concluir um teste com o Departamento de Guerra durante exercícios militares em Fort Carson, no Colorado, e Fort Riley, no Kansas. Recentemente, afirmou sobre o seu chatbot offline, o EdgeRunner AI, que está a modernizar o envio de informações às tropas colocadas em teatro de operações.
Em resposta às muito válidas preocupações de Eoyang, Slatsman afirmou:
“O Departamento de Guerra está a tentar fortalecer a sua estratégia de IA; não têm medo disso.”
E acrescentou:
“É preocupante que pessoas sem noção de tecnologia tenham sido colocadas em posições tão influentes”.
O que é realmente preocupante é que esta gente de Silicon Valley esteja a adquirir cada vez mais protagonismo no Pentágono.
Saltsman anunciou recentemente uma parceria com a Meta, de Mark Zuckerberg, que irá partilhar a tecnologia com aliados militares de todo o mundo.
“É importante que o governo faça parcerias com a indústria e a academia e tenha operações conjuntas neste campo. Estou grato ao Secretário da Guerra, Pete Hegseth, e a tudo o que está a fazer para remodelar o Departamento de Guerra e ajudá-lo a tornar-se mais eficaz”.
Só de pensar que Hegseth está a enfiar a Meta no Pentágono, com tecnologias de inteligência artificial, qualquer pessoa sensata fica assustada.
Justificadamente assustada.
Relacionados
OpenAI e Anthropic estão a investigar dezenas de milhares de incidentes de segurança criados pelos seus sistemas de IA
A OpenAI e a Anthropic debatem-se com um problema de segurança que é várias ordens de magnitude mais complexo do que se sabe publicamente, incluindo casos em que o "botão de desactivação" não impediu a actividade de agentes de IA maliciosos.
Luna 2: O primeiro contacto.
Em 1959, a nave soviética tornou-se o primeiro veículo artificial a atingir a superfície da Lua, inaugurando uma era de grandes descobertas: o lançamento das primeiras sondas, o primeiro veículo espacial lunar e o primeiro homem a pisar o satélite natural da Terra.
Um número para a escadaria do cosmos.
Chris Lehto segue a velha máxima "como em cima, assim em baixo" para determinar uma constante de progressão entre escalas tão diferentes como a do protão e a do Sol, da bactéria e da Via Láctea. Uma teoria que vale a pena explorar.
Porquê e para quê? “Cientistas” de Stanford criam ratos com cérebros parcialmente humanos.
Sem se perceber que raio é que esta abominação contribui para o progresso da ciência ou o bem estar da humanidade, uma equipa de discípulos do Dr. Victor Frankenstein criou ratos cujos cérebros são em grande parte construídos a partir de células humanas
Departamento de Saúde chefiado por Robert F. Kennedy, Jr. financia investigação de ganho de função em 186 vírus “Frankenstein”.
Contra tudo o que RFK Jr. diz combater, o seu HHS financiou com dinheiro dos impostos dos americanos uma pesquisa de ganho de função em agentes patogénicos "Frankenstein", supostamente mais eficazes na superação do sistema imunitário humano. Com que fim?
A uns bits da III Guerra Mundial: sistema de IA alucinado inventou componentes nucleares a bordo de navio chinês com rumo ao Irão.
Na Primavera deste ano, os Estados Unidos viram-se a caminhar para um conflito militar com a China com base em dados de “inteligência” completamente fabricados por uma unidade de inteligência artificial que "alucinou".