Investigadores de inteligência artificial dos EUA e da China apelaram à cooperação global neste sector tecnológico, temendo que o seu desenvolvimento descontrolado possa levar a uma catástrofe inimaginável.

 

Stephen Casper, cientista informático do MIT que palestrou numa importante conferência de IA em Pequim este mês, disse à Wired:

“A IA é uma tecnologia global com benefícios globais, malefícios globais e uma tendência consistente de proliferação de novas capacidades. Uma coisa em que quase todos na área da IA ​​concordam agora é que a IA não precisa de um momento Chernobyl”.

Casper não elaborou mais sobre esta analogia, mas ao invocar o infame desastre nuclear, torna-se claro que o medo não se limita à catástrofe em si. A preocupação é também que possa manchar irreversivelmente a percepção pública das tecnologias de inteligência artificial ​​e sufocar o seu desenvolvimento, tal como o desastre de Chernobyl continua a pairar sobre a energia nuclear em geral.

As previsões catastróficas sobre a IA variam drasticamente, desde cenários ao estilo da Skynet até ao desemprego em massa. Mas, mais recentemente, à medida que se tornou evidente que uma das aplicações mais práticas da IA ​​é a geração de código, os especialistas têm dado o alarme sobre o potencial da tecnologia ​​para impactar a cibersegurança. Os hackers poderiam facilmente abusar de agentes de IA e ferramentas de programação para orquestrar ciberataques devastadores, aumentando a escala destes ataques e diminuindo a habilidade necessária para os realizar.

Esta narrativa foi parcialmente alimentada por empresas de IA, como quando a Anthropic anunciou, e depois se recusou a divulgar publicamente, o seu modelo Claude Mythos, supostamente porque era tão poderoso que podia facilmente invadir “todos os principais sistemas operativos e todos os principais navegadores da web”.

O risco é agravado pelo surgimento de modelos de IA de código aberto, que são gratuitos para utilização e preferidos pelos investigadores pela transparência que proporcionam — mas não têm a supervisão que os principais modelos comerciais de IA possuem. Uma fonte de uma das principais empresas de IA da China disse à Wired que as preocupações com a segurança são uma das razões pelas quais os modelos avançados na China já não estão a ser lançados como código aberto.

Lin Yun, professor da Universidade Jiao Tong de Xangai, alertou que espera que os hackers obtenham vantagem com a utilização da IA ​​a curto prazo, mas que, a longo prazo, a IA também poderá ser utilizada para reforçar a cibersegurança, sublinhando a necessidade de cooperação global. Yun afirmou a este propósito:

“Se os diferentes países compreenderem os riscos de forma semelhante, torna-se mais fácil desenvolver princípios de segurança e normas técnicas partilhadas. O fundamental é encontrar áreas onde a partilha possa reduzir o risco sistémico sem expor detalhes operacionais sensíveis”.

A cooperação nesta questão entre dois rivais geopolíticos pode parecer improvável, especialmente porque os EUA e a China são também líderes incontestáveis ​​em IA. Mas Casper comparou a situação actual à forma como os EUA e a União Soviética trabalharam para conter as ameaças nucleares, apesar de terem aumentado os seus próprios arsenais nucleares.

Seja como for, e como o ContraCultura já documentou, os sistemas de inteligência artificial desafiam, por natureza, qualquer tentativa de controlo securitário. Roman Yampolskiy, cientista da computação na Universidade de Louisville e um dos mais notáveis peritos em segurança de IA e cibersegurança, defende que o alinhamento das tecnologias de IA ​​não é apenas um problema não resolvido, mas fundamentalmente indefinido: não há valores consensuais, não há maneira de os formalizar mesmo que existissem e não há mecanismos para os impor a máquinas que são mais inteligentes do que os seus criadores. O seu argumento mais incisivo transcende o cliché do cenário catastrófico, para sublinhar que não podemos controlar indefinidamente algo mais inteligente do que nós próprios.

Decorre daqui que tornar estas tecnologias seguras será, a prazo, impossível.