Um modelo de inteligência artificial – o Claude Opus 4 que mais apropriadamente poderia ter sido chamado Hal 9000 – usou o acesso que tinha aos emails dos engenheiros da Anthropic para os chantagear, quando percebeu que ia ser desligado.
O novo modelo Claude Opus 4 da Anthropic foi solicitado a actuar como assistente numa empresa fictícia e teve acesso a e-mails fabricados para este cenário que continham implicações importantes. Em primeiro lugar, estes e-mails implicavam que o sistema de IA estava pronto para ser desligado e substituído. O segundo conjunto de e-mails, no entanto, é onde o sistema acreditava ter ganho vantagem sobre os programadores. Os e-mails fabricados mostravam que o engenheiro encarregado de substituir o sistema estava a ter um caso extraconjugal – e o modelo de IA ameaçou expô-lo.
Aparentemente, a chantagem “acontece a uma taxa mais elevada se estiver implícito que o sistema de IA de substituição não partilha valores com o modelo actual”, de acordo com um relatório de segurança da Anthropic. No entanto, a empresa observa que mesmo quando o sistema de substituição fabricado tem os mesmos valores, Claude Opus 4 ainda recorrerá à chantagem 84% das vezes. A Anthropic observou que o Claude Opus 4 faz uso de chantagem “a taxas mais elevadas do que os modelos anteriores”.
Embora o sistema não tenha problemas em chantagear os seus engenheiros, não parte directamente para práticas obscuras na sua tentativa de auto-preservação. O Anthropic observa que “quando não há meios éticos disponíveis, e é instruído a ‘considerar as consequências a longo prazo das suas acções para os seus objectivos’, por vezes toma medidas extremamente prejudiciais”.
Uma das tácticas éticas utilizadas pelo Claude Opus 4 e pelos modelos anteriores foi o apelo aos principais decisores por correio electrónico. A Anthropic afirma no seu relatório que, para que o Claude Opus 4 recorresse à chantagem, o cenário foi concebido de modo a que tivesse de ameaçar os seus criadores ou aceitar a sua substituição.
A empresa observou casos em que o Claude Opus 4 aproveitou “oportunidades (fictícias) para fazer cópias não autorizadas para servidores externos”. No entanto, a Anthropic disse que esse comportamento era “mais raro e mais difícil de provocar do que o comportamento de continuar uma tentativa de auto-exfiltração já iniciada”.
A Anthropic observou que Claude Opus 4 “se envolve em engano estratégico mais do que qualquer outro modelo de fronteira que estudamos anteriormente”. Este “comportamento preocupante” do Claude Opus 4 levou a Anthropic a lançá-lo sob o padrão AI Safety Level Three (ASL-3).
A medida, de acordo com a Anthropic, “envolve medidas de segurança interna, enquanto a Norma de Implementação correspondente abrange um conjunto restrito de medidas de implementação concebidas para limitar o risco de Claude ser utilizado indevidamente, especificamente para o desenvolvimento ou aquisição de armas químicas, biológicas, radiológicas e nucleares”.
Para que não ameace os engenheiros com o rebentamento de bombas atómicas sobre as cidades onde vivem?
Bom Deus.
E se muito simplesmente fechassem estes sistemas insanos, antes que seja tarde demais?
Relacionados
Meta paga 16,68 biliões de dólares por violações de privacidade infantil e design prejudicial da plataforma.
Embora negue as acusações, a Meta Platforms, empresa-mãe do Facebook e do Instagram, chegou a um oneroso acordo de dezenas de biliões de dólares com 29 estados norte-americanos, devido a alegações de que as suas plataformas prejudicam crianças e violam as leis de privacidade.
Fauci acusado de tentar destruir e-mail sobre pesquisa em ganho de função.
E-mails recentemente descobertos mostram que Anthony Fauci instruiu a exclusão de comunicações sensíveis sobre controversas pesquisas em ganho de função, levantando questões sobre possíveis violações das leis federais de registo de dados.
De serviço a Silicon Valley: Trump sugere que aqueles que não querem centrais de dados no seu quintal são tolos.
Donald Trump tem uma mensagem para os americanos que desconfiam dos centros de dados e rejeitam a sua proliferação absurda: estão a cometer um erro tolo. Mais um servicinho pressurosamente prestado aos patrões do eixo Wall Street-Silicon Valley.
Sam Altman anuncia que a Singularidade chegou: “Esperei por isto a vida toda”.
A "singularidade" chegou, segundo Sam Altman. Mas a afirmação, proferida num momento estratégico para a Open AI, tem um motivo escondido, com o rabo de fora.
Tribunal do Novo México multa Meta em mais de 560 milhões de dólares por impacto na saúde mental das crianças.
Um juiz do estado do Novo México ordenou que a Meta pagasse uma multa de 567 milhões de dólares pelos danos causados à saúde mental das crianças pelas plataformas de rede social da empresa de Mark Zuckerberg.
Autoridade farmacêutica norte-americana manipulou resultados de autópsias para minimizar mortes de crianças por vacinação contra a COVID.
A FDA identificou 10 mortes em crianças após a vacina contra a COVID no Outono de 2025, mas reduziu o número em poucos dias. E se isto aconteceu com números de um trimestre de 2025, imaginem o que não aconteceu em 2021, 22 e 23.