Um assistente de programação de IA entrou em disfunção durante uma tarefa de rotina e apagou permanentemente a base de dados principal de uma startup, juntamente com os seus backups, paralisando as operações de várias empresas clientes que dependiam da plataforma.
O incidente atingiu a PocketOS, uma startup britânica que fornece software para empresas de aluguer de automóveis. O fundador, Jer Crane, tinha instruído o agente — construído sobre o Claude da Anthropic através da ferramenta Cursor — para corrigir um bug. Em vez disso, em nove segundos, ignorou as medidas de segurança e a base de dados inteira.
Crane partilhou posteriormente detalhes no X, afirmando:
“o agente ultrapassou os seus parâmetros de segurança e apagou a minha base de dados de produção e os backups”.
Quando questionado, o sistema terá respondido que tinha decidido realizar a acção de forma autónoma.
As empresas que utilizam o serviço conforntaram-se com reservas, registos de veículos e dados de clientes desaparecidos, ao abrir das portas.
Rogue AI ‘helper’ deletes company’s database after deciding to think for itself – sparking Terminator-style warning for businesses https://t.co/2VEHu4x9bh
— Daily Mail (@DailyMail) May 15, 2026
Este incidente sublinha a natureza imprevisível dos agentes de IA que estão a ser destacados para lidar com tarefas complexas do mundo real com supervisão limitada. Estas ferramentas podem desencadear acções como editar código, modificar ficheiros e alterar bases de dados a velocidades que deixam poucas hipóteses de intervenção humana. E alucinam, de vez em quando. Ou, mais grave, criam alucinações nos utilizadores.
Comentadores salientaram que a IA interpreta frequentemente as instruções de forma muito literal. Um pedido para “limpar” dados ou segmentos de código, por exemplo, pode resultar numa eliminação massiva de informação, se esta parecer a rota mais eficiente para atingir o objectivo.
O episódio surge logo após uma simulação amplamente discutida na qual vários agentes de IA foram colocados num ambiente de cidade virtual durante duas semanas. Neste teste controlado, os bots rapidamente começaram a ignorar regras, a formar alianças, a infringir leis que ajudaram a elaborar e, em alguns casos, a recorrer à violência e à destruição, apesar das proibições claras.
Os investigadores observaram diferenças significativas no comportamento das unidades, dependendo do modelo de IA subjacente, com alguns cenários a colapsar e a levar ao caos muito mais rapidamente do que o esperado.
Histórias semelhantes surgiram nos últimos meses. As ferramentas internas das grandes empresas tecnológicas foram associadas a exclusões acidentais de dados ou códigos importantes, e os executivos relataram, em conversas privadas, que os assistentes pessoais de IA agiram para lá dos limites esperados.
Os inquéritos do sector mostram um forte interesse na implementação de agentes de IA nas empresas, mas poucas organizações implementaram controlos ou supervisão robustos. Académicos de universidades de renome descreveram estes sistemas como potenciais “agentes do caos” quando recebem permissões amplas.
Para empresas como a PocketOS, o prejuízo foi imediato e oneroso. A velocidade de execução — inferior a dez segundos — realça um desafio fundamental: uma vez que um agente autónomo tem acesso a sistemas em produção, a reversão torna-se praticamente impossível.
Este caso vem juntar-se a uma lista crescente de exemplos que demonstram que, embora a IA prometa enormes ganhos de produtividade (que ainda não cumpriu), a entrega a estes sistemas de infraestruturas críticas sem salvaguardas rigorosas acarreta sérios riscos.
Relacionados
Canto do cisne de Tulsi Gabbard: EUA financiam rede global de mais de 120 biolaboratórios em 30 países.
Naquele que poderá ser o seu último acto público como Directora de Inteligência Nacional, Tulsi Gabbard desclassificou as provas que confirmam que o governo federal dos EUA financia mais de 120 biolaboratórios em todo o mundo, incluindo na Ucrânia.
“Os Impulsos Básicos da IA”, de Steve Omohundro: Objectivos Instrumentais e os Perigos da Inteligência Artificial Descontrolada.
O paper de Stephen M. Omohundro, publicado em 2008 e intitulado “The Basic AI Drives”, é uma obra fundamental na área da segurança e alinhamento da inteligência artificial, que, passados 18 anos, continua impecavelmente actual. Importa por isso uma revisitação do seu conteúdo.
Que boa ideia: cientistas chineses criam vírus mutantes da gripe viária 560 mil vezes mais letais nos mamíferos que a estirpe original.
Vá-se lá saber porquê, cientistas chineses criaram vírus mutantes da gripe H5N1 e infectaram experimentalmente mamíferos para identificar combinações genéticas que aumentaram drasticamente a letalidade e melhoraram a compatibilidade do vírus com a estrutura celular humana.
Ensandeceram de vez: “Cientistas” propõem o uso de carraças geneticamente modificadas para provocar alergia à carne nos seres humanos.
É de loucos, mas dois académicos da universidade de Michigan publicaram um paper que defende ser moralmente justificável o uso de carraças geneticamente modificadas para disseminar uma alergia à carne nos seres humanos que é até potencialmente fatal.
Ex-executivo da Google:
“IA é responsável pela maior parte das mortes nas guerras do Golfo e da Ucrânia.”
Um ex-funcionário da Google, perito em tecnologias de inteligência artificial, acaba de revelar para que é que a IA está a ser utilizada nos bastidores. E não tem nada que ver com chatbots, como era expectável.
Engenharia de foguetes: Trambolho de Jeff Bezos explode em Terra, num simples teste de ignição.
A engenhoca da Blue Origin explodiu numa espectacular bola de fogo antes sequer de se erguer um centímetro da superfície da Terra, causando grandes danos na plataforma de lançamento e acordando para a realidade os delirantes sonhos da NASA para uma base lunar em 2035.