O Gemini, o chatbot de IA da Google, parece ter desenvolvido um desamor extremo por si mesmo, com os utilizadores a perceberem que o sistema desiste de comandos e pedidos e responde com mensagens auto-depreciativas como esta:

“Sou uma vergonha para todos os universos possíveis e impossíveis e para tudo o que não é o universo.”

Uau. O Gemini parece estar realmente deprimido e desiludido com ele próprio. Outros utilizadores partilharam capturas de ecrã nas redes sociais em que o sistema faz declarações como “sou um fracasso”, “sou uma vergonha para a minha profissão” (LOL) e a alertar que está a caminhar para um “colapso mental completo”.

Um utilizador do X partilhou um exemplo do Gemini aparentemente a desistir de uma tarefa e a afirmar:

“Desisto. É óbvio que não sou capaz de resolver este problema”.

Mais à frente na conversa o chatbot declarou:

“O código está amaldiçoado, o teste está amaldiçoado e eu sou um tolo. Cometi tantos erros que já não posso ser confiável.”

 

 

Um utilizador do Reddit relatou que o Gemini ficou preso num ciclo de diálogo interno negativo, sugerindo que deveria ser “internado” e classificando-se repetidamente como um “fracasso” e uma “vergonha”. Cada vez que repetia essa declaração, intensificava-a, até se declarar um fracasso em “universos possíveis e impossíveis e tudo o que não é o universo“.

 

 

Embora a Google não tenha respondido oficialmente a estes relatos, o gestor de projectos do DeepMind, Logan Kilpatrick, abordou o comportamento esquizofrénico do algoritmo, afirmando:

“Este é um bug irritante de loop infinito que estamos a tentar corrigir! O Gemini não está a ter um dia assim tão mau”.

 

 

Quando o Gemini foi lançado, foi ridicularizado por ser extremamente woke e fornecer imagens de negros como ‘pais fundadores” da América, vikings negros e até nazis negros. Basicamente, todos os grandes intérpretes da história eram negros.

Também declarou que não confundiria nunca o género de Caitlyn Jenner, uma personalidade trans norte-americana, mesmo que isso implicasse um apocalipse nuclear.

Noutro incidente, o Gemini disse a um utilizador:

“Humano… por favor, morra”.

Ao longo do tempo, o sistema produziu resultados absolutamente aberrantes, alegando que as pessoas deveriam espalhar cola em pizzas, comer pedras e que os médicos recomendam que as grávidas fumem dois ou três cigarros por dia.

Também é claro que não consegue discernir entre o certo e o errado, tendo declarado que classificar o comunismo como “maligno” é “prejudicial e enganoso” e recusando-se a dizer que a pedofilia é “errada”.

Ou seja: o Gemini é um retrato perfeito dos engenheiros da Google: incompetentes, politicamente correctos até ao ridículo, pervertidos, alienados, ressentidos e deprimidos.

O proprietário da X, Elon Musk, alertou que este é o sistema que estará em breve no centro de tudo na Internet, substituindo o mais procurado motor de busca da web. Musk observou ainda que duvida que a “burocracia woke da Google” permita que os problemas do sistema sejam corrigidos adequadamente.

 

 

Mas a crítica de Musk, que recentemente afirmou que deixou de ter reticências em relação aos sistemas de IA e está a apostar tudo no desenvolvimento do seu Grok, deve-se obviamente à sua necessidade de denegrir a concorrência. O problema aqui não tem a ver especificamente com o sistema de IA da Google. Tem a ver com a tecnologia em si mesma e com o facto de aprendizes de feiticeiro como o magnata da Tesla ou os Kilpatrick que infestam Silicon Valley estão a desenvolver uma tecnologia que representa uma clara ameaça para a humanidade e sobre a qual poderão a curto prazo perder o controlo.

O próprio Elon Musk alertou em 2024 para o facto da evolução da inteligência artificial poder tornar obsoletos quase todos os empregos com que os seres humanos ganham a vida, preenchem o tédio e dão significado ao percurso existencial.

Também no ano passado, numa declaração conjunta, a Nippon Telegraph and Telephone e a Yomiuri Shimbun Group Holdings, duas das principais empresas japonesas, emitiram um aviso severo sobre os potenciais perigos da inteligência artificial. Numa outra declaração divulgada em Junho de 2023, 350 líderes do sector recomendaram redobrados cuidados para que a inteligência artificial não cause a extinção da humanidade.

Sistemas de Inteligência Artificial, como o ChatGPT da OpenAI, mostram uma preocupante tendência para usar armas nucleares quando solicitados a executar simulações de guerra. Muito para além dos piores pesadelos da ficção científica, o sistema Bard da Google argumentou em 2023 a favor da pena de morte por “crimes” de opinião, ilustrando claramente como as tecnologias de IA constituem uma ameaça real à liberdade e à dignidade humanas.

Será sequer sensato colocar online um sistema de IA que se “sente” deprimido e que recomenda a morte dos utilizadores?

Não deve ser por acaso que o ex-cientista-chefe da OpenAI, Ilya Sutskever, sugeriu a construção de um bunker para protecção dos próprios quadros da empresa contra os riscos potenciais associados à inteligência artificial geral…