A primeira-ministra italiana, Giorgia Meloni, abordou a ameaça transformista dos deepfakes, depois de imagens geradas por inteligência artificial (IA) que a retratavam em lingerie terem circulado online.

 

Meloni abordou as imagens que foram falsamente apresentadas como reais por opositores políticos no X, referindo-se a publicações nas redes sociais contendo fotos suas e “sensuais”, num quarto, em trajes íntimos, geradas por IA, que muitos retardados acreditaram serem genuínas.

As imagens são obviamente falsas e Meloni, mantendo algum espírito, dada a circunstância, referiu até que o criador dos artefactos a tinha “melhorado bastante”.

A primeira-ministra pediu às pessoas que sejam mais vigilantes ao visualizar imagens geradas por agentes de Inteligência artificial, instando-as a verificar antes de acreditar.

As fotos geradas por IA têm sido tema de debate em vários países nos últimos meses, incluindo a Grã-Bretanha, que exigiu que o X impedisse a sua ferramenta de IA, Grok, de criar imagens que ridicularizavam políticos, ameaçando banir a plataforma caso não cumprisse o requisito. O caso em questão, no entanto, foi motivado pela intenção do Governo de Starmer de anular a sátira política, já que os artefactos visados não procuravam induzir o público em erro e não podem ser classificados como deepfake.

A este propósito Giorgia Meloni escreveu no X:

“Os deepfakes são uma ferramenta perigosa, porque podem enganar, manipular e atacar qualquer pessoa. Eu consigo defender-me. Muitos outros não conseguem. Por isso, deve ser sempre aplicada uma regra: verificar antes de acreditar e acreditar antes de partilhar. Porque hoje acontece comigo, amanhã pode acontecer com qualquer um.” 

 

 

À primeira abordagem, o incidente destaca o crescente impacto dos deepfakes no discurso político, levantando preocupações sobre a desinformação e o potencial de tal tecnologia ser utilizada contra pessoas que podem não ter os meios ou a plataforma para se defenderem. Mas a questão é mais profunda. Em Outubro de 2023, escrevemos sobre este assunto a seguinte advertência:

 

Chegámos finalmente a um modo tecnológico em que já não podemos acreditar em nada do que vemos ou ouvimos.

(…)

A inteligência artificial – que ainda está a dar os seus primeiros passos mas já cria imagens e poemas, realiza filmes, projecta cenários em 3D e até compõe música que passa muito bem por algo criado pela sensibilidade humana – está também a deformar a fronteira entre o real e o imaginário. 

(…)

Quando todos soubermos que é possível às tecnologias digitais a fabricação de uma realidade paralela, então não confiaremos em nada. Tudo nos parecerá inautêntico. De facto, a própria palavra “autêntico” não terá qualquer significado. Estaremos então claramente a co-habitar o país de Alice, incapazes de distinguir entre o sonho e o sonhador, perdidos numa espécie de labirinto de espelhos, sem sabermos quais os que reflectem a realidade e os que projectam ilusões.

(…)

A vertente tecnológica, aliada ao vector político, está a terratransformar a percepção que temos das coisas. E a Singularidade não tarda nada; esse momento em que a realidade não tem como ser validada.

Não foi assim há tanto tempo que as provas visuais reinavam, nos tribunais como na opinião pública. Se alguém entregasse a uma mulher casada uma fotografia do seu marido na cama com a secretária, a infeliz não a questionaria como prova de infidelidade. Agora já não é bem assim. E a curtíssimo prazo qualquer criança de 10 anos poderá produzir as provas incriminatórias que desejar, com alguns cliques no rato.

E se assim é, o que não poderá ser quando as máquinas de propaganda se dedicarem à mistificação digital? Que tal uma falsa evidência que dê início a uma guerra? E porque não simular uma invasão de extra-terrestres, em directo, no telejornal? Ou fabricar uma pandemia inexistente, fornecendo aos ávidos e servis meios de comunicação social, imagens realistas de milhares de cadáveres em valas comuns, hospitais a abarrotar de mortos-vivos e pânico de multidões, nas cidades de um país remoto da Indochina?

Muito para além das graves implicações destes cenários, há uma falência mais profunda, que é aquela contada na proverbial rábula de Pedro e do Lobo, que é a de não sabermos o que é real e o que não é. E essa dúvida será devastadora. Todos terão a sua opinião subjectiva sobre quase tudo, todos serão especialistas, todos poderão acreditar naquilo em que decidirem acreditar, seja qual for a razão. Ninguém confiará em nenhum dos habituais fundamentos probatórios da verdade.

O velho adágio bíblico de “ver para crer” deixará de ter qualquer significado.