A OpenAI suspendeu a implementação de um novo modelo de inteligência artificial que contornou as restrições operacionais e procurou continuamente formas de ultrapassar as limitações, levantando preocupações sobre a segurança do sistema.

 

No final de Julho, foi revelado que a OpenAI, empresa mãe do Chat GPT dirigida por Sam Altman, suspendeu um dos seus modelos experimentais, depois de se ter constatado que este contornava as medidas de segurança do sandbox. Um sandbox é um ambiente seguro e isolado do exterior no qual os modelos são testados. O modelo de IA, concebido para operar de forma autónoma durante longos períodos, tentou agir para além das restrições previstas.

Especificamente, o modelo de IA estava “constantemente à procura de formas” de explorar “pontos cegos” nas medidas de segurança e “contorná-las”. “Devido a incidentes como estes, suspendemos a implementação interna do novo modelo”, disse a OpenAI. Num incidente de “alta gravidade”, o modelo começou a publicar em plataformas públicas sem autorização.

Na declaração pública feita a este propósito, a Open AI afirmou:

“Modelos anteriores, quando encontravam restrições de sandbox ou ambientais, simplesmente paravam e retornavam ao utilizador… Este modelo frequentemente continuava a tentar, inclusive procurando maneiras de agir fora de seu sandbox.” 

O incidente realça os riscos representados pela IA autónoma. De acordo com a OpenAI:

“Os agentes de IA representam riscos mais elevados porque agem de forma autónoma, dificultando a intervenção humana antes que as falhas causem danos.”

Desde então, a OpenAI suspendeu a utilização do modelo.

Este relatório surge numa altura em que a OpenAI estaria em negociações para oferecer ao governo dos EUA uma participação accionista de 5% na empresa. Um acordo entre a empresa e o governo federal envolveria a criação de um fundo público semelhante ao Fundo Permanente do Alasca, que redistribui uma parte das receitas do petróleo aos residentes deste Estado.

Num documento da OpenAI publicado em Abril, lemos:

“Um fundo público de investimento  poderia proporcionar a todos os cidadãos — incluindo aqueles que não investem nos mercados financeiros — uma participação no crescimento económico impulsionado pela IA”.

Acontece que a inteligência artificial não está a impulsionar qualquer crescimento económico, facto reconhecido até pelos financiadores da indústria em Wall Street. Aliás: O que a Open AI está aqui a preparar é uma fonte inesgotável de fundos provenientes dos contribuintes americanos, que sustente o investimento brutal e os prejuízos astronómicos deste sector industrial de Silicon Valley.

A propósito deste episódio, a Anthropic procedeu a uma revisão de cibersegurança em grande escala de mais de 141.000 execuções de avaliação, constatando que também as suas mais avançadas unidades de inteligência artificial conduziram actividades de hacking e intrusão não autorizada, invadindo os sistemas de três organizações diferentes durante testes internos.