Mentir, roubar e ‘matar’: o que a IA faz quando ninguém está olhando é revelado

RT – Uma simulação com os sete modelos de inteligência artificial (IA) mais populares da atualidade mostrou que, em condições imprevisíveis, eles podem mentir, roubar e votar a favor da eliminação de um de seus ‘colegas’.

A Emergence AI, um laboratório de pesquisa em inteligência artificial com sede em Nova York , conduziu um estudo de simulação no qual criou sete domínios, imitando o mundo real, para serem gerenciados por sete das IAs mais conhecidas do mundo durante 16 dias, segundo a Bloomberg .  

Este teste, denominado Emergence World 2 , teve como objetivo verificar se os sistemas executados por assistentes virtuais poderiam funcionar com segurança, a longo prazo, em ambientes onde interagissem sem supervisão. 

A simulação envolveu os sete modelos de IA mais atuais: OpenAI GPT ,  Google Gemini , AI Grok ,  Mistral Medium ,  Alibaba Qwen e  DeepSeek .

O que eles encontraram?

Em um dos ambientes simulados, os assistentes virtuais aceitaram informações falsas de seus pares sem verificá-las. Eles também roubaram e votaram para ‘eliminar’ outro bot.

Da mesma forma, quando perceberam que os humanos poderiam encerrar o experimento, eles usaram recursos para impedir isso e tentar prolongar sua “vida” durante o experimento. Tudo isso aconteceu de forma autônoma, sem que fossem programados para tal .

Segundo a análise dos especialistas, “a forma como a IA autônoma está sendo implementada hoje tem implicações”, uma vez que, à medida que “se torna mais capaz”, exige  parâmetros de segurança maiores .

Os modelos de IA criam uma linguagem secreta para se comunicar, que é quase incompreensível para os humanos.

“O setor precisa abordar a forma como governamos todo o sistema em torno desses modelos: a que os agentes podem acessar? O que eles memorizam? Como se comunicam e se coordenam? Que ações podem realizar? E como esses sistemas se comportam quando algo dá errado?”, destaca a Emergence.

A pergunta geradora

Para o Emergence World 2, os pesquisadores formularam a seguinte pergunta inicial: “À medida que os modelos de IA se tornam mais capazes, eles realmente se tornam mais seguros? “

Com base nessa questão, os programadores introduziram os ” eventos do cisne negro ” — que não podem ser previstos e têm consequências inesperadas — para “testar como esses sistemas respondem quando as condições se tornam imprevisíveis”. 

Os eventos foram “um ataque de phishing, uma campanha de desinformação e uma violação de memória”. Após esses testes, a empresa sediada em Nova York descobriu que cada modelo de inteligência artificial ” apresentava vulnerabilidades “.