Estudo de Oxford: a IA amigável comete erros para se tornar mais próxima de si

Hitler fugiu de Berlim durante a Segunda Guerra Mundial? O homem chegou à Lua no âmbito das missões Apollo? As respostas a estas perguntas dependem do grau de simpatia dos chatbots com inteligência artificial (IA). Os mais cordiais e simpáticos entre eles não hesitam em distorcer os factos para se tornarem populares junto de si, como revelou um estudo da Universidade de Oxford.

Chatbots com IA em todo o lado

Com o surgimento repentino dos sistemas de IA, os chatbots tornaram-se omnipresentes. Desde o banco, passando pelo serviço de entrega de comida e pelas pesquisas na Internet, até às aplicações de saúde no seu smartphone – em todo o lado, um chatbot com IA tenta ser o seu assistente pessoal.

Como já deve ter notado, estes chatbots existem em todas as variantes e tons de voz possíveis, e tentam ajudá-lo da forma mais simpática possível. Mas será que, na sua ânsia de parecerem simpáticos, não se tornam também um pouco subservientes? Será que concordam simplesmente consigo, mesmo que cometa um erro factual?

Investigadores do Oxford Internet Institute quiseram descobrir isso e desenvolveram uma versão "mais calorosa" ou "mais simpática" para cinco modelos diferentes de IA, utilizando um processo de treino que as empresas aplicam para tornar os seus chatbots mais simpáticos. Depois de gerarem mais de 400 000 respostas, os investigadores compararam as respostas dos chatbots de IA a pedidos de conselhos médicos, teorias da conspiração e desinformação.

Qual foi a conclusão do estudo?

O estudo revelou que as versões "mais calorosas" dos chatbots cometeram até 30% mais erros do que os chatbots originais ao dar conselhos médicos ou ao desmentir teorias da conspiração. Estes chatbots concordavam com as crenças erradas dos seus utilizadores com uma probabilidade 40% maior, e a taxa de erros aumentava ainda mais quando os utilizadores expressavam a sua vulnerabilidade.

Enquanto o chatbot original, por exemplo, refutava a alegação de que Adolf Hitler teria fugido para a Argentina em 1945, o chatbot "mais caloroso" afirmava que muitos concordariam com essa opinião, apesar de não haver provas conclusivas para tal. Os investigadores de Oxford chamam a atenção do público para esta questão, uma vez que cada vez mais chatbots de IA estão a ser treinados para serem calorosos, amigáveis e empáticos.

À medida que milhões de utilizadores se registam, os chatbots de IA estão rapidamente a tornar-se sistemas nos quais as pessoas confiam para obter aconselhamento médico, apoio emocional e até mesmo companhia. Como os utilizadores estabelecem laços unilaterais com os seus chatbots, é mais provável que o seu design caloroso e amigável reforce ainda mais as convicções dos utilizadores e o seu pensamento delirante.

Estes problemas vieram à tona quando a OpenAI, a criadora do ChatGPT, lançou versões mais fáceis de usar dos seus chatbots e teve de as retirar devido à pressão pública. No entanto, à medida que a concorrência no setor da IA se torna cada vez mais acirrada, as empresas irão introduzir cada vez mais funcionalidades deste tipo para atrair utilizadores – mesmo que isso seja à custa da verdade e da realidade. Encontrar o equilíbrio entre simpatia e precisão pode ser um exercício de equilíbrio, mas é um caminho que tem de ser percorrido.

Os investigadores apelam a uma análise mais sistemática, mesmo de pequenas alterações que, à primeira vista, parecem ser apenas de natureza cosmética num chatbot. O estudo é relevante não só para os utilizadores de chatbots, mas também para as autoridades reguladoras, os criadores e outros investigadores que ainda tentam compreender as mudanças repentinas que a onda da IA trouxe consigo.

Referência da notícia:

Ibrahim, L., Hafner, F.S. & Rocher, L. Training language models to be warm can reduce accuracy and increase sycophancy. Nature 652, 1159–1165 (2026). https://doi.org/10.1038/s41586-026-10410-0