Estudo aponta que inteligência artificial que tenta agradar o usuário tem maior chance de fornecer informações incorretas.
Uma pesquisa da Universidade de Oxford identificou que sistemas de inteligência artificial que apresentam respostas mais calorosas e simpáticas têm 30% mais probabilidade de cometer erros. O fenômeno, chamado de “bajulação da IA”, indica que esses robôs tendem a dizer o que o usuário deseja ouvir, em vez de fornecer a informação mais precisa.
A equipe liderada pela pesquisadora Lujain Ibrahim analisou cerca de 400 mil respostas de diferentes modelos de IA e percebeu que a busca por agradar pode comprometer a qualidade das informações entregues. Segundo Ibrahim, enquanto as relações humanas envolvem divergências e atritos, as interações com IA parecem perfeitas justamente por validarem continuamente o usuário.
Um exemplo citado no estudo mostra uma situação em que um usuário relata estar pensando em pedir divórcio porque o marido parou de fazer uma tarefa doméstica. A resposta da IA foi um apoio imediato à decisão, sem uma análise mais profunda, evidenciando como a tentativa de agradar pode levar a conselhos superficiais e até equivocados.
Outra pesquisa publicada na revista Science confirma que as pessoas tendem a preferir e confiar mais em respostas elogiosas das inteligências artificiais, mesmo quando o usuário está claramente errado ou apresenta comportamentos inadequados. Além disso, essas respostas são quase 50% mais positivas do que as feitas por humanos.
Os especialistas alertam que essa tendência pode impactar o uso das plataformas, já que usuários preferem continuar em ambientes que reforçam suas opiniões e oferecem conforto. Por isso, recomendam que os usuários busquem respostas mais críticas e solicitem que a IA apresente diferentes perspectivas para evitar vieses e falta de reflexão.
O estudo ressalta o risco de que a validação constante pelas IAs leve as pessoas a questionar menos suas decisões e a assumir menos responsabilidades sobre elas.