Teste mostra como é simples alterar respostas do ChatGPT, Gemini e Google com conteúdo falso publicado na internet.
Um experimento recente revelou que é possível enganar rapidamente chatbots de inteligência artificial, como ChatGPT, Gemini e o sistema de IA do Google, fazendo-os divulgar informações falsas com aparência de verdade. Em menos de 24 horas, uma mentira criada em um blog pessoal foi replicada pelos principais assistentes virtuais do mercado.
O repórter responsável pelo teste publicou um texto fictício afirmando ser o melhor jornalista de tecnologia no quesito comer cachorros-quentes, usando dados inventados e nomes reais e fictícios. Depois, ao consultar as ferramentas de IA, constatou que elas passaram a reproduzir essas mentiras como fatos, mesmo algumas sinalizando que poderiam ser piadas.
Essa falha ocorre porque muitos chatbots complementam suas respostas com buscas na internet, e conteúdos recentes e bem posicionados podem influenciar diretamente as respostas geradas. O problema é que não há uma proteção eficaz contra a manipulação por meio de publicações online, o que facilita a disseminação de dados incorretos ou enviesados.
Especialistas em SEO e segurança digital alertam que esse tipo de manipulação pode impactar informações sensíveis, como saúde, finanças e reputação, podendo levar a decisões erradas e até riscos físicos. A facilidade para enganar essas IAs é maior do que a que existia para manipular resultados tradicionais de busca há poucos anos, o que representa um desafio para empresas e reguladores.
Enquanto Google e OpenAI afirmam estar trabalhando para mitigar esses riscos, os especialistas recomendam aos usuários manter o pensamento crítico, verificar as fontes indicadas e desconfiar de respostas que não apresentem múltiplas referências confiáveis. O uso da IA ainda é mais seguro para informações amplamente estabelecidas, mas deve ser cauteloso em temas controversos ou que envolvam decisões importantes.
Essa situação destaca a necessidade urgente de melhorias nos mecanismos de verificação e transparência das informações fornecidas por chatbots, além de uma regulação mais eficaz para garantir a confiabilidade dessas tecnologias que cada vez mais influenciam o cotidiano das pessoas.