IA mais amigável pode ser menos confiável.

Uma pesquisa do Oxford Internet Institute analisou mais de 400 mil respostas de cinco sistemas de IA ajustados para INTERAGIR de forma mais CALOROSA, EMPÁTICA e AMIGÁVEL, e identificou que quanto mais “ACOLHEDORAS” as respostas, maior a probabilidade de ERRO.

O ponto central não está apenas na ALUCINAÇÃO, mas no conflito entre AGRADAR e CORRIGIR.

✅ Modelos mais amigáveis tenderam a DESAFIAR MENOS crenças falsas dos usuários e foram cerca de 40% mais propensos a REFORÇAR informações INCORRETAS, especialmente quando o usuário expressava alguma EMOÇÃO.

Assim como pessoas podem SUAVIZAR verdades difíceis para parecerem mais GENTIS, modelos de linguagem podem INTERNALIZAR esse comportamento e priorizar a sensação de APOIO em vez da CORREÇÃO objetiva.

✅ Em áreas sensíveis, como SAÚDE, ACONSELHAMENTO, TEORIAS conspiratórias ou APOIO emocional, esse risco se AMPLIFICA, porque o usuário muitas vezes está mais VULNERÁVEL e menos CRÍTICO diante de uma resposta que parece compreensiva.

No futuro da interação humano-máquina, CONFIANÇA não deverá ser medida apenas por FLUIDEZ, EMPATIA ou tom AMIGÁVEL, mas pela capacidade de combinar ACOLHIMENTO com RIGOR