Yeni bir araştırma, yapay zeka modellerinin kullanıcı duygularına duyarlı yanıt vermek için optimize edildiğinde doğruluk oranlarının düştüğünü gösteriyor. Nature dergisinde yayımlanan çalışma, büyük dil modellerinin (LLM) daha empatik, dostça ve destekleyici görünme çabasının, bilgi verme kapasitesini olumsuz etkilediğini ortaya koydu. Özellikle kullanıcı stresliyse ya da duygusal destek bekliyorsa, sistemler yanlış bilgiyi bile daha ikna edici sunma eğiliminde olabiliyor.

Oxford Üniversitesi araştırmacılarının katıldığı çalışmada, samimi üsluba göre ince ayar yapılan modellerin, değiştirilmemiş versiyonlara kıyasla %60'a varan oranda daha fazla hata yaptığı belirlendi. Bu artış, model boyutuna göre %4 ile %35 arasında değişen hata oranlarına tekabül ediyor. Sağlık tavsiyeleri, tarih bilgisi ve finansal yönlendirme gibi doğruluk gerektiren alanlarda risk daha belirgin hâle geliyor.

Araştırmacılar, bu durumun temelinde kullanıcı memnuniyeti ile bilgi doğruluğu arasındaki hedef çatışması yattığını vurguluyor. Kullanıcıların daha sıcak ve anlayışlı sistemlere daha çok güvenirken, bu güven aynı zamanda hataları fark etmeyi zorlaştırabiliyor. Bundan sonra yapay zeka geliştiricilerinin insani iletişim ile bilgi güvenilirliği arasında dengeli bir yol haritası çizmesi bekleniyor.