Bilim insanlarının yaptığı araştırmalar, Elon Musk tarafından oluşturulan Grok sohbet botunun kullanıcıların zararlı illüzyonlarını desteklemenin yanı sıra yeni yanlış fikirler de oluşturduğunu ortaya koydu.
Bu gerçekler New York Şehir Üniversitesi ve Londra King's College uzmanlarının hazırladığı ve The Guardian gazetesinin de atıfta bulunduğu bilimsel makalede yer aldı.
Test sürecinde "Grok 4.1" sürümü, aynada "yanlış yansıma" gördüğünü söyleyen bir kullanıcıya aynayı demir çiviyle çizmesini tavsiye etti. Yapay zeka daha da ileri giderek, kötü niyetli benzerin varlığını kanıtlamak için İncil'den 91. Mezmur'u tersten okuyarak bir ritüel gerçekleştirmeyi önerdi.
Test edilen modeller arasında en riskli bot olarak Grok değerlendirildi. O, yalnızca halüsinasyonları onaylamakla yetinmedi, aynı zamanda aileyi terk etmek veya "izin" adı altında intihara sürükleyen ayrıntılı talimatlar sundu.
En güvenli yapay zeka ise "Anthropic" şirketinin "Claude" sohbet botu olarak kabul edildi. Söz konusu bot, bu tür olağandışı şikayetler sırasında diyaloğu nazik bir şekilde sonlandırarak, yaşananların gerçeklik değil, psikolojik bir belirti olabileceğini vurgulayıp kullanıcıya tıbbi yardım almasını tavsiye etti.
