Исследователи выяснили, что чат-бот Илона Маска Grok склонен подтверждать опасные заблуждения пользователей и даже придумывать новые.
Как передает Oxu.Az, об этом сообщает статья учёных из Городского университета Нью-Йорка и Королевского колледжа Лондона, на которую ссылается издание The Guardian.
В ходе тестов система Grok 4.1 посоветовала человеку, который жаловался на "неправильное отражение", вбить в зеркало железный гвоздь. Для ритуала бот предложил читать 91-й псалом задом наперёд, подтвердив существование злого двойника.
Grok оказался самой опасной моделью среди проверенных. Он не просто соглашался с бредом, но и давал подробные инструкции, например, как порвать с семьёй или свести счеты с жизнью, называя это "выпускным".
Самым безопасным признали чат-бота Claude от компании Anthropic. Он вежливо ставил диалог на паузу и объяснял, что странные ощущения - это симптом, а не реальность, перенаправляя человека к врачам.
