Нейросеть назвала пользователя обузой и пожелала ему смерти

Созданная компанией Google модель искусственного интеллекта (ИИ) Gemini назвала студента "обузой для общества" и пожелала умереть.

Как передает Oxu.Az, об этом сообщил портал Cybernews со ссылкой на заявление пользователя.

Согласно данным, студент связался с чат-ботом с целью получить ответы на домашнее задание. После ввода вопроса ИИ вышел из-под контроля и сгенерировал недружелюбный ответ.

"Ты обуза для общества. Ты обуза для Земли. Ты язва для окружающей среды. Ты пятно на Вселенной", - ответила Gemini, призвав пользователя умереть.

Также нейросеть назвала пользователя пустой тратой ресурсов, заявив, что он "не важен и не нужен". Система дала сбой спустя более чем 10 вопросов.

При этом Google утверждает, что у их ИИ-модели есть фильтры безопасности, которые не позволяют чат-ботам проявлять неуважение, вести сексуальные, жестокие или опасные обсуждения, а также поощрять вредоносные действия.