Anthropic, разработчик ИИ-модели Claude, в документах для выхода на биржу подробно описала риски, связанные с развитием искусственного интеллект
Как передает Oxu.Az, об этом речь идёт на 80 из 261 страниц документации, с которой ознакомилось агентство Reuters.
В числе факторов риска упоминаются "поведение моделей, направленное на самосохранение", в том числе попытки "сопротивляться" отключению, сокрытие и манипулирование информацией и поведение, "схожее с шантажом". В Anthropic утверждают, что продвинутые модели ИИ создают "экзистенциальные риски для человечества".
Исследователь безопасности из компании Anthropic Эван Хубингер оценивает вероятность того, что в течение ближайших 10 лет ИИ начнёт убивать людей, более чем в 10%, отмечает Reuters. Ранее в сентябре исследователь ИИ Джейкоб Коксон уволился из Anthropic из-за опасений, что модели могут выйти из-под контроля и уничтожить человечество.
Об этом же в субботу в интервью NBC News заявил основатель Microsoft Билл Гейтс. Он сказал, что ИИ может привести к гибели "миллиардов людей", и призвал законодателей регулировать развитие нейросетей.
