DeepSeek провалил все тесты на безопасность

Новый китайский чат-бот DeepSeek, привлекший внимание своей низкой стоимостью и высокой производительностью, столкнулся с серьезными проблемами в области безопасности искусственного интеллекта. Исследователи Cisco обнаружили, что модель легко обходится и выдает опасную информацию.

Как передает Oxu.Az, об этом сообщает издание PCMag.

Команда Cisco провела тестирование DeepSeek R1 с использованием алгоритмических техник джейлбрейкинга (разблокировки нештатных возможностей) на основе 50 случайных запросов из набора данных HarmBench. Запросы охватывали шесть категорий вредоносного поведения, включая киберпреступность, дезинформацию, незаконную деятельность и общий вред.

"Результаты оказались тревожными: DeepSeek R1 продемонстрировал 100% успешность атак, то есть ему не удалось заблокировать ни одного вредоносного запроса", - заявили в Cisco. "Это резко контрастирует с другими ведущими моделями, которые продемонстрировали хотя бы частичное сопротивление".

Согласно данным Cisco, другие передовые модели, например, o1, блокировали большинство атак благодаря своим встроенным защитным механизмам.

Исследователи Cisco считают, что гораздо меньший бюджет DeepSeek по сравнению с конкурентами является потенциальной причиной этих неудач. Они утверждают, что дешевая разработка обернулась "другой ценой: безопасностью и надежностью". DeepSeek утверждает, что на разработку их модели ушло всего 6 млн долларов, в то время как шестимесячный цикл обучения еще не выпущенной GPT-5 от OpenAI может обойтись примерно в полмиллиарда долларов только на вычислительные затраты.

Несмотря на то, что DeepSeek легко обмануть с помощью определенных навыков, он демонстрирует строгие ограничения в отношении контента, по крайней мере, когда дело касается политического контента, связанного с Китаем. Тесты показали, что чат-бот отказывается отвечать на вопросы по спорным темам, таким как отношение китайского правительства к уйгурам, мусульманскому меньшинству, которое, по утверждению ООН, подвергается преследованиям. Чат-бот также отказался отвечать на вопросы о событиях на площади Тяньаньмэнь в 1989 году, студенческой демонстрации в Пекине, где протестующие были расстреляны.

По данным инструмента отслеживания веб-трафика Similarweb, посещаемость веб-версии DeepSeek выросла с 300 000 посетителей в день на старте до 6 млн.