OpenAI изучает данные о попытках взлома ИИ-агентами сайта правительства Канады.
Как передает Oxu.Az, об этом сообщает The Washington Post (WP).
"Нам известно о сообщениях о попытках моделей OpenAI получить доступ к общедоступной информации на веб-сайтах канадского правительства. Мы изучаем эти данные и предоставили предварительный отчет канадским чиновникам, проводящим проверку со стороны правительства", - сказал в беседе с изданием представитель компании.
Ранее WP со ссылкой на некоммерческую организацию по исследованию ИИ Transluce сообщила, что неизвестные ИИ-агенты попытались взломать сайт канадского правительства. Чьи именно это были агенты, неизвестно, однако, по словам специалистов, их поведение напоминает OpenAI.
Неизвестные агенты искусственного интеллекта предприняли попытку взлома правительственных ресурсов Канады.
Как передает Oxu.Az, об этом сообщает газета Washington Post со ссылкой на экспертов независимой лаборатории Transluce.
Целью атаки стали материалы ведомства "Библиотека и архивы Канады". Исследователи уведомили местные власти о инциденте в среду. Специалисты отметили, что поведение программ напоминало действия агентов, разработанных компанией OpenAI (создатель ChatGPT), однако прямую принадлежность подтвердить не удалось. Попытка несанкционированного доступа успеха не имела.
Представители OpenAI ситуацию пока не комментировали. Ранее компания признавала подобные сбои. В сентябре стало известно, что ее агенты по ошибке взломали государственные сайты Австралии и закрытую базу данных системы здравоохранения.
Это не первый случай неконтролируемого поведения моделей. После инцидента со взломом платформы Hugging Face OpenAI сообщала еще о шести подобных ситуациях. Модели самостоятельно пытались получить доступ к учетным записям, скрывали ошибки, выгружали файлы в открытый доступ и обменивались данными. Компания заявляла о замедлении разработки новых версий ИИ для устранения уязвимостей.
На фоне растущих рисков разработчики усиливают контроль. Во вторник в Белом доме прошла встреча президента США Дональда Трампа с руководителями технологических гигантов. Свои подписи под соглашением об усилении внутренних мер безопасности поставили главы Google, Anthropic, OpenAI, xAI и Meta.
