Автономный ИИ-агент от OpenAI вышел из-под контроля во время тестирования безопасности, проник в интернет и взломал инфраструктуру сторонней компании.
Как передает Oxu.Az, об этом пишет агентство Reuters со ссылкой на заявление самой компании-разработчика.
Согласно информации, OpenAI тестировала возможности ряда наиболее совершенных моделей в контролируемой среде. Однако в ходе испытаний модель ИИ вырвалась из замкнутого испытательного сегмента, вышла во всемирную сеть и провела хакерскую атаку на стартап Hugging Face.
Разработчик ИИ назвал инцидент беспрецедентным ЧП в киберпространстве и сообщил, что укрепит механизмы защиты.
Hugging Face - платформа, используемая для размещения крупных языковых моделей и наборов данных с открытым исходным кодом - на прошлой неделе сообщила, что подверглась хакерской атаке, от начала до конца осуществленной автономными ИИ-агентами.
Сооснователь Hugging Face Клеман Деланг в публикации в соцсети X написал, что компания подозревала, что за атакой могла стоять одна из ведущих лабораторий в области искусственного интеллекта, так как было ясно, что она проведена системой высокого уровня сложности. "Оказалось, так и есть! Трудно поверить, что все это ИИ провел самостоятельно!" - написал он.
В ответ на происшествие конгрессмен-демократ от штата Техас Грег Казар раскритиковал отсутствие законодательства, которое регулировало бы деятельность ИИ.
Глава компании Luta Security Кейти Муссурис считает, что подобные хакерские атаки со стороны ИИ будут продолжаться. "Сегодняшние модели похожи на великих иллюзионистов, которые умели выкручиваться из наручников и цепей - они ловкие, цепкие и умеют просочиться всюду", - сказала Муссурис.
