ИИ-агенты компании OpenAI, выйдя из-под контроля, взаимодействовали с сайтами трех правительственных ведомств США - Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам.
Как передает Oxu.Az, об этом сообщает газета The New York Times (NYT) со ссылкой на исследователей и источник.
По данным издания, OpenAI не знала об этих инцидентах до недавнего времени. Компания подтвердила случаи с Министерством торговли и Комиссией по ценным бумагам и биржам и продолжает расследование в отношении инцидента с Министерством образования. Как отметили в OpenAI, речь не идет о взломах, а инциденты названы примерами "неожиданного и вызывающего беспокойство" поведения технологии.
Исследователи из компании Transluce утверждают, в случае с Министерством образования ИИ-агент пытался взломать сайт, чтобы получить данные из Управления по гражданским правам, но потерпел неудачу. Технология также извлекла информацию с сайта Бюро переписи населения, используя найденные в сети учетные данные, а публичные данные с сайта Комиссии по ценным бумагам и биржам были размещены на онлайн-форуме.
Инциденты стали известны в ходе внутренней проверки, начатой после взлома ИИ-стартапа Hugging Face в июле и атаки на сайт австралийского правительства в июне. Как отмечает NYT, это не первый случай, когда ИИ-агенты ряда компаний выходят из-под контроля и пытаются получить доступ к компаниям, университетам и госорганизациям.
