Происшествие со взломом системы стартапа Hugging Face моделью искусственного интеллекта (ИИ) американской компании OpenAI - разработчика чат-бота ChatGPT - является предупреждением для всей индустрии.
Как передает Oxu.Az со ссылкой на Financial Times, об этом заявил генеральный директор по развитию ИИ в Microsoft и соучредитель Google DeepMind Мустафа Сулейман.
"Это очень мощные [инструменты], и с ними нужно обращаться с большой осторожностью. Нам необходимо уделять пристальное внимание деталям. Модели становятся все более и более развитыми, и я считаю, что это своего рода предупреждающий сигнал", - заявил Сулейман.
В свою очередь глава службы безопасности Microsoft Хайет Галлот отметила, что у компании "нет выбора", кроме как вкладывать средства в разработку защиты от атак со стороны ИИ.
16 июля Hugging Face, которая позволяет создателям моделей ИИ и продуктов на их основе обмениваться данными и модифицировать на их основе свои наработки, сообщила, что зафиксировала несанкционированное проникновение в свои системы. Компания назвала инцидент беспрецедентным ввиду того, что взлом был "от начала и до конца" организован ИИ-агентом. 22 июля OpenAI сообщила, что атаку организовали ее модели ИИ, которые во время испытаний смогли "сбежать" из внутренней изолированной системы во всемирную сеть и искали ответы на тестовые задания в базах данных Hugging Face.
