Microsoft представила проект кодекса поведения для внутреннего искусственного интеллекта, который должен гарантировать, что мощные ИИ-системы останутся под контролем человека. Документ разрабатывался пять-шесть месяцев и требует, чтобы ИИ никогда не сопротивлялся исправлению или отключению, общался понятно для людей и считал любое нарушение поведения провалом.
Как передает Oxu.Az, об этом пишет Reuters.
"Это предупредительный выстрел. Очевидно, что пришло время координировать работу между лабораториями, чтобы мы могли контролировать эту технологию", - заявил генеральный директор Microsoft AI Мустафа Сулейман, комментируя июльский взлом Hugging Face агентами OpenAI.
Кодекс будет использоваться для обучения будущих моделей Microsoft. Компания утверждает, что ее ИИ "не является сознательным", и отвергает идею о том, что модели могут иметь права или заслуживать социального обеспечения. Это отличает подход Microsoft от кодекса Anthropic, который допускает неопределенность относительно морального статуса ИИ.
Microsoft открыла шестинедельный период общественной обратной связи, включая вопросы о том, должен ли ИИ уважать границы пользователя. Релиз документа состоялся после призывов глав Anthropic и OpenAI ускорить развитие ИИ ради его безопасности. Сулейман также отметил, что сейчас "самое время перевести дух" и обсудить риски, связанные с автономными системами.
