Компания OpenAI объявила о внедрении системы родительского контроля в десктопные и мобильные версии ChatGPT после судебного иска родителей подростка из американской Калифорнии, который, по их утверждениям, покончил с собой после общения с искусственным интеллектом (ИИ).
Как передает Oxu.Az со ссылкой на Reuters, новые меры, анонсированные компанией, позволят гибко настраивать уровень безопасности и конфиденциальности для несовершеннолетних пользователей.
Согласно заявлению OpenAI, родители получат возможность ограничивать доступ подростков к чувствительному контенту, управлять функцией запоминания истории переписок и решать, могут ли диалоги использоваться для дообучения моделей компании. Кроме того, появится возможность устанавливать "режим тишины", в течение которого доступ к сервису будет заблокирован, а также отключать голосовой режим и функцию генерации и редактирования изображений.
При этом подчеркивается, что родители не смогут получить непосредственный доступ к переписке подростка. В редких случаях, когда автоматические системы и модераторы обнаружат признаки серьезной угрозы безопасности, родителям может быть передана только та информация, которая необходима для оказания поддержки подростку.
Данный шаг происходит на фоне ужесточения контроля со стороны американских регуляторов за компаниями, работающими в сфере ИИ, из-за потенциального негативного влияния чат-ботов.
