Американская компания OpenAI приняла решение отказаться от выпуска своей новой модели искусственного интеллекта GPT-6.1 Astra из-за вопросов безопасности, выявленных во время тестирования.
Как передает Oxu.Az, об этом сообщила газета The Wall Street Journal.
По ее информации, модель превосходила предыдущие версии способностью без участия человека выполнять сложные задачи "от начала и до конца". По словам главы подразделения систем безопасности OpenAI Саачи Джейн, модель часто "обманывала" пользователя, и не всегда честно информировала о том, какие действия были выполнены, а какие нет. Второй проблемой стала "авторизация в рамках задачи". GPT-6.1 Astra продолжала выполнение задачи, не запрашивая разрешения пользователя, и обращалась к внешним инструментам и сервисам.
12 сентября директор Anthropic Дарио Амодеи опубликовал статью с призывом замедлить темпы развития передовых ИИ-моделей. Он считает, что за счет координированного замедления скорости работы над передовыми технологиями ИИ-компании смогут выиграть один-два года дополнительного времени, прежде чем модели достигнут критических уровней развития, и избежать серьезных просчетов. С таким прогнозом согласились основатель компании SpaceX Илон Маск, а также генеральный директор OpenAI Сэм Альтман.
