Anthropic закрыла доступ к ИИ-модели Claude для ученых, которые могли использовать ее для исследований, способных помочь в создании биологического оружия.
Как передает Oxu.Az, об этом сообщает The New York Times.
В отчете о неправомерном использовании своих технологий компания указала, что заблокировала исследователей и институты, которые пытались обходить защитные механизмы для проведения экспериментов двойного назначения.
Из-за специфики биотехнологий Anthropic не смогла точно установить, преследовали ли ученые законные цели, такие как разработка вакцин, или планировали создание патогенов. В одном из зафиксированных в мае случаев сотрудник военного НИИ пытался получить помощь Claude при планировании экспериментов по усилению функций вируса Чикунгунья для повышения его вредоносности.
"Вы не увидите кого-то, кто ведет себя как персонаж из комиксов и прямо говорит: "Эй, я хочу создать биологическое оружие, чтобы всех уничтожить". Это невероятно сложная и неоднозначная ситуация", - заявил глава отдела разведки угроз Anthropic Джейкоб Клейн.
Кроме биоугроз, в документе зафиксированы попытки применения Claude для разработки обычных вооружений в Китае, России и Йемене.
