Вооруженные группировки из Йемена пытались использовать модель искусственного интеллекта (ИИ) Claude для создания разных типов баллистических ракет.
Как передает Oxu.Az со ссылкой на Financial Times (FT), об этом заявил разработчик Claude Anthropic в докладе, посвященном кибербезопасности. Хотя в докладе это не говорится прямо, речь идет о группировках хуситов.
Отмечается, что в Йемене Claude пытались применять при "разработке 3 программ разработки вооружения". По данным компании, в частности, модель использовали для разработки ПО, предназначенного для наведения баллистических ракет, их навигации, контроля и стабилизации. В некоторых случаях также использовали Claude для моделирования полета ракет.
В докладе говорится, что Anthropic блокировал большинство таких запросов, однако некоторые проходили ее систему безопасности. Компания объясняет это, в частности, тем, что создатели ракет пытались скрывать свои действия - например, делили запросы на несколько сессий так, чтобы было сложнее понять, что речь идет о ракетах.
В том же докладе Anthropic заявил об использовании Claude российскими и китайскими хакерами. Разработчик подчеркивает, что в целом обнаружил и прекратил много попыток применения Claude для создания огнестрельного оружия, ракет, беспилотников, бомб, биологического оружия и других видов вооружения и боеприпасов.
