Компания Anthropic внесла изменения в свою политику, запретив оскорбления в адрес нейросети Claude и ее использование для пропаганды и разработки оружия.
Как передает Oxu.Az, об этом сообщило издание The Verge со ссылкой на источники.
"Anthropic впервые за более чем год вносит изменения в свою политику использования сервиса, чтобы отразить новые и крайне рискованные случаи злоупотребления, включая вмешательство в выборы, разработку оружия, слежку, а также использование в сфере здравоохранения и финансов", - говорится в публикации.
Главным механизмом реагирования на грубое отношение по-прежнему остается завершение нейросетью диалога с пользователем, который ее оскорбил. При этом не уточняется, введут ли новую санкцию в виде блокировки аккаунта.
В компании добавили, что обновленные правила будут применяться только в крайних случаях, когда пользователи неоднократно проявляют жестокость и неуважение к модели.
