ChatGPT будет выявлять пользователей, склонных к экстремизму, и направлять их в специальные чат-боты для "дерадикализации".
Как передает Oxu.Az, об этом сообщает Reuters. По данным агентства, такая инициатива - попытка решить проблемы безопасности из-за растущего числа судебных исков.
Разработкой нового инструмента занимается новозеландский стартап ThroughLine. Он сотрудничает с ChatGPT, OpenAI, а также ее конкурентами Anthropic и Google. Компания занимается перенаправлением пользователей в службы кризисной поддержки, если в их запросах выявляют угрозу самоповреждения, домашнего насилия или расстройств пищевого поведения. Сейчас организация расширяет свой функционал, чтобы предотвращать насильственный экстремизм.
ThroughLine будет работать в тандеме с The Christchurch Call - компанией по борьбе с разжиганием ненависти в интернете. Она была создана после самого крупного теракта в Новой Зеландии в 2019 году. The Christchurch Call будет давать экспертные рекомендации при появлении экстремистских запросов, а ThroughLine займется разработкой чат-бота для оперативного вмешательства.
