ChatGPT, aşırılığa meyilli kullanıcıları tespit ederek onları "deradikalize etmek" için özel sohbet botlarına yönlendirecek.
Bilgiye göre, bu girişim artan mahkeme davaları bağlamında güvenlik sorunlarını çözme girişimidir.
Yeni aracın geliştirilmesiyle Yeni Zelanda merkezli ThroughLine şirketi ilgilenmektedir. Şirket, ChatGPT, OpenAI şirketi ve ayrıca rakipleri Anthropic ve Google ile iş birliği yapmaktadır. Şirket, kullanıcıların sorgularında kendine zarar verme, aile içi şiddet veya yeme bozuklukları ile ilgili risk tespit edildiğinde onları kriz destek hizmetlerine yönlendirmekle ilgilenmektedir. Şimdi ise kuruluş işlevselliğini genişleterek şiddet içeren aşırılıkçılığın önüne geçmeye çalışmaktadır.
ThroughLine, ayrıca internette nefretin yayılmasına karşı mücadele eden The Christchurch Call şirketiyle birlikte faaliyet gösterecek. The Christchurch Call, aşırılıkçı içerik tespit edildiğinde uzman tavsiyeleri sunacak, ThroughLine ise operasyonel müdahale için sohbet botunun geliştirilmesini gerçekleştirecek.
Reuters
