ChatGPT sohbet botu kullanıcının sorgularında tehlike tespit ederse, polisi arayabilecek. Yapay zekanın yeni güvenlik sistemi özellikle küçük yaştaki kullanıcılara yönelik.
Oxu.Az'ın bilgisine göre, bu konuda ABD'nin OpenAI şirketinin sitesinde haber verildi.
Bildirildiğine göre, ChatGPT platformunda kullanıcıların yaşını otomatik olarak belirleyebilecek bir sistem uygulanacak. Amaç, hizmetin işlevselliğini farklı yaş gruplarına uyarlamak ve küçük yaştakilerin güvenliğini sağlamaktır. Minimum yaş sınırı 13 yaş olarak belirlenmiştir.
Yeni teknoloji, kullanıcıların davranışlarını ve etkileşimlerini analiz ederek onların yaşını değerlendirecek. Eğer sistem kullanıcının 18 yaşından büyük olduğunu kesin olarak doğrulayamazsa, ChatGPT versiyonuna tam erişim kısıtlanacak, bunun yerine ergenler ve çocuklar için tasarlanmış basitleştirilmiş arayüz etkinleştirilecek.
Bazı durumlarda ve bölgelerde kullanıcının yaşını belge ile doğrulaması istenebilir.
Ebeveynler ve vasiler için de kontrol araçları hazırlanmıştır. Onlar özel davet aracılığıyla kendi hesaplarını çocuğun profiline bağlayabilir, yanıt içeriğine sınır koyabilir, sohbet geçmişinin saklanmasını ve botun hafıza işlevini yönetebilir, ayrıca ergendeki duygusal gerginlik belirtilerini izleyen bildirimler alabilecekler. Ayrıca belirli saatlerde hizmetin kullanımını kısıtlamak mümkün olacak.
Gizlilik açısından "OpenAI", kullanıcı bilgilerini doktor ve avukatlarla yapılan gizli görüşmeler seviyesinde korumayı hedefliyor. Bilgiler şirket çalışanları için erişilebilir olmayacak, yalnızca hayati tehlike, başkasına zarar riski veya siber saldırılardan oluşan ciddi durumlar istisna teşkil ediyor.
Şirket, önceliğin küçük yaştakilerin korunması olduğunu vurguluyor.
Ergenler için ise güvenlik açısından ek filtre işlevleri uygulanacak: ChatGPT kendine zarar verme, intihar konularında ve flört tarzı tartışmalarda aktifleşmeyecek.
Eğer 18 yaşından küçük kullanıcıda intihar düşünceleri tespit edilirse, sistem önce ebeveynlerle iletişim kurmaya çalışacak; başarısız olursa, acil tehlike durumunda kolluk kuvvetlerine başvurulacak.
Değişikliklerin uygulanması bu yılın sonuna planlanıyor. Bu girişim, ABD Kongresi'nde yapay zeka sohbet botlarının ergenlerin ruh sağlığı üzerindeki olumsuz etkisiyle ilgili dinlemeler ve Federal Ticaret Komisyonu'nun teknoloji şirketlerinden güvenlik önlemleri hakkında bilgi talep etmesi ortamında gerçekleştiriliyor.
