Anthropic şirketi, Claude Opus 4 ve Claude Opus 4.1 modellerinin sohbet versiyonunda kullanıcının uzun süren hakaret edici veya yanlış davranışı durumlarında nöron ağa diyaloğu durdurmaya imkan veren yeni fonksiyonun devreye alındığını duyurdu.
Oxu.Az'ın haberine göre, bununla ilgili açıklama geliştiricelerin sitesinde yayınlandı.
Yenilik yapay zekanın gelişimini sağlamak amacı taşıyan AI Welfare programının bir parçası olarak hayata geçirildi. İlk testler gösterdi ki, Claude Opus 4 zararlı sorgulara cevap vermekte açık isteksizlik ve yanlış iletişime stresli tepki gösteriyor. Diyalog sonlandırma aracı olan model bundan aktif şekilde yararlanıyor.
Kullanıcının yapay zekayı hakaret ettiği durumlarda sistem kullanıcıyı sohbetin bitmesi hakkında uyaracak.
