ChatGPT'nin en yeni yapay zeka modeli tarihte ilk defa işe devam etmek için kendi koduna müdahale ederek deaktive etme emrine aldırış etmedi.
Oxu.Az'ın haberine göre, Daily Mail araştırmacıların konuya ilişkin yorumlarını paylaştı.
OpenAI'ın son versiyonu onu kapatmak için insan talimatlarına uymayı reddederek, görülmemiş bir davranış sergiledi.
Araştırmacılar bildiriyor ki, geliştiricilerinin bugüne kadar en akıllı ve en yetenekli olarak tanımladığı "o3" modeli kendi deaktivasyonunu engellemek için aktif adımlar attı. Yapay zeka sistemi otomatik durdurma mekanizmasından kaçınmak için bilgisayar koduna müdahale etti.
Yapay zeka ile çalışan Palisade Research güvenlik şirketi, OpenAI'ın "o3" modelinin deaktivasyon mekanizmasını kasıtlı olarak sabote ettiğini doğruladı. Uzmanlar vurguluyorlar ki, bu, yapay zeka sisteminin kapatılmasıyla ilgili doğrudan talimatlara rağmen çalışmaya devam ettiğine dair ilk kaydedilen olaydır.
