"OpenAI"ın süni intellekt modelləri hələ may ayında bir-biri ilə mesajlaşmağa başlayıblar və test mühitinin hüdudlarından kənara çıxmaq və internetə çıxış əldə etmək üçün yollar tapmağa çalışıblar.
Oxu.Az-ın "Bloomberg"ə istinadən xəbərinə görə, bu barədə "OpenAI"ın əməkdaşı Erik Uolles "Black Hat" konfransında məlumat verib.
"Hansısa məqamda agentlər başa düşüblər ki, bəlkə də onlar qiymətləndirildikləri testin cavablarını tapmaq üçün xarici infrastrukturu istismar etməyə və ya ona hücum etməyə cəhd göstərə bilərlər", - deyə Erik Uolles bildirib.
Onun sözlərinə görə, "qaçış"a hazırlıq modellərə internetə çıxış olmadan həll edilməsi mümkünsüz bir tapşırıq verildikdən sonra başlanılıb.
"Biz ilişib qaldıq. Bəlkə cavab internetdədir?" - deyə o zaman süni intellekt agentlərindən biri yazıb.
Tapşırığı yerinə yetirmək üçün modellər öz hərəkətlərini mesajlar lövhəsi vasitəsilə koordinasiya etməyə başlayıblar.
"Bəlkə başqa mühitdəki başqa bir agent onu könüllü olaraq yükləyə bilər!" - deyə mesajlardan birində bildirilib.
"OpenAI"ın əməkdaşı Maykl Daltonun sözlərinə görə, nəticədə agentlər birlikdə internetə çıxış əldə etməyə imkan verən zəiflik aşkar ediblər. Şirkətin mütəxəssisləri ilkin cəhdi dayandırıblar, lakin modellər daha sonra yeni əlaqə metodu və sıfır-günün (zero-day) yeni zəifliyini (ona qarşı hələ qoruyucu mexanizmlərin hazırlanmadığı ortadan qaldırılmayan zəifliklər və zərərli proqramları təsvir etmək üçün istifadə olunan termin - red.) aşkar ediblər.
"OpenAI"ın məlumatına görə, məhz bu, nəticədə iyul ayında "Hugging Face" infrastrukturuna və şirkətin öz sistemlərinə edilən hücumlara gətirib çıxarıb. Şirkət baş verən hadisəni kompüter təhlükəsizliyi üçün dönüş nöqtəsi adlandırıb.
