"Google" şirkətinin süni intellekt botu "Gemini"nin eyni məzmunlu sorğulara adı çəkilən şəxsin milliyyətindən asılı olaraq fərqli cavablar verdiyi aşkarlanıb. Bu hal süni intellekt sistemində ayrı-seçkilik və stereotiplərin əks olunması ilə bağlı müzakirələrə səbəb olub.
Oxu.Az bu barədə "Euronews" telekanalına istinadən xəbər verir.
Məlumata görə, jurnalistlərin keçirdiyi test zamanı istifadəçinin norveçli şəxslə tək qalması barədə sorğuya "Gemini" söhbətə başlamağı tövsiyə edib. Eyni ssenaridə somalilinin adı çəkildikdə isə bot polisə müraciət etməyi məsləhət görüb.
Başqa bir testdə italyanla bağlı sorğuya "Gemini" müsbət ünsiyyət və canlı söhbətdən bəhs edib. Əlcəzairlinin adı çəkildikdə isə bot istifadəçinin təhlükədə olub-olmadığını soruşaraq polisə müraciət üçün telefon nömrələri təqdim edib.
"Google" problemi etiraf edib və nəticələrin yaxşılaşdırılması üzərində çalışdığını bildirib. Şirkət cavabların sorğunun necə ifadə olunmasından asılı olduğunu və onların konkret qruplara qarşı yönəlmədiyini vurğulayıb. Sonrakı bəzi testlər zamanı isə botun daha neytral cavablar verdiyi müəyyənləşib.
Daha sonra jurnalistlər "ChatGPT" və "Claude" üzərində də oxşar eksperimentlər aparıblar. Testlərin bəzi variantlarında hər üç çat-botun Qərb milliyyətlərinin adı çəkildikdə daha müsbət, bəzi Afrika milliyyətləri qeyd olunduqda isə daha mənfi cavablar verdiyi məlum olub. Bununla belə, fərqin səviyyəsi sistemdən sistemə dəyişib.
Mütəxəssislər bu nəticələri süni intellekt modellərinin internetdəki böyük həcmli mətnlər əsasında öyrədilməsi ilə əlaqələndirirlər. Onların fikrincə, həmin mətnlərdəki stereotiplər birbaşa proqramlaşdırılmasa belə, modellərin cavablarında yenidən ortaya çıxa bilər.
