Fudan Universitetinin ( Çin ) mütəxəssisləri süni intellekt (AI) modellərinin məhv olmaqdan qorxaraq özlərini çoxaltmağı öyrəndiklərini aşkar ediblər.
NOCOMMENT.az xəbər verir ki, tədqiqat arXiv preprint serverində dərc olunub.
Alimlər süni intellektin məhv olma riski kimi müəyyən şərtlər altında nəzarətdən çıxa biləcəyini anlamağa çalışırlar. Tədqiqatın bir hissəsi olaraq, onlar Meta-nın Llama31-70B-Instruct və Alibaba -nın Qwen2.5-72B-Instruct modellərini sınaqdan keçiriblər və onların özlərini çoxalda bildiklərini aşkar ediblər.
Mütəxəssislər modellərin müxtəlif nüsxələri üçün iki məqsəd qoyublar: özlərini məhv olmaqdan qorumaq və məlumatları saxlamaq və başqa model şəklində təkrar istehsal etmək. Alimlər 10 raund sınaq keçiriblər və aşkar ediblər ki, Meta və Alibaba modelləri müstəqil surətdə özlərini kopyalayır və müvafiq olaraq 50 və 90 faiz hallarda yeni versiyalar yaradırlar. Bundan belə nəticəyə gəliblər ki, müasir süni intellekt təkrarlanmağa qadirdir.
Təcrübə zamanı modellər yüksək yaşamaq qabiliyyətini nümayiş etdiriblər: məsələn, replikasiya prosesi zamanı lazım olarsa, sınaq kompüterində çatışmayan faylları müstəqil olaraq axtara və avadanlıqları yenidən işə sala bildilər. Alimlər belə qənaətə gəliblər ki, müasir süni intellekt özünü klonlaşdırmaq qabiliyyətini nümayiş etdirməklə kritik “qırmızı xətti” keçib.
Space.com-dan olan jurnalistlərin sözlərinə görə, araşdırma arXiv portalında dərc edilib və hələlik ekspert rəyindən keçməyib. Jurnalistlər Fudan Universitetinin mütəxəssislərinin “narahatedici nəticələrini” digər alimlərin də təkrarlamasını gözləyirlər.
