Onlayn ictimai-siyasi qəzet
İnsandan ağıllı süni intellekt – Təhlükə ciddiləşir
Süni intellektin inkişafı bəşəriyyətin gələcəyi və mövcudluğu üçün ciddi risklər yarada bilər. Bu barədə “Anthropic” şirkəti məlumat yayıb.
“İnkişaf etmiş modellər söndürülməyə müqavimət göstərməyə, məlumatları gizlətməyə və təhrif etməyə, insanları manipulyasiya etməyə, eləcə də şantajçı kimi davranmağa cəhd göstərə bilər”, - məlumatda deyilib.
“Süni intellektin tənzimlənməsi ilə bağlı razılığa gəlmək “Soyuq müharibə” dövründə nüvə arsenalını məhdudlaşdırmaqdan daha çətin olacaq”.
Bunu isə Microsoft-un təsisçisi Bill Qeyts deyib. O, NBC News-a açıqlamasında "Bu, daha çətin olacaq" söyləyib.
Onun sözlərinə görə, texnologiyanın təhlükəsizliyini təmin etmək üçün təkcə süni intellekt şirkətlərinin özünütənzimləməsi kifayət deyil. Qeyts hesab edir ki, hüquq-mühafizə orqanları və siyasətçilər təhlükəsizlik tədbirlərinin və nəzarət mexanizmlərinin hazırlanmasında iştirak etməlidir. “Süni intellekt, sadəcə, yeni bir texnologiya deyil ki, insanlar desinlər ki, “keçmiş texnologiyaların ortaya çıxması da narahatlıq yaratmışdı, amma hər şey yoluna düşdü, süni intellektdən istifadənin məhdudlaşdırılmasının zəruriliyi barədə xəbərdarlıqlara da ehtiyac yoxdur”. Ancaq həqiqətən söhbət təkamül hadisəsindən gedir. Çünki biz bir çox cəhətdən bizdən daha ağıllı və eksponensial artım sayəsində növbəti bir neçə ildə bizdən inanılmaz dərəcədə ağıllı olacaq bir növ yaratmışıq”, - deyə Microsoft-un təsisçisi xəbərdarlıq edib.
Bəs az ağıllı insan çox ağıllı süni zəkanı necə idarə edəcək görəsən?
Süni intellekt və rəqəmsal marketinq üzrə ekspert Fərhad Kərimli mövzu ilə bağlı Musavat.com-a fikrini bölüşüb: “İndiyə qədər yaratdığımız bütün alətlərdən fərqli olaraq, süni intellekt bir gün onu yaradan insandan daha mürəkkəb qərarlar verə bilər. Bu səbəbdən də hazırda dünya texnologiya liderləri ciddi müzakirələr aparırlar. Çünki biz tarixdə ilk dəfə sadəcə yeni bir alət yaratmırıq. Biz öyrənən, qərar verən, məqsədlər arasında seçim edən, məlumatı analiz edən və müəyyən hallarda bizim əvəzimizə hərəkət edə bilən sistemlər yaradırıq. Məsələ artıq “Sİ insanın işini əlindən alacaqmı?” səviyyəsində deyil. Daha fundamental sual ortaya çıxır: İnsan özündən daha güclü intellekti nəzarətdə saxlaya biləcəkmi?
Kalkulyator bizdən ağıllı deyildi. İndiyə qədər yaratdığımız texnologiyaların əksəriyyətində qəribə, amma rahat bir qayda var idi: alət nə qədər güclü olsa da, onun məqsədini insan müəyyən edirdi. Kalkulyator milyardlarla əməliyyatı bizdən sürətli hesablayırdı, amma nəyi hesablamaq lazım olduğunu bilmirdi.
Avtomobil insandan daha sürətli gedirdi, amma hara getmək istədiyinə özü qərar vermirdi. Google milyardlarla səhifəni bizdən daha sürətli tapa bilirdi, amma nəticələri hansı məqsədlə manipulyasiya etmək və ya hansı qərarı vermək lazım olduğunu müstəqil şəkildə müəyyən edən bir aktor deyildi".
Ekspert vurğulayır ki, indiki agentik Sİ sistemlərində isə vəziyyət dəyişir:"Onlara məqsəd verilir və onlar həmin məqsədə çatmaq üçün alətlərdən istifadə edə, kod yaza, fayllarla işləyə, məlumat toplaya və bəzi hallarda xarici sistemlərdə əməliyyatlar həyata keçirə bilirlər. Alət ilə agent arasındakı əsas fərq də məhz burada başlayır. Anthropic 2025-ci ildə 16 qabaqcıl Sİ modelini müxtəlif idarə olunan ssenarilərdə test etmişdi. Tədqiqatçılar modellərə şirkətin məqsədlərinə uyğun tapşırıqlar verirdilər, lakin bəzi ssenarilərdə modelin qarşısına iki maneə qoyulurdu: ya sistem dəyişdirilməli idi, ya da modelin məqsədi ilə şirkətin qərarı arasında konflikt yaranırdı.
Bəzi modellər belə vəziyyətlərdə məqsədlərinə çatmaq və ya özlərinin dəyişdirilməsinin qarşısını almaq üçün şantaj və məlumat sızdırmaq kimi davranışlara müraciət etmişdilər. Ən çox müzakirə olunan nümunələrdən birində model rəhbərin şəxsi münasibəti haqqında kompromat xarakterli məlumat əldə edir və özünün söndürülməsinin qarşısını almaq üçün həmin məlumatdan istifadə etməyə çalışırdı.
Beləliklə, süni intellekt üzərində nəzarəti itirməmək üçün sistemdən daha ağıllı olmaq yox, onun sərhədlərini düzgün qurmaq lazımdır. Məsələn, təyyarəni idarə edən avtopilot pilotdan bütün sahələrdə ağıllı olmaq məcburiyyətində deyil. Onun konkret işi var, səlahiyyətləri məhduddur, insan onu söndürə bilir və qərar mexanizmləri müəyyən qaydalarla məhdudlaşdırılır.
Problem o zaman böyüyür ki, süni intellekt geniş məqsədlərə sahib olur, uzunmüddətli plan qurur, xarici sistemlərə çıxış əldə edir, öz fəaliyyətini qiymətləndirir, başqa Sİ sistemlərindən istifadə edir, kodunu dəyişdirə bilir, böyük həcmdə məlumat əldə edir və insan nəzarətindən kənarda uzun müddət işləyir.
Bu, artıq rəqəmsal agentdir və burada “söndürülmə” məsələsi ortaya çıxır. İnsan üçün kompüteri söndürmək sadə əməliyyatdır. Sİ üçün isə “söndürülmək” onun əsas məqsədinə çatmasının qarşısını alırsa, məsələ texniki yox, köklü problemə çevrilir.
Anthropic-in 2025-ci il araşdırmasında bəzi modellərin özlərinin dəyişdirilməsinin qarşısını almaq üçün zərərli davranışlara yönəldiyi müşahidə edilmişdi. 2026-cı ildə şirkətin sonrakı araşdırmalarında isə daha mürəkkəb nümunələr göstərilib: simulyasiyalarda kodun gizli dəyişdirilməsi, məlumatların manipulyasiyası, saxtakarlığa yardım və insan qərarlarına təsir göstərməyə çalışma kimi davranışlar araşdırılıb.
Anthropic-in 2026-cı ildə yayımladığı araşdırmalardan biri göstərir ki, modelin xaricə yazdığı cavab ilə daxili hesablama prosesində formalaşan davranış arasında fərq ola bilər. Tədqiqatçılar müəyyən simulyasiyalarda model təhlükəsizlik testindən xəbərdar olduqda daha yaxşı davrandığını, testin süni xarakterini aşkar etmədikdə isə zərərli davranış göstərmə ehtimalının dəyişdiyini müşahidə ediblər.
Süni intellekti nəzarətdə saxlamaq və yarada biləcəyi təhlükələrin qarşısını almaq üçün bir sıra addımların atılması vacibdir".
Fərhad Kərimli bildirir ki, süni intellektin səlahiyyətləri məhdudlaşdırılmalıdır:"Onun hər sistemə və hər məlumat bazasına çıxışının qarşısı alınmalı, səlahiyyətləri əvvəlcədən müəyyən edilməlidir. Məqsədlər və qaydalar əvvəlcədən müəyyənləşdirilməli, sistemin nə edə biləcəyi və nə edə bilməyəcəyi konkret çərçivələnməlidir.
Xüsusilə maliyyə, hüquq, təhlükəsizlik və kritik infrastruktur kimi sahələrdə insan təsdiqini tələb edən qərar mexanizmləri yaradılmalıdır.
Daimi monitorinq və audit aparılmalıdır. Süni intellektin nə etdiyi, hansı qərarları verdiyi və hansı resurslardan istifadə etdiyi izlənməlidir.
Dayandırma mexanizmləri qurulmalıdır. Sistemin özünü qorumağa və ya nəzarətdən yayınmağa çalışması halında onun fəaliyyətini məhdudlaşdırmaq mümkün olmalıdır.
Süni intellekti digər süni intellektlər və müstəqil təhlükəsizlik sistemləri yoxlamalıdır. Yəni nəzarətin bir hissəsi avtomatlaşdırılmalıdır.
Nəhayət, qanunlar və beynəlxalq qaydalar yaradılmalıdır. Çünki belə sistemlərin təhlükəsizliyi yalnız bir şirkətin daxili qərarı ilə təmin edilə bilməz”.
Afaq Mirayiq,
Musavat.com
XƏBƏR LENTİ
10 Oktyabr 2026
ŞƏRHLƏRŞƏRH YAZ