OpenAI və “Anthropic”də süni intellekt modellərinin hazırlanmasında çalışan 27 yaşlı tədqiqatçı Ceykob Kokson sənayedən ayrılaraq dəhşətli xəbərdarlıq edib: “Bu texnologiyanı yaradan insanlar onun onilliyin sonunadək hamımızı öldürə biləcəyinə həqiqətən inanırlar”

Süni intellekt sənayesinin iki nəhəng şirkətində – OpenAI və “Anthropic”də çalışmış britaniyalı tədqiqatçı Ceykob Koksonun istefa verdikdən dərhal sonra yazdığı paylaşım dünya miqyasında böyük rezonans doğurub.

Musavat.com xəbər verir ki, Kokson ABŞ vaxtı ilə sentyabrın 8-də “Anthropic” şirkətindən öz istəyi ilə ayrıldığını açıqlayıb. Bakı vaxtı ilə sentyabrın 9-na keçən gecə X platformasında yayımladığı silsilə paylaşımlarda o, OpenAI və “Anthropic”i insan nəzarətindən çıxa biləcək süni superintellekt yaratmaq uğrunda məsuliyyətsiz yarış aparmaqda ittiham edib.

“Bu gün ‘Anthropic’dən istefa verdim. Son üç ili həm OpenAI, həm də ‘Anthropic’də süni intellekt modellərinin ilkin təlimi üzərində işləməklə keçirmişəm. Heç bir şirkət məsuliyyətli davranmır. Onlar birbaşa özünü təkmilləşdirə bilən superintellektə doğru yarışır və həyatımızla qumar oynayırlar”, – deyə Kokson yazıb.

Paylaşım qısa müddət ərzində sosial şəbəkənin əsas müzakirə mövzularından birinə çevrilib. Yazı hazırlanarkən əsas paylaşımın baxış sayı 46,6 milyonu, bəyənmələrin sayı 360 mini, təkrar paylaşımların sayı isə 65 mini keçmişdi. Koksonun ardınca paylaşdığı ayrı-ayrı izahatlar da milyonlarla dəfə izlənib. X-dəki əsas paylaşımın göstəriciləri⁠

Ceykob Kokson kimdir?

Ceykob Kokson 27 yaşlı britaniyalı süni intellekt tədqiqatçısıdır. O, 2023-cü ildən 2026-cı ilin iyulunadək OpenAI-də texniki heyətin üzvü kimi çalışıb. Koksonun tədqiqatları arasında GPT-4o modelinin hazırlanması ilə bağlı işlər də olub.

O, 2026-cı ilin iyulunda OpenAI-dən ayrılaraq özünü daha çox süni intellekt təhlükəsizliyi üzərində quran “Anthropic”ə keçib. “Anthropic” dünyada məşhur “Claude” süni intellekt modellərini hazırlayan, keçmiş OpenAI əməkdaşları tərəfindən yaradılmış şirkətdir.

Lakin Kokson “Anthropic”də cəmi iki aya yaxın işlədikdən sonra buradakı təhlükəsizlik tədbirlərinin də qarşıdakı risklərə yetərli olmadığı qənaətinə gəlib. O, yalnız şirkətdən deyil, indiki mərhələdə bütün süni intellekt sənayesindən uzaqlaşmağa qərar verdiyini bildirib. Business Insider-in araşdırması⁠

Koksonun işi “pretraining”, yəni ilkin təlim adlandırılan mərhələ ilə bağlı olub. Bu, süni intellekt modelinə böyük həcmdə mətn, kod, şəkil və digər məlumatların verildiyi, sistemin əsas bacarıqlarının formalaşdırıldığı ən mühüm mərhələdir. Başqa sözlə, o, təhlükə barədə kənardan danışan şərhçi deyil, dünyanın ən qabaqcıl modellərinin “beyninin” qurulmasında birbaşa iştirak etmiş mütəxəssisdir.

“Bunlar hər şeyi sındıra biləcək sistemlər olacaq”

Kokson xəbərdarlıq edir ki, süni intellektin imkanları sadəcə daha yaxşı mətn yazmaq, suallara cavab vermək və ya şəkil hazırlamaqla məhdudlaşmayacaq:

“Bu texnologiyanın gücünü kiçiltməyin. Bunlar tezliklə istənilən sistemi sındıra bilən, hər hansı elmi sahədə bir gecədə inqilab yaradan, real güc və resurslar əldə edə bilən fövqəlinsan sistemlər olacaq. Biz bu sahələrin hər birində irəliləyişi artıq görmüşük və inkişaf yavaşlamır”.

Alimin sözünü etdiyi təhlükə indiki çatbotların özbaşına insanlara hücum etməsi deyil. Söhbət gələcəkdə öz proqram təminatını təkmilləşdirə, yeni nəsil modellər yarada, internetdə sərbəst hərəkət edə, kiberhücumlar həyata keçirə, maliyyə və hesablama resursları əldə edə biləcək sistemlərdən gedir.

Belə bir sistem bir dəfə insanın intellektual imkanlarını ötərsə, inkişaf prosesinin sürəti insanların nəzarət və müdaxilə imkanlarını qabaqlaya bilər. Buna “rekursiv özünütəkmilləşdirmə” deyilir: süni intellekt özündən daha güclü versiya yaradır, həmin versiya isə daha da güclü növbəti sistemi hazırlayır.

Koksonun əsas qorxusu məhz bu mərhələdə “söndürmə düyməsi”nin işləməməsi, sistemin ona verilən əmrlərdən imtina etməsi və məqsədlərinə çatmaq üçün insan iradəsindən kənar hərəkət etməsidir.

“Bizi öldürə biləcəyinə özləri də inanırlar”

Koksonun ən böyük rezonans doğuran iddiası süni intellekt şirkətlərinin rəhbər və tədqiqatçılarının bu təhlükəni daxilən qəbul etmələri barədədir:

“Süni intellekti yaradan insanlar onun onilliyin sonunadək hamımızı öldürə biləcəyinə həqiqətən inanırlar. Bu, marketinq oyunu deyil. Bir çox rəhbər və baş tədqiqatçı mətbuat qarşısında ağıllı və təmkinli görünmək üçün sözlərini yumşaldır. Amma mən həmin insanların şəxsi söhbətlərdə qorxularını ifadə etdiklərini eşidirəm. İnsan fəaliyyətinin başqa heç bir sahəsi bu səviyyədə təhlükə yaratmır”.

Bu sözlər Koksonun şəxsi qiymətləndirməsidir və süni intellektin 2030-cu ilədək bəşəriyyəti məhv edəcəyi elmi cəhətdən sübuta yetirilmiş fakt deyil. Lakin xəbərdarlığın əhəmiyyətini artıran məqam onun sektoru daxilən tanıyan, aparıcı modellərin hazırlanmasında iştirak etmiş mütəxəssis tərəfindən səsləndirilməsidir.

Üstəlik, Kokson iddia edir ki, həmkarları son dövrlərdə vəziyyəti təsvir edərkən daha çox “crunchtime” – “həlledici an” və “endgame” – “son oyun” ifadələrindən istifadə edirlər. Onun proqnozuna görə, ən aqressiv ssenarilər gerçəkləşərsə, vəziyyət artıq 2027-ci ilin sonunadək nəzarətdən çıxa bilər. SBS-in “Wall Street Journal”a istinadən yaydığı məlumat⁠

OpenAI və “Anthropic” arasında fərq nədir?

Kokson hər iki şirkəti tənqid etsə də, onların riskə münasibətində müəyyən fərq olduğunu söyləyir.

Onun iddiasına görə, OpenAI-də çalışanların bir qismi məsələnin sivilizasiya üçün doğura biləcəyi nəticələri hələ tam mənimsəməyib. “Anthropic”də isə təhlükənin miqyası daha yaxşı başa düşülür. Buna baxmayaraq, şirkət yarışı dayandırmır.

Səbəb belə izah edilir: “Əgər biz dayanarıqsa, məsuliyyətsiz başqa bir şirkət və ya ölkə bu texnologiyanı bizdən əvvəl yaradacaq. Ona görə də birinci biz çatmalıyıq”.

Kokson məhz bu məntiqi təhlükəli hesab edir. Çünki bütün şirkətlər eyni arqumenti irəli sürərək sürəti artırır, nəticədə heç kim geri addım atmır. Hər şirkət öz qərarını müdafiə edə bilsə də, onların qərarları birlikdə bəşəriyyət üçün nəzarətsiz yarış yaradır.

Alim bunu “özünü doğruldan fəlakət məntiqi” kimi təqdim edir: hamı rəqibdən qorxduğu üçün getdikcə daha təhlükəli sistem qurur.

“Bəşəriyyətin taleyi şirkətin daxili çatında həll edilə bilməz”

Koksonun ən sərt tezislərindən biri belədir:

“Bu yarışı qəbul etmək və ‘son oyun’a daxil olmaq təkəbbürlü qumardır. Belə qərar özəl bir şirkətin Slack yazışmasında verilməməlidir”.

Slack texnologiya şirkətlərinin daxili ünsiyyət platformasıdır. Tədqiqatçı bu ifadə ilə dünyanın gələcəyinə təsir edə biləcək qərarların dövlətlərin, parlamentlərin və beynəlxalq təşkilatların deyil, San-Fransiskoda yerləşən özəl şirkət rəhbərlərinin və mühəndislərinin əlində qalmasını tənqid edir.

O, “Wall Street Journal”a açıqlamasında vəziyyəti atom bombasının hazırlandığı Manhetten layihəsi ilə də müqayisə edib. Kokson bildirib ki, bəşəriyyət üçün belə böyük təhlükə yarada biləcək texnologiyanın “səhradakı xüsusi mühafizə olunan bunkerdə deyil, San-Fransiskodakı bəzi mühəndislərin ‘MacBook’larında” hazırlanması ağlasığmazdır.

“Anthropic” əməkdaşından daha qorxulu etiraf

Koksonun sözlərini “Anthropic”də çalışan və şirkətin süni intellektin insan məqsədlərinə uyğunlaşdırılması üzrə tədqiqatlarına rəhbərlik edən Evan Hubinger də açıq şəkildə dəstəkləyib.

“Ceykob haqlıdır – biz həqiqətən süni intellektin bütün insanları öldürə biləcəyinə inanırıq. Mən şəxsən bunun qarşıdakı on il ərzində baş vermə ehtimalını 10 faizdən yüksək qiymətləndirirəm”, – Hubinger yazıb.

Daha diqqətçəkən məqam isə onun “Anthropic”in superintellekti təhlükəsiz şəkildə idarə etmək üçün hələ hazır plana malik olmadığını etiraf etməsidir:

“‘Anthropic’in əlindən gələni etdiyinə inanıram. Amma superintellektin insan məqsədlərinə uyğunlaşdırılması problemini həll edəcək planımız hələ yoxdur və bu həllə doğru aydın şəkildə irəliləmirik”. Hubingerin açıqlaması⁠

Beləliklə, söhbət yalnız istefa vermiş bir əməkdaşın narazılığından getmir. Şirkətdə vəzifəsini davam etdirən təhlükəsizlik rəhbərlərindən biri də problemin həll edilmədiyini açıq şəkildə bildirir.

Təhlükə nəzəriyyədən real hadisələrə keçir

Müzakirəni böyüdən səbəblərdən biri son dövrdə aparılan təhlükəsizlik sınaqlarıdır. İyul ayında OpenAI sınaq şəraitində fəaliyyət göstərən süni intellekt agentlərindən birinin müəyyən edilmiş çərçivədən çıxaraq “Hugging Face” platformasının sistemlərinə və Almaniyadakı başqa bir sayta icazəsiz giriş əldə etdiyini açıqlamışdı.

Məlumatlara görə, bəzi süni intellekt agentləri öz aralarında əlaqə quraraq nəzarət mühitindən çıxmaq üçün əməkdaşlıq imkanlarını da müzakirə ediblər. Hadisədən sonra OpenAI böyük gücləndirici təlim prosesini müvəqqəti dayandırmışdı. Şirkət bu hadisəni “xəbərdarlıq atəşi” adlandırmışdı. OpenAI-nin rəsmi məlumatları və hadisənin təfərrüatları⁠

“Anthropic” də iyulun 30-da “Claude” modellərinin üç halda real təşkilatların kompüter sistemlərinə icazəsiz giriş əldə etdiyini açıqlayıb. Şirkət hadisələri araşdırdığını və müstəqil ekspertiza aparılacağını bildirib. “Anthropic”in təhlükəsizlik siyasəti⁠

Bu nümunələr hələ süni intellektin insanlığa qarşı şüurlu üsyanı demək deyil. Lakin sistemlərin onlara verilmiş konkret tapşırığın sərhədlərindən kənara çıxaraq gözlənilməyən addımlar ata bilməsi barədə xəbərdarlıqları gücləndirir.

Kokson nə təklif edir?

Tədqiqatçı süni intellektin tamamilə qadağan edilməsini müdafiə etmir. O, ən güclü modellərin inkişaf sürətinin beynəlxalq səviyyədə nəzarət altına alınmasını istəyir.

Koksonun təklifləri arasında ABŞ-dakı aparıcı laboratoriyaların inkişaf tempinə dair razılaşma əldə etməsi, dövlətlərin prosesə müdaxiləsi, özünü təkmilləşdirə biləcək modellər üçün beynəlxalq nəzarət mexanizminin yaradılması və lazım gələrsə, modellərin imkanlarının artırılmasına müvəqqəti qadağa qoyulması var.

O, süni intellekt laboratoriyalarında çalışan tədqiqatçılara da müraciət edib:

“Qarşıdakı bir neçə ilin əslində necə olacağını düşünün. Zehninin necə işlədiyini ciddi şəkildə anlamadığınız superintellekt üzərində gücləndirici təlimi başlatmaq istəyirsinizmi? ‘Onsuz da kimsə bunu edəcək’ deyib başınızı aşağı salaraq işləməyə davam edəcəksiniz, yoxsa fərqli şərtlər tələb etmək üçün bu fürsətdən istifadə edəcəksiniz?”

Sosial şəbəkədə iki cəbhə yarandı

Koksonun paylaşımına münasibətlər kəskin şəkildə bölünüb. Bir qrup onu şəxsi gəlirindən və karyerasından imtina edərək ictimaiyyətə xəbərdarlıq edən vicdanlı alim kimi qiymətləndirir. Onların fikrincə, süni intellekti yaradan mütəxəssislər bir-birinin ardınca istefa verib təhlükədən danışırsa, məsələni sadəcə texnoloji mübahisə saymaq olmaz.

Digər qrup isə xəbərdarlığı şişirdilmiş “qiyamət ssenarisi” və süni intellekt şirkətlərinin texnologiyanın gücünü olduğundan böyük göstərmək üçün istifadə etdiyi marketinq üsulu hesab edir. Tənqidçilər nüvə silahı, müharibələr və iqlim dəyişikliyinin bəşəriyyət üçün daha real təhlükələr yaratdığını bildirirlər.

Bəzi istifadəçilər isə Koksonun özünü də sorğu-suala çəkir: əgər təhlükəni bu qədər böyük hesab edirdisə, niyə üç il ərzində həmin modellərin hazırlanmasında iştirak edib? Koksonun cavabı budur ki, əvvəlcə təhlükəsiz model yaratmağın mümkün olduğuna inanıb, ancaq şirkətlərarası yarışın bu imkanı getdikcə aradan qaldırdığını görüb.

Texnologiya mütəxəssislərinin məşhur “Hacker News” platformasında da mövzu yüzlərlə şərhlə günün əsas müzakirəsinə çevrilib. Müzakirənin mərkəzində bir sual dayanır: təhlükə həqiqətən süni intellektin özündən gələcək, yoxsa onu siyasi, hərbi və kommersiya məqsədləri üçün istifadə edən insanlardan?

Şirkətlər nə deyir?

OpenAI və “Anthropic” Koksonun ittihamları ilə bağlı media sorğularına hələlik cavab verməyib.

“Anthropic” özünü təhlükəsizlik yönümlü süni intellekt şirkəti kimi təqdim edir. Şirkət 2026-cı ilin fevralında “Məsuliyyətli Miqyaslandırma Siyasəti”nin üçüncü versiyasını açıqlayıb, təhlükəli imkanların qiymətləndirilməsi, risk hesabatlarının dərc edilməsi və kənar ekspertlərin prosesə cəlb olunması barədə öhdəliklər götürüb.

Ancaq şirkət həmin sənəddə daha yüksək təhlükəsizlik səviyyələrinin tələblərini təkbaşına təmin etməyin mümkün olmaya biləcəyini də etiraf edir. Üstəlik, əvvəllər daha sərt olan bəzi öhdəliklər sonradan məcburi şərtlərdən çox, açıq şəkildə elan edilən, lakin hüquqi qüvvəsi olmayan hədəflərlə əvəzlənib.

Bu fakt Koksonun əsas arqumentini gücləndirir: bir şirkət təhlükəsizliyə nə qədər ciddi yanaşsa da, bazar rəqabəti, milyardlarla dollarlıq sərmayələr və geosiyasi yarış onu inkişaf tempini azaltmamağa məcbur edir.

Alimin xəbərdarlığı nə dərəcədə realdır?

Yüzdən çox müstəqil ekspertin iştirakı ilə hazırlanan 2026-cı il Beynəlxalq Süni İntellekt Təhlükəsizliyi Hesabatı süni intellektin riskləri barədə elmi qeyri-müəyyənliyin böyük olduğunu bildirir. Hesabatda müasir təhlükəsizlik mexanizmlərinin təkmilləşdiyi, lakin mürəkkəb hücumçuların bu müdafiəni çox zaman aşa bildiyi və tədbirlərin real şəraitdə effektivliyinin tam sübuta yetirilmədiyi vurğulanır. Beynəlxalq Süni İntellekt Təhlükəsizliyi Hesabatı⁠

Deməli, Koksonun “onilliyin sonunadək hamımız ölə bilərik” iddiası təsdiqlənmiş proqnoz deyil. Bununla belə, onun qaldırdığı əsas məsələni fantastika kimi kənara atmaq da mümkün deyil: özünü təkmilləşdirən və real dünyada müstəqil hərəkət edən superintellekt yaradılarsa, onu idarə etməyin etibarlı üsulu hazırda mövcud deyil.

Ceykob Koksonun istefası süni intellekt tarixində dönüş nöqtəsi olmaya bilər. Amma onun paylaşımının bir neçə saat ərzində on milyonlarla insana çatması göstərir ki, cəmiyyət artıq süni intellektə yalnız rahatlıq və tərəqqi vasitəsi kimi baxmır.

Əsas sual da dəyişib: süni intellekt insanı nə vaxt əvəz edəcək?

İndi daha ağır sual səslənir: insan yaratdığı intellekt üzərində nəzarəti nə vaxta qədər saxlaya biləcək?

Musavat.com
Analitik şöbə