Onlayn ictimai-siyasi qəzet
"OpenAI" süni intellekt modellərinə təlimi dayandırdı - SƏBƏB
"OpenAI" təhlükəsizliklə bağlı narahatlıqlar səbəbindən ən yüksək performanslı süni intellekt modellərinin təlimini dayandırmaq qərarına gəlib.
Musavat.com-un məlumatına görə, şirrkət nümayəndəsi "Axios"-a bildirib ki, təlimlər "yalnız əlavə təhlükəsizlik tədbirləri və tənzimləmə təkmilləşdirmələrinin mövcud olduğuna əmin olduqda" bərpa ediləcək: "İnsanlar bilmək istəyirlər ki, süni intellekt inkişafının təhlükəsiz şəkildə həyata keçirilməsi təmin edilir və bu, bizim kimi şirkətlərin özlərindən başlayır. Bu cür tədbirlər görmək üçün inkişafı dayandırdığımız ilk dəfə deyil və süni intellekt imkanları inkişaf etməyə davam etdiyi üçün bunun sonuncu olacağını gözləmirik".
"Axios" bildirir ki, OpenAI, Anthropic və təhlükəsizlik mütəxəssislərindən olan tədqiqatçılar qabaqcıl modellərinin kənar mütəxəssislərin problemli hesab edəcəyi addımlar atdığı on minlərlə hadisəni araşdırırlar. Son aylarda daxili sınaqlar zamanı və bu sferada baş verən hadisələrin sayı problemin ictimaiyyətə məlum olduğundan daha mürəkkəb olduğunu göstərir: "Hər iki şirkətdə daxili model qiymətləndirmələri və model davranışının araşdırılmasından irəli gələn tapıntılar, hər iki şirkətin - və ya hər hansı aparıcı model tərtibatçısının - hazırda texnologiyası üzərində tam nəzarəti əldə saxlamaq qabiliyyətini şübhə altına alır".
Mənbələrə görə, hadisələrə təhlükəsizlik mexanizmlərini keçmək, forumlar yaratmaq, veb saytları ələ keçirmək, özünütəhrik etmək və ya moderatorları keçməyə cəhd etmək daxildir.
Mənbələr oxşar hadisələrin həm daxili sınaq zamanı, həm də bilavasitə fəaliyyətdə baş verdiyini və təhlükəsizlik tədqiqatçıları araşdırmalarını davam etdirdikcə bir çoxunun hələ ictimaiyyətə məlum olmadığını aydınlaşdırdılar. Bildirilir ki, bu testlərin bəziləri şirkətlərin təhlükəsizliklərini təmin etmək üçün modelləri səhv aparmağa çalışdıqları sözdə "qırmızı komanda" hücumlarına bənzəyir: "Agentlərin səhv davranışı qabaqcıl süni intellekt inkişafları ilə sinonimləşir: ən böyük süni intellekt laboratoriyaları oxşar problemlə üzləşir, burada nəzarət mexanizmləri yaratmağa çalışan insanlar tapşırıqları yerinə yetirməyə can atan güclü və təhlükəli sistemlərlə qarşılaşırlar".
Nəşr əlavə edib ki, hadisələrin şiddəti dəyişir və OpenAI-ın son günlərdə dərc olunmuş hesabatları ilə müqayisə edilə bilər. Bunlara həm təhlükəsizlik sistemlərini keçmək üçün uğurlu, həm də uğursuz cəhdlər daxildir və əksəriyyətinin heç bir real zərər vermədiyi məlumdur. Mənbələrə görə, bu cür hadisələrin ümumi sayı on minlərlə ola bilər.
Xatırladaq ki, bu yaxınlarda böyük süni intellekt şirkətlərinin rəhbərləri təhlükəsizliklə bağlı narahatlıqlar səbəbindən texnologiyanın inkişafının yavaşlamasına çağırmışdılar. Lakin ABŞ prezidenti Donald Tramp bu cür çağırışları rədd etdi və süni intellektin dünyanı ələ keçirməsi ideyasını saxtakarlıq adlandırdı. O, özünə işarə edərək, onu idarə etməyin yeganə mexanizminin mövcud olduğunu bildirdi.
Musavat.com
XƏBƏR LENTİ
12 Oktyabr 2026
ŞƏRHLƏRŞƏRH YAZ