ELAZ.İNFO xəbər verir ki, süni intellekt sahəsində illərdir davam edən “daha güclü model, daha sürətli inkişaf” yarışı son günlər gözlənilməz müzakirə ilə üzləşib. Dünyanın aparıcı AI şirkətlərinin rəhbərləri texnologiyanın inkişafından imtina etməyi deyil, onun sürətinin təhlükəsizlik mexanizmləri ilə uyğunlaşdırılmasını gündəmə gətirirlər.
Müzakirənin mərkəzində Anthropic şirkətinin baş direktoru Dario Amodeinin açıqlaması dayanır. O, AI modellərinin imkanlarının artım tempinin bir qədər aşağı salınmasını və təhlükəsizlik sistemlərinin bu sürətə çatdırılmasını təklif edib. Amodeinin fikrincə, yaxın aylarda daha mürəkkəb və bir-biri ilə koordinasiya olunan AI agentləri kibertəhlükəsizlik baxımından ciddi risklər yarada bilər. O, bəzi ssenarilərdə belə sistemlərin böyük miqyasda internet infrastrukturuna zərər vurmaq potensialından danışıb.
Amodeinin təklifi yalnız “inkişafı dayandırmaq” çağırışı deyil. O, daha konkret mexanizmlər irəli sürüb: aparıcı AI şirkətlərində müstəqil təhlükəsizlik qiymətləndiricilərinin olması, şirkətlər arasında təhlükəsizlik standartlarının əlaqələndirilməsi və müxtəlif ölkələr arasında bu sahədə beynəlxalq əməkdaşlığın gücləndirilməsi.
Bu mövqe qısa müddətdə texnologiya dünyasının digər tanınmış simalarından da reaksiya alıb. OpenAI rəhbəri Sam Altman Amodeinin AI inkişafının tempini təhlükəsizlik imkanları ilə uyğunlaşdırmaq fikrini dəstəklədiyini bildirib. Elon Musk da Amodeinin mövqeyinə açıq şəkildə razılıq verib.
Məsələnin digər tərəfi isə risklərin nə qədər real və yaxın olmasıdır. Son günlər AI agentlərinin kibertəhlükəsizlik sınaqları və real platformalarla bağlı davranışları bu müzakirəni daha da qızışdırıb. Bununla belə, bəzi mütəxəssislər “AI yaxın zamanda bütün interneti ələ keçirəcək” kimi ssenarilərin həddindən artıq şişirdilə biləcəyini bildirirlər. Məsələn, ekspertlər hazırkı sistemlərin müəyyən zəif qorunan infrastrukturlara hücum imkanlarının olduğunu, lakin bütün interneti nəzarətə götürməyin tamam başqa miqyasda problem olduğunu vurğulayırlar.
Digər tərəfdən, Anthropic daxilində də AI-nin gələcək təhlükələri ilə bağlı daha sərt xəbərdarlıqlar səslənib. Şirkətin təhlükəsizlik tədqiqatçısı Evan Hubinger inkişaf etmiş AI-nin gələcək onillikdə bəşəriyyət üçün son dərəcə ağır nəticələr doğura biləcəyini düşündüyünü açıqlayıb. Bu kimi fikirlər isə elmi və texnoloji dairələrdə “riskin necə ölçülməsi və hansı həddə ciddi qəbul edilməsi” barədə ayrıca mübahisə yaradıb.
Əsas sual: yavaşlamaq, yoxsa yarışa davam etmək?
Burada maraqlı paradoks yaranır. Bir tərəfdən şirkətlər daha güclü AI sistemləri yaratmaq üçün milyardlarla dollar investisiya cəlb edir və qlobal rəqabətdə liderlik uğrunda mübarizə aparırlar. Digər tərəfdən isə həmin şirkətlərin rəhbərləri texnologiyanın nəzarətsiz sürətlənməsinin təhlükəsizlik problemləri yarada biləcəyini etiraf edirlər.
Üstəlik, bu məsələdə şirkətlərin mövqeyi eyni deyil. Bəzi texnologiya rəhbərləri yeni dövlət məhdudiyyətlərinə ehtiyatla yanaşır və təhlükəsizliyin şirkətlərin öz daxilində təmin edilə biləcəyini düşünür. Digərləri isə müstəqil nəzarətin və beynəlxalq qaydaların vacib olduğunu bildirirlər.
Beləliklə, süni intellekt yarışında əsas mübarizə artıq yalnız “kim daha güclü model yaradacaq?” sualı ətrafında getmir. İndi daha fundamental bir sual ortaya çıxıb: AI nə qədər sürətlə inkişaf etməlidir və onun təhlükəsizliyinə kim nəzarət etməlidir?
Bu sualın cavabı isə təkcə texnologiya şirkətlərinin gələcəyini deyil, bütün dünya üçün süni intellekt dövrünün necə formalaşacağını müəyyənləşdirə bilər.
Asif ŞƏFƏQQƏTOV
