Milli.Az "Baku Network"da dərc olunmuş məqaləni təqdim edir:
Süni intellektin tarixi elə bir mərhələyə qədəm qoyub ki, əvvəlki bənzətmələr artıq işləmir. Bu, daha sadəcə "ağıllı çatbot", rəqəmsal məlumat kitabçası, şəkil və mətn yaradan oyuncaq deyil. Gözümüzün önündə proqramlaşdırmanı, məlumatların təhlilini, kibertəhlükəsizlik əməliyyatlarını, elmi modelləşdirməni, biznes proseslərinin idarə olunmasını və hətta süni intellektin növbəti nəsillərinin hazırlanmasını tədricən öz üzərinə götürən yeni texnoloji infrastruktur formalaşır.
Məhz buna görə Anthropic-in son xəbərdarlığı növbəti korporativ press-reliz kimi yox, sənayenin öz içindən gələn həyəcan siqnalı kimi səsləndi. Claude modellər ailəsini yaradan şirkət bəyan etdi ki, qabaqcıl süni intellekt sistemlərinin inkişafı sadəcə yeni qaydalar tələb etməyə bilər. Əgər risklər nəzarətdən çıxmağa başlasa, bu yarışın qlobal miqyasda yavaşladılması və ya müvəqqəti dayandırılması imkanı da gündəmə gələ bilər. Bu narahatlığın mərkəzində rekursiv özünü təkmilləşdirmə fenomeni dayanır. Yəni süni intellekt sistemlərinin daha güclü süni intellekt sistemlərinin yaradılmasında əsas rola keçməsi.
Bu artıq fəlsəfi fantaziya deyil. Anthropic-in öz məlumatlarına görə, 2026-cı ilin mayına qədər şirkətin daxili kod bazasına daxil olan kodun 80 faizdən çoxu Claude tərəfindən yazılıb. Claude Code-un 2025-ci ilin fevralında tədqiqat rejimində istifadəyə verilməsindən əvvəl bu göstərici "aşağı tək rəqəmli" səviyyədə idi. Başqa sözlə, il yarım ərzində süni intellekt proqramçının köməkçisindən dünyanın aparıcı laboratoriyalarından birində mühəndislik işinin böyük hissəsinin keçdiyi tamhüquqlu istehsal konturuna çevrilib.
Əsas sual da məhz burada yaranır: əgər süni intellekt artıq süni intellekt yaradan şirkət üçün kod yazırsa, alət harada bitir, avtonom texnoloji dövrə harada başlayır? Hələlik insan tapşırığı formalaşdırır, nəticəni yoxlayır, arxitektura qərarları verir və məsuliyyəti daşıyır. Amma trayektoriya göz qabağındadır: modellər təkcə daha güclü olmur, həm də məhz öz gələcək inkişafını sürətləndirən sahələrdə daha faydalı hala gəlir. Proqramlaşdırma, testləşdirmə, səhvlərin tapılması, infrastrukturun optimallaşdırılması, sintetik məlumatların yaradılması, eksperimentlərin avtomatlaşdırılması, agentlərin hazırlanması.
Rekursiv özünü təkmilləşdirmə: qorxulu nağıl, yoxsa mühəndislik reallığı?
"Rekursiv özünü təkmilləşdirmə" termini çox vaxt elmi fantastika süjeti kimi səslənir. Maşın özünü yaxşılaşdırır, yeni versiya növbətini daha da təkmilləşdirir, sonra proses sürətlənir, insan isə sistemi anlamaq, idarə etmək və məhdudlaşdırmaq qabiliyyətini itirir. Publisistikada bunu asanlıqla "maşınların üsyanı" mənzərəsinə çevirmək olar. Amma real problem daha incə və daha təhlükəlidir.
Heç kim demir ki, bugünkü modellərin iradəsi, şüuru və ya siyasi niyyəti var. Onların təhlükəsi insanı "məhv etmək istəmələrində" deyil. Təhlükə başqa yerdədir: onlar optimallaşdırma, avtomatlaşdırma və miqyaslandırma üçün o qədər effektiv alətlərə çevrilə bilərlər ki, insan institutları - hüquq, dövlət, əmək bazarı, təhlükəsizlik sistemi, elmi etika - bu tempə uyğunlaşmağa macal tapmasın.
Bu kontekstdə rekursivlik sehrli özünüinkişaf yox, praktik istehsal dövrəsi deməkdir. Süni intellekt kod yazmağa kömək edir. Həmin kod süni intellekt infrastrukturunu yaxşılaşdırır. Yaxşılaşdırılmış infrastruktur daha güclü modellərin öyrədilməsinə imkan verir. Daha güclü modellər kodu daha yaxşı yazır, eksperimentləri daha yaxşı layihələndirir, tədqiqat proseslərini daha yaxşı avtomatlaşdırır. Hər mərhələdə insan zəncirin içində qalır, amma onun payı azala bilər. Bir məqamda nəzarət artıq birbaşa idarəetmə yox, sistemin hərəkətindən sonra aparılan auditə çevrilir. Sistem isə onu yoxlamağa çatdırdıqlarından daha sürətli irəliləyir.
Məhz bu, indiki mərhələni əvvəlki texnoloji inqilablardan fərqləndirir. Buxar maşını növbəti buxar maşınını layihələndirmirdi. Elektrik şəbəkəsi daha güclü elektrik şəbəkəsi üçün mühəndislik qaydaları yazmırdı. İnternet avtonom eksperimentlər rejimində kütləvi təsir üçün yeni protokollar yaratmırdı. Müasir süni intellekt sistemləri isə artıq öz alətlərinin, tətbiqlərinin, interfeyslərinin və miqyaslanma mexanizmlərinin istehsalına cəlb olunub.
"Əyləc pedalı": niyə sənaye sürətlənməyi bacarır, dayanmağı isə demək olar ki, bacarmır
Anthropic-in əsas formulu çox sadədir: süni intellekt sənayesinin qaz pedalı var, amma əyləc pedalı yoxdur. Qaz - vençur investisiyaları, data-mərkəzlər, qrafik sürətləndiricilər, bulud infrastrukturu, model yarışı, korporativ müqavilələr, hərbi maraq, birja gözləntiləri, ABŞ və Çin rəqabəti, investor təzyiqi və Silikon Vadisinin sürət kultudur.
Əyləc isə tamam başqa şeydir. Bu, müstəqil verifikasiya, məcburi relizöncəsi testlər, hesablama klasterlərinə nəzarət, öyrətmə prosesləri üzrə hesabatlılıq, model kartları, red teaming, model çəkilərinin kibertəhlükəsizliyi, imtina rejimləri, agentlərin avtonom hərəkətlərinə görə hüquqi məsuliyyət, beynəlxalq inspeksiya mexanizmləri, frontier AI üçün standartlar və siyasi iradədir: "Buradan o yana olmaz, idarəolunanlıq sübut edilməyənə qədər dayanırıq".
Problem ondadır ki, əyləc yarış iqtisadiyyatına ziddir. Bir şirkət könüllü şəkildə yavaşlasa, rəqibi isə yeni modeli öyrətməyə davam etsə, bazar ehtiyatlı davrananı cəzalandıracaq. Bir ölkə sərt məhdudiyyətlər tətbiq etsə, digəri isə maksimum sürət rejimini saxlasа, strateji bərabərsizlik yaranacaq. Qapalı laboratoriyalar pauzaya razılaşsa, amma açıq və ya dövlət strukturları kölgədə eksperimentləri davam etdirsə, bu fasilə daha az məsuliyyətli oyunçular üçün hədiyyəyə çevriləcək.
Elə buna görə Anthropic romantik "gəlin hamımız dayanaq" çağırışından yox, koordinasiyalı və yoxlanıla bilən mexanizmdən danışır. Yoxlama olmadan istənilən pauza mənasızdır. Amma süni intellektdə yoxlama nüvə sahəsindən də çətindir. Raket şaxtasını gizlətmək çətindir. Uran zənginləşdirmə zavodu fiziki izlər buraxır. Modelin öyrədilməsini isə bulud gücləri arasında bölüşdürmək, kommersiya tapşırıqları arxasında gizlətmək, mərhələlərə parçalamaq, tədqiqat hesablamaları kimi maskalamaq və ya minimal nəzarətli yurisdiksiyaya köçürmək mümkündür.
Əsas təhlükə "pis niyyətli süni intellekt" yox, çox güclü süni intellektə sahib insanlardır
Süni intellekt haqqında populyar müzakirələrin ən zəif tərəfi üsyan etmiş maşın obrazına aludəçilikdir. Praktikada ilk və ən real risklər fantastik ssenarilər deyil, tamamilə dünyəvi sui-istifadələr olacaq.
Süni intellekt artıq kiberkəşfiyyatı, avtomatlaşdırılmış fişinqi, zəifliklərin axtarışını, zərərli kod generasiyasını, fərdiləşdirilmiş təbliğatı, siyasi təsir əməliyyatlarını, sintetik kontentin kütləvi istehsalını, ekspert imitasiyasını, sosial qrupların manipulyasiyasını və bürokratik nəzarətin avtomatlaşdırılmasını gücləndirir. Süni intellekt agentləri nə qədər avtonomlaşırsa, mürəkkəb əməliyyatlar üçün o qədər az insana ehtiyac qalır. Əvvəllər genişmiqyaslı dezinformasiya kampaniyası üçün analitiklər, kopirayterlər, tərcüməçilər, dizaynerlər, targetoloqlar, şəbəkə administratorları lazım idi. İndi bu konveyerin ciddi hissəsini avtomatlaşdırmaq mümkündür.
Xüsusilə təhlükəli olan "model üstəgəl alətlər" bağlamasıdır. Dil modeli sadəcə çat pəncərəsində cavab verdiyi müddətdə onun riski interfeyslə məhdudlaşır. Amma o, brauzerə, terminala, korporativ məlumat bazasına, poçta, ödəniş sisteminə, CRM-ə, bulud infrastrukturuna, kod repozitoriyasına və xarici servislərin API-lərinə çıxış əldə edəndə agentə çevrilir. Belə agent artıq sadəcə mətn yazmır. O, hərəkət edir.
Mühəndislik baxımından bu, generativ süni intellektdən agent əsaslı süni intellektə keçid deməkdir. Model məqsəd alır, addımları planlaşdırır, alətləri çağırır, ara nəticəni yoxlayır, səhvləri düzəldir və dövrəni davam etdirir. Claude Code arxitekturası üzrə araşdırmalar göstərir ki, müasir agent sistemləri təkrarlanan bir dövrə üzərində qurulur: model vəziyyəti təhlil edir, alət seçir, hərəkəti icra edir və nəticəni yenidən kontekstə ötürür. Bu nüvənin ətrafında icazə sistemləri, təhlükəsizlik klassifikatorları, kontekst idarəetməsi, iş mühitlərinin izolyasiyası və jurnal mexanizmləri yaranır.
Bu, "şüur" deyil. Bu, hərəkətin avtomatlaşdırılmasıdır. Amma təhlükəsizlik dünyası üçün fərq bəzən o qədər də vacib olmur. Əgər sistem müstəqil şəkildə zəiflik tapa, eksploit yaza, komandalar işə sala, faylları dəyişə və nəticələri gizlədə bilirsə, onun "daxili dünyası" barədə sual ikinci plana keçir. Əsas məsələ budur: onu kim işə salıb, hansı giriş hüquqları var, məsuliyyəti kim daşıyır və onu dayandırmaq mümkündürmü?
İqtisadiyyat zərbə altında: süni intellekt əməyi dərhal məhv etmir, kompetensiyanın qiymətini dəyişir
Risklərin başqa bir qatı əmək bazarıdır. İctimai ritorikada adətən belə soruşurlar: "Süni intellekt insanları əvəz edəcəkmi?" Bu, çox kobud sualdır. Daha dəqiq formul belədir: insan əməyinin hansı növləri unikallığını itirəcək, hansıları ucuzlaşacaq, hansıları güclənəcək, hansıları isə avtomatlaşdırılmış sistemlərə nəzarət funksiyasına çevriləcək?
4 milyondan çox Claude danışığının təhlilinə əsaslanan Anthropic Economic Index məlumatları göstərir ki, süni intellektdən istifadə xüsusilə proqramlaşdırma və yazı tapşırıqlarında cəmlənib: birlikdə onlar qeydə alınmış bütün aktivliyin təxminən yarısını təşkil edir. Eyni zamanda peşələrin təxminən 36 faizi artıq onlarla bağlı tapşırıqların ən azı dörddə biri üçün süni intellektdən istifadə edir. Halların 57 faizində söhbət insan fəaliyyətinin gücləndirilməsindən, 43 faizində isə tapşırığın insanın minimal iştirakı ilə avtomatlaşdırılmasından gedib.
Bu, mühüm rəqəmdir. O göstərir ki, süni intellekt sadəcə "kömək etmir". O, artıq iqtisadiyyata məhsuldarlığın yenidən bölüşdürülməsi mexanizmi kimi daxil olur. Yaxşı mütəxəssis süni intellektlə daha sürətli işləyir. Orta səviyyəli mütəxəssis süni intellektlə əvvəllər komanda tələb edən işi görə bilir. Süni intellektə sahib şirkət başlanğıc mövqelərə daha az işçi götürə bilər. Yeni başlayan üçün peşəyə giriş çətinləşir, çünki əvvəllər junior əməkdaşların öyrəndiyi rutin tapşırıqlar avtomatlaşdırılır.
Proqramlaşdırmada vəziyyət xüsusilə dramatikdir. 2025-2026-cı illər üzrə GitHub məlumatları əsasında Claude Code-un tətbiqi barədə araşdırma göstərir ki, süni intellekt aləti ortaya çıxandan sonra developer aktivliyi artır: aylıq kommitlərin sayı çoxalır, repozitoriyaların sayı genişlənir, istifadə olunan proqramlaşdırma dillərinin müxtəlifliyi artır. Bu, bütün hallarda səbəb-nəticə əlaqəsinin qəti sübutu deyil, amma siqnal açıqdır: süni intellekt developer davranışını dəyişir və yeni texnoloji sahələrə giriş baryerlərini aşağı salır.
Növbəti zərbə təkcə proqramçılara dəyməyəcək. Təzyiq altında analitiklər, tərcüməçilər, redaktorlar, başlanğıc səviyyəli hüquqşünaslar, konsultantlar, marketoloqlar, dəstək xidməti əməkdaşları, mühasibat assistentləri, layihə koordinatorları, kontent-menecerlər, komplayens mütəxəssisləri qalacaq. Amma peşələr bütöv şəkildə yox olmayacaq, peşələrin içindəki ayrı-ayrı tapşırıqlar sıradan çıxacaq. Məhz buna görə qalib gələnlər "bir proqramı bilənlər" yox, tapşırıq qoymağı, nəticəni yoxlamağı, predmet sahəsini anlamağı, strateji konteksti görməyi və gözəl cavabı etibarlı nəticə ilə qarışdırmamağı bacaranlar olacaq.
Niyə süni intellekt sistemlərini tənzimləmək neftdən, banklardan və atomdan daha çətindir
Sərt nəzarət tərəfdarları tarixi analogiyaları sevirlər: nüvə silahı, aviasiya, farmasevtika, maliyyə, neft sənayesi. Bütün bu sahələr fəlakətlərdən, böhranlardan və siyasi təzyiqdən keçib, sonra tənzimləyici konturlar qazanıb. Amma süni intellekt onlardan bir neçə parametr üzrə fərqlənir.
Birincisi, süni intellekt ümumi təyinatlı texnologiyadır. O, bir sahə ilə məhdudlaşmır. Eyni model kod yaza, tibbi məlumatları təhlil edə, məhkəmə praktikasında kömək göstərə, reklam mətnləri yarada, zülalları modelləşdirə, fişinq məktubları generasiya edə, robotları idarə edə və müştəri ilə danışıqlar apara bilər.
İkincisi, süni intellekt rəqəmsal şəkildə miqyaslanır. Bir təyyarədəki səhv bir təyyarədə qalır. Kütləvi yayılan modeldəki səhv isə anında milyonlarla istifadəçi sessiyasına düşə bilər.
Üçüncüsü, tədqiqat, məhsul və infrastruktur arasındakı sərhəd bulanıqdır. Laboratoriya modeli tədqiqat adlandıra bilər, startap kommersiya məhsulu, dövlət strateji resurs, istifadəçi isə məişət aləti kimi görə bilər. Amma texniki baza eyni ola bilər.
Dördüncüsü, risklərin çoxu lokal yox, sistem xarakterlidir. Bir milyon istifadəçinin əlində zəif model qapalı konturdakı güclü modeldən daha çox zərər vura bilər. Əksinə, hərbi və ya kəşfiyyat sistemindəki fövqəlgüclü model kütləvi giriş olmadan belə strateji sabitlik amilinə çevrilə bilər.
Beşincisi, süni intellektin yoxlanması bir testlə bitmir. Model standart benchmark-dan keçə, amma real mühitdə uğursuz ola bilər. O, laboratoriya şəraitində təhlükəsiz görünə, amma mürəkkəb prompt injection, uzun kontekst, alətlərə giriş və ya digər agentlərlə qarşılıqlı əlaqə zamanı tamam başqa cür davrana bilər.
Məhz buna görə müasir standartlar getdikcə daha çox "təhlükəsizlik sertifikatı"ndan yox, risklərin həyat dövrü üzrə idarə olunmasından danışır: threat modeling, red teaming, evaluation harness, incident reporting, monitoring, rollback, access control, model weight security, secure deployment, human-in-the-loop, audit logs. NIST generativ süni intellekt üzrə risk idarəetmə profilində bu cür sistemləri buraxılışdan əvvəl birdəfəlik yoxlama obyekti kimi yox, daimi qiymətləndirmə və idarəetmə obyekti kimi təsvir edir.
Avropa artıq hüquqi çərçivə qurur. ABŞ isə hələlik sürətlənmə ilə nəzarət arasında balans axtarır
Avropa İttifaqı süni intellektin idarə olunmasını iri miqyaslı hüquqi sistemə çevirməyə ilk cəhd edən tərəf oldu. Aİ-nin Süni İntellekt Aktı artıq mərhələli öhdəliklər tətbiq edir: qadağan olunmuş praktikalar və AI literacy, yəni süni intellekt savadlılığı ilə bağlı tələblər 2025-ci il fevralın 2-dən qüvvəyə minib, ümumi təyinatlı modellər üçün qaydalar 2025-ci il avqustun 2-dən tətbiq olunur, yüksək riskli sistemlərə dair tələblərin bir hissəsi isə daha sonra, 2028-ci ilə qədər keçid dövrü ilə işə düşəcək.
Bu, ideal model deyil. Avropa yanaşması mürəkkəbliyə, bürokratik yükə və innovasiyaları ləngitmək riskinə görə tənqid olunur. Amma onun üstünlüyü ondadır ki, ən azı bir reallığı qəbul edir: süni intellekt sadəcə tətbiqlər bazarı deyil, hakimiyyətin, təhlükəsizliyin və insan hüquqlarının infrastrukturudur. Ümumi təyinatlı modellər xüsusi rejim tələb edir, çünki onlar minlərlə downstream tətbiqə inteqrasiya oluna bilər və ilkin tərtibatçı artıq hər konkret istifadə formasına nəzarət edə bilmir.
ABŞ isə başqa cür davranır. Amerika modeli ənənəvi olaraq daha çox könüllü standartlara, dövlətin laboratoriyalarla tərəfdaşlığına, milli təhlükəsizliyə və rəqabət məntiqinə söykənir. NIST risklərin idarə olunması üçün çərçivələr təklif edir, amma onlar böyük ölçüdə könüllü xarakter daşıyır. Eyni zamanda Vaşinqton öz şirkətlərini həddən artıq yavaşıda bilməz, çünki süni intellekt Çinlə strateji rəqabətin bir hissəsinə çevrilib.
Çin isə süni intellektə sənaye sıçrayışı, dövlət idarəçiliyi, hərbi modernləşmə və ideoloji nəzarət aləti kimi baxır. Buna görə qlobal pauza ideyası sərt geosiyasi reallıqla toqquşur: heç bir böyük güc elmin, kəşfiyyatın, kiberməkan imkanlarının, robototexnikanın və müdafiə planlaşdırmasının sürətini artıran texnologiyanı rəqibinin birinci əldə etdiyi dünyada oyanmaq istəmir.
Könüllü pauza demək olar ki, mümkün deyil. Amma idarə olunan yavaşlama zəruridir
Ən sadəlövh ssenari aparıcı laboratoriyaların sadəcə "daha ehtiyatlı olmağa" razılaşacağını təsəvvür etməkdir. Bu işləməyəcək. Çünki risklər və maraqlar həddindən artıq böyükdür. Süni intellekt bazarı artıq yüz milyardlarla dollarlıq qiymətləndirmələrlə, gələcək IPO-larla, dövlət müqavilələri ilə, bulud nəhəngləri ilə, çip istehsalçıları ilə və fond bazarının gözləntiləri ilə bağlıdır. Sürətlənməkdə maraqlı olan oyunçular həddindən artıq çoxdur.
International AI Safety Report 2026-nın məlumatlarına görə, 2025-ci ildə artıq 12 şirkət frontier AI, yəni qabaqcıl süni intellekt üzrə öz təhlükəsizlik çərçivələrini dərc edib və ya yeniləyib. Bu, heç nədən yaxşıdır. Amma bu təşəbbüslərin əksəriyyəti könüllü olaraq qalır. Könüllü təhlükəsizlik o vaxta qədər yaxşıdır ki, təhlükəsizlik rəqabət üstünlüyünə mane olmağa başlamasın.
Ona görə söhbət tərəqqinin romantik şəkildə dayandırılmasından yox, risk səviyyələrinin sərt sistemindən getməlidir. Məsələn:
Birinci səviyyə - kritik alətlərə çıxışı olmayan adi modellər.
İkinci səviyyə - məhdud mühitdə işləyən agent funksiyalı modellər.
Üçüncü səviyyə - avtonom şəkildə kod yazıb işə sala bilən, xarici sistemlərlə işləyən, kibernetik təhlil aparan modellər.
Dördüncü səviyyə - təhlükəli imkan əlamətləri olan modellər: biodizayna yardım, avtonom kiberəməliyyatlar, müdafiə mexanizmlərindən yayınma, strateji planlaşdırma, miqyaslana bilən təsir əməliyyatları.
Beşinci səviyyə - növbəti modellərin hazırlanmasını ciddi şəkildə sürətləndirə və tədqiqat dövrəsində insanın rolunu azalda bilən modellər.
Hər səviyyə üçün tələblər fərqli olmalıdır: sadə sənədləşmədən tutmuş məcburi xarici auditə, hesablama proseslərinin lisenziyalaşdırılmasına, model çəkilərinə girişin nəzarətdə saxlanmasına, CBRN riskləri üzrə yoxlamalara, avtonom davranış testlərinə, kiberekspertizalara və təcili dayandırma mexanizminə qədər.
"Açıq mənbə kodu": azadlıq, yoxsa zəiflik?
Ayrıca problem açıq modellərdir. Onların güclü arqumenti var: açıqlıq Big Tech monopoliyasını azaldır, universitetlərə, kiçik biznesə və müstəqil tərtibatçılara texnologiyaya çıxış verir, şəffaflığı artırır və innovasiyaları sürətləndirir. Amma açıqlığın qaranlıq tərəfi də var: təhlükəli imkanlara malik model sərbəst şəkildə yayımlanıbsa, onu geri qaytarmaq mümkün deyil.
Qapalı modeli söndürmək, məhdudlaşdırmaq, yeniləmək, API girişini ləğv etmək, filtrləri gücləndirmək, monitorinq əlavə etmək olar. Şəbəkəyə düşən açıq çəkilər isə artıq öz həyatını yaşamağa başlayır. Onları yenidən öyrətmək, məhdudiyyətləri çıxarmaq, zərərli alətlərə inteqrasiya etmək, lokal şəkildə işə salmaq və provayderin nəzarət sahəsindən kənarda istifadə etmək mümkündür.
Bu o demək deyil ki, bütün açıq modellər təhlükəlidir. Amma bu o deməkdir ki, açıqlıq məsələsi imkan səviyyəsindən asılı olmalıdır. Kiçik təhsil modelinə və zərərli proqram təminatının yaradılmasına, bioloji eksperimentlərin layihələndirilməsinə və ya kritik infrastrukturda zəifliklərin avtomatlaşdırılmış axtarışına kömək edə bilən sistemə eyni fəlsəfə ilə yanaşmaq olmaz.
Əsl sual budur: nəzarətçilərə kim nəzarət edəcək?
Anthropic-in xəbərdarlığı haqlı skeptisizm doğurur. Sənayenin ən bahalı şirkətlərindən biri yavaşlama çağırışı edəndə tənqidçilər burada təkcə bəşəriyyət qayğısı yox, həm də korporativ hesab görürlər. Əgər sən artıq irəli çıxmısansa, öz inkişaf səviyyəni tənzimləyici normaya çevirmək və arxadan gələnlərin işini çətinləşdirmək sənə sərf edir. Məhz buna görə süni intellekt qaydaları laboratoriyaların öz kommersiya maraqları əsasında yazılmamalıdır.
Amma əks ifrat mövqe daha təhlükəlidir. Xəbərdarlığı sadəcə onu maraqlı oyunçu səsləndirdiyi üçün rədd etmək olmaz. İnsayderlər həqiqətən də cəmiyyətin görmədiyini görürlər: mühəndislik tərəqqisinin sürətini, daxili metrikləri, modellərin qapalı testlərdə davranışını, tədqiqatların avtomatlaşdırılma səviyyəsini, dövlət strukturlarından gələn real sorğuları, investor təzyiqini, agent sistemlərinin imkanlarını.
Doğru yanaşma şirkətlərə sözlərinə görə inanmaq deyil, amma onların siqnallarını da qulaqardına vurmaq deyil. Müstəqil qiymətləndirmə institutları, dövlət AI safety qurumları, beynəlxalq ekspert panelləri, tədqiqatçıların modellərin testinə çıxışı, insidentlərin qorunan kanallarla açıqlanması, safety evaluations üzrə əsas nəticələrin məcburi dərc olunması və təhlükəli imkanların gizlədilməsinə görə məsuliyyət rejimi lazımdır.
Süni intellekt üzərində nəzarət nə korporasiyalara, nə bürokratiyaya, nə hərbçilərə, nə də aktivistlərə təkbaşına verilə bilər. Bu, maraqlar toqquşması, qarşılıqlı yoxlama və texniki səriştə üzərində qurulan çoxsəviyyəli sistem olmalıdır.
Süni intellektdən qorxmaq lazım deyil. Onu siyasi və texniki baxımdan ram etmək lazımdır
Əsas səhv müzakirəni panika ilə heyranlıq arasında seçimə endirməkdir. Süni intellekt artıq böyük fayda verir: proqramlaşdırmanı sürətləndirir, həkimlərə məlumatları təhlil etməkdə kömək edir, təhsilin əlçatanlığını artırır, tərcüməni yaxşılaşdırır, rutini avtomatlaşdırır, alimlərə nəhəng informasiya massivləri ilə işləməyə yardım edir, əlilliyi olan insanların imkanlarını genişləndirir, mürəkkəb peşələrə giriş baryerlərini aşağı salır.
Amma bu miqyasda texnologiya "əvvəl buraxaq, sonra baxarıq" rejimində inkişaf edə bilməz. Cəmiyyət sosial şəbəkələr dövrünə də məhz belə daxil olmuşdu: əvvəl kommunikasiya azadlığından eyforiya, sonra alqoritmik radikallaşma, informasiya qabarcıqları, siyasi manipulyasiya, ictimai müzakirənin deqradasiyası və etimad böhranı. Süni intellektdə səhvin qiyməti daha yüksək ola bilər.
Əyləc pedalı tərəqqinin qadağan olunması demək deyil. Bu, cəmiyyətin vençur fondlarının, laboratoriyaların və geosiyasi qərargahların idarə etdiyi maşında sərnişinə çevrilməmək hüququ deməkdir. Bu, tətbiq sürətinin təkcə texniki baxımdan mümkün olanla yox, sosial, siyasi və təhlükəsizlik baxımından yol verilənlə müəyyənləşməsi deməkdir.
Dünya intellektin hakimiyyət infrastrukturuna çevrildiyi epoxaya daxil olur
XXI əsrdə süni intellekt XX əsrdə neftin, atomun, aviasiyanın, hesablama texnikasının və internetin birlikdə oynadığı rolu oynayacaq. O, iqtisadi artım resursuna, strateji üstünlük silahına, müşahidə alətinə, mənalar fabrikinə, elmin mühərrikinə və idarəetmə mexanizminə çevriləcək.
Məhz buna görə Anthropic-in sualını bir şirkətin korporativ dramına endirmək olmaz. Bu, daha dərin qırılmanın simptomudur. Bəşəriyyət elə sistemlər yaradır ki, onlar artıq özləri kimi sistemlərin növbəti nəslinin yaradılmasında iştirak etməyə başlayır. Bu proses tibb, energetika, materialşünaslıq, təhsil və məhsuldarlıq sahələrində sıçrayışlar verə bilər. Amma eyni proses yeni tip kiber silahlar, peşələrin kəskin dəyərsizləşdiyi əmək bazarı, avtoritar supernəzarət sistemləri və insanın reallığı sintetik imitasiyadan ayırd edə bilmədiyi informasiya mühiti də doğura bilər.
Əsl yol ayrıcı süni intellektlə süni intellektsizlik arasında deyil. Belə seçim artıq yoxdur. Süni intellekt qalacaq. Sual başqadır: o, hüquq, audit və siyasi məsuliyyət altında idarə olunan infrastruktur kimi inkişaf edəcək, yoxsa hər növbəti relizin rəqibdən geri qalmaq qorxusu ilə əsaslandırıldığı qapalı laboratoriyalar yarışına çevriləcək?
Bu gün qaz pedalı demək olar ki, sonadək basılıb. Data-mərkəzlər tikilir. Modellər miqyaslanır. Agentlər alətlər əldə edir. Kodu maşınlar yazır. İqtisadiyyat yenidən qurulur. Dövlətlər hərbi və kəşfiyyat tətbiqlərinə göz dikir.
İndi əsas sual çox sərt səslənir: bəşəriyyət sürət idarəetmə qabiliyyətini üstələməzdən əvvəl əyləci qura biləcəkmi?
Müəllif: Malik Məlikov (Milli.Az redaktor)