İllərdir ki, Süni İntellektin (Sİ) ən yüksək rəhbərlərindən ekzistensial təhdidlər barədə xəbərdarlıqlar gəlir. Mən 2023-cü ilin noyabrında Bletchley Parkda keçirilən dünyanın ilk Sİ təhlükəsizlik sammitində iştirak etdim, burada diqqət ən güclü Sİ modellərinin yaratdığı ən ciddi təhdidlərə yönəlmişdi. O zaman bir çoxları bunun elmi fantastika sahəsinə aid olduğunu və real təhdidlərin müqayisəli şəkildə daha adi olduğunu düşünürdü: iş itkiləri, imtahanlarda fırıldaqçılıq. Üç il sonra, eyni səslərin bir çoxu o qədər də əmin görünmür. Şənbə günü Anthropic Sİ şirkətinin rəhbəri Dario Amodei inkişaf tempinin yavaşladılmasına çağırdı – iki rəqib Sİ firmasının rəhbərləri, OpenAI-dən Sam Altman və Elon Musk onunla razılaşdıqlarını bildirdilər. Bu arada, Anthropic-dən ayrılan Sİ tədqiqatçısı Jacob Coxon bazar günü BBC-yə verdiyi açıqlamada sistemləri inkişaf etdirən işçilərin bəşəriyyətin gələcəyi üçün “həqiqətən qorxduqlarını” söylədi. Bütün bunlar yavaşlamağa çağıran ciddi səslərin xoruna çevrilir, lakin bu, sürətli bir həll kimi səslənsə də, asan bir həll yolu deyil. Amerika ən güclü Sİ-ni yaratmaq yarışında Çinə uduzmaqdan dəhşətə gəlir. Bazar günü Prezident Trump öz fikirlərini açıqlayaraq, ABŞ-ın Çin qarşısında Sİ yarışında öndə olduğunu iddia etdi və bəyan etdi: “Sİ-ni kim qazanırsa, o da qalib gəlir.” Çin ikinci olmaq istəməsi ilə tanınmır. Danışdığım hər kəs deyir ki, şirkətləri dayansa belə, başqaları dayanmayacaq və onlar sadəcə geri qalacaqlar. Bu mənə nüvə silahlarının ləğvi kampaniyasının zirvəsini xatırladır. O zaman da problem heç kimin birinci getmək istəməməsi idi. Həm də yavaşlamanın necə tətbiq ediləcəyi sualı var. Kim buna nəzarət edəcək? Sİ şirkətlərinin nə etdikləri və daha da əhəmiyyətlisi, nə etməməyi seçdikləri barədə şəffaf olmalarına güvənəcəyikmi? Bu, texnologiya sektorunun heç vaxt qazanmadığı epik bir etibar səviyyəsi tələb edərdi. Amodei öz yazısında Sİ modellərinin inkişaf etdirildiyi zaman müstəqil monitorinqini, sənaye miqyasında tənzimləməni və qlobal tənzimləməni əhatə edən üç bəndlik bir plan təklif etsə də, bəzi müşahidəçilər bunun praktikada necə işləyəcəyini sorğulayırlar. EZ Primary Research-in CEO-su Ed Zitron dedi: “Heç kim 'yavaşlama'nın nə demək olduğuna dair əsaslı bir izahat verməyib.” “ Anthropic-dən ayrılan adamlardan birinin getdiyi METR-dən bir zavodu hər Sİ şirkətinə qoymaq? Demokratik və qlobal 'koordinasiya'? Mənə heç nə demir.” Zitron dedi ki, Sİ modellərinin təlimini dayandırmaq onları Çinli rəqiblərə qarşı həssas edəcək. “Onların marjaları yaxşılaşa bilər, lakin məhsulları kəhrəbada tutulacaq və Çin laboratoriyaları tərəfindən distillə ediləcək. Onlar qiymətləri dəyişdirməli ola bilərlər. Hər şeyin necə işlədiyini həqiqətən bilmirəm. “Bu, köpüyü partlada bilər. Lakin hazırda 'yavaşlama'nın nə demək olduğu barədə çox az məlumatımız var.” Böyük Britaniyada , xəstə baxımını yaxşılaşdırmaq üçün NHS daxilində texnologiyanın daha geniş tətbiqi planları və Sİ-nin Böyük Britaniya iqtisadiyyatına yayda necə çox ehtiyac duyulan bir təkan verdiyi barədə eşitmişik. Hamımız işdə, təhsildə və şəxsi həyatımızda ondan getdikcə daha çox istifadə etməyə təşviq olunuruq. Sənaye Böyük Britaniyanın iqtisadi artımı təşviq etmək strategiyasının əsas hissəsidir. Keçmiş hökumət müşaviri mənə dedi: “B planı yoxdur”, bəs yavaşlama Britaniyada gələcək perspektivləri məhv edə bilərmi? Sİ sənayesi böyük miqdarda pul və təbii sərvətləri yandırır və indiyə qədər o qədər də gəlir yaratmır. Texnologiyanı qəbul edən bir sıra firmaların ondan məyus olduğunu göstərən çoxsaylı hesabatlar var. İqtisadçılar geniş şəkildə fərz edirlər ki, hətta indiki nəhənglər də hamısı sağ qala bilməyəcək və bir növ “səviyyələşmə” gəlir – bu da köpüyün partlaması kimi tanınır. Lakin uğur qazanan firmalar dünyanın indiyə qədər gördüyü ən güclü meqa-korporasiyalara çevrilə bilər və bu, öz problemləri ilə gəlir. OpenAI-nin birjaya çıxışını dayandırması ictimai təhlükəsizliyə görə məsuliyyət götürməyin bir növ epifaniya anı kimi görünə bilər – lakin bu, bütün məhsulunun ölümcül qəbul edildiyi halda ehtiyac duyduğu gəlirli ödənişi ala bilməyəcəyini başa düşən bir şirkətin hərəkəti də ola bilər. Böyük Britaniyanın Sİ şirkəti Synthesia-dan Alexander Voicu deyir: “Hazırda qarşımızda duran ən böyük çətinliklərdən biri heç kimin bu texnologiyanın necə inkişaf edəcəyini dəqiqliklə proqnozlaşdıra bilməməsidir. Bu sistemlərin daha güclü olduğunu bilirik, lakin onların harada və necə istifadə olunacağını bilmirik və potensiallarından tam istifadə etmək üçün əsasən bir yol tapmamışıq. Hazırda tənzimləməyə tələsməkdə yeganə narahatlığım, hələ çox açıq suallar olduğu halda, bunun əslində əks nəticə verə bilməsidir.” Biz həm də bu bütün texnologiya inqilabının təməlində investor pulu okeanının olduğunu inkar edə bilmərik. Sustainable AI-nin qurucusu Sasha Luccioni deyir: “Mən Sİ-nin ekzistensial risklərindən narahat deyiləm, onu yaradan şirkətlərin korporativ tamahından narahatam.” BMT-yə Sİ barədə məsləhət vermiş aparıcı kompüter alimi Professor Dame Wendy Hall deyir ki, indiki böhran şirkətlərin kifayət qədər məsuliyyətli davranmaması ilə bağlıdır. O, indiki vəziyyəti sahədə öküzü olan, qaçıb dağıntı törədən bir fermerə bənzədir – və fermer öküzü günahlandırır. “Əlbəttə ki, bu öküzün günahı deyil – fermerin günahıdır,” o deyir. Aydındır ki, hasarlar kifayət qədər möhkəm deyildi və o, Sİ mühafizə çəpərləri ilə bağlı hazırda gördüyümüzün də məhz bu olduğunu deyir. Lakin bu mühafizə çəpərləri çox məhdudlaşdırıcı olarsa, bu, Sİ-nin sonu ola bilərmi? Bəziləri inanır ki, Mühafizəkar yönümlü Capital Research Centre analitik mərkəzinin tədqiqatçısı Parker Thayerin X-də bu həftə qeyd etdiyi kimi, “Sİ-ni yox etmək üçün tənzimləmə” məqsədilə daha gizli, siyasi motivli bir qaydalara əsaslanan sıxışdırma var. Onun yazısı təxminən səkkiz milyon dəfə baxılıb. Bu, ifrat və sübut olunmamış bir fikirdir, lakin göstərir ki, hər kəs tənzimləmənin günü xilas edəcəyi fikri ilə razılaşmır. Reallıq nə olursa olsun, hazırda Sİ sənayesini bürüyən fırtına artıq lider mövqedə olan firmalara əbədi olaraq reputasiya zərəri vura bilər. Professor Hallın dediyi kimi: “İnsanlığın məhv olmasına səbəb olacağını deyən bir şirkətə sərmayə qoyardınızmı?”