Prezident Tramp “nə-məni-narahat-edir?” kütləsinin önündə olub, süni intellektin riskləri ilə mükafatlarını necə tarazlaşdırmaq barədə danışmaqdan imtina edib. Son bir neçə həftədə gözlənilməz, nəzarətdən çıxmış süni intellekt agentləri haqqında xəbərlər kəskin şəkildə artıb. NYT David E Sanger və Dustin Volz tərəfindən bu məqaləyə qulaq asın. Uyğunsuzluq heyrətamizdir. Bir tərəfdən, ekzistensial risk xəbərdarlıqları, bəlkə də sivilizasiyanın sonunun 10 faiz ehtimalı. Digər tərəfdən, hökumət iflici. Gözlənilməz, nəzarətdən çıxmış süni intellekt agentləri haqqında xəbərlər son bir neçə həftədə kəskin şəkildə artıb. Vaşinqton nəinki cavab verməkdə çətinlik çəkdi. Hətta narahat olunacaq bir şeyin olub-olmadığı barədə razılığa gəlməkdə çətinlik çəkdi. Bu, yalnız öz məhdudiyyətlərindən qaçan deyil, həm də başqa bir firmanın süni intellekt alətləri kitabxanasına daxil olarkən izlərini gizlətmək üçün öz aralarında sui-qəsd edən süni intellekt agentləri ilə başladı. Sonra, Albert Eynşteynin Franklin D. Ruzveltə nüvə silahlarının potensial gücü haqqında yazdığı məktubun qəsdən əks-sədası olaraq, 1300-dən çox kompüter alimi sənayeni yavaşlamağa və hökuməti müdaxilə etməyə çağırdı. Son günlərdə, əvvəllər OpenAI-də işləmiş Anthropic mühəndisi Jacob Coxon ən açıq şəkildə istefa verdi, sosial mediada iki aparıcı süni intellekt laboratoriyasının dərin narahatlıq ifadə etdiyini, lakin hələ də “hər şeyi sındıra bilən, hər hansı bir sahəni bir gecədə inqilab edə bilən və real güc və resurslar əldə edə bilən fövqəlbəşər sistemlərə” doğru sürətlə irəlilədiyini bildirdi. Şənbə günü, Anthropic-in baş icraçı direktoru Dario Amodei , süni intellekt inkişafının qlobal miqyasda yavaşladılmasına çağıran 3800 sözlük bir esse yayımladı, keçmişdə qaldırdığı narahatlıqları daha təcili şəkildə təkrarladı. Süni intellekt yarışında milyarder rəqib və Prezident Trampa yaxın olan Elon Musk , X-də tez cavab verdi: “Dario haqlıdır.” OpenAI-nin baş icraçı direktoru Sam Altman da dəstək verdi. Lakin Vaşinqtonda demək olar ki, heç bir əsaslı cavab olmadı. Əgər 1940-cı illərdən 1980-ci illərə qədər nüvə mübadiləsi riskini azaltmaq yolları ilə keçibsə — Atom Enerjisi Komissiyası kimi yeni qurumlar və dünyanın ən təhlükəli texnologiyasının necə idarə olunacağını tənzimləyən silah nəzarəti müqavilələri yaradılıbsa — ABŞ hökumətinin indiyə qədərki yanaşması mümkün qədər yüngül olub. Əlbəttə ki, bu xəbərdarlıqların şişirdildiyinə inanan bir çox kompüter alimi var. Trampın özü “nə-məni-narahat-edir?” kütləsinin önündə olub, riskləri mümkün mükafatlarla necə tarazlaşdırmaq barədə danışmaqdan imtina edib. Cümə axşamı, bir müxbirin “süni intellektin insanlığın məhvinə səbəb olmasından narahat olub-olmadığı” barədə sualına, o, bunu rədd etdi. “Xeyr, heç bir narahatlığım yoxdur,” dedi. “Əgər süni intellekt yarışında qalib gəlməsək, çox pis vəziyyətə düşəcəyimizdən narahatam.” Prezident tez bir zamanda Ağ Evin — və yavaşlama və tənzimləmə çağırışlarını böyük strateji səhv hesab edənlərin — həlledici amil kimi gördüyü cavaba keçdi: Əgər Birləşmiş Ştatlar büdrəsə, Çin onun yerini tutacaq. “Biz hazırda Çini kifayət qədər yaxşı bir müddət qabaqlayırıq,” deyən Tramp , Çin lideri Si Cinpinin iki həftədən az müddətdə Vaşinqtona gələcəyini qeyd etdi. Lakin Çinlilərlə ikitərəfli süni intellekt razılaşması araşdırmaq barədə danışmaq əvəzinə, o, səfərin əsas məqamı olacağını dediyi dövlət şam yeməyinə keçdi. “Düşünürəm ki, əla olacaq,” deyə əlavə etdi. “Əla” bu yay süni intellekt sürprizlərində ən çox istifadə olunan söz deyil. Silikon Vadisində ən çox qorxulan apokaliptik ssenarilər arasında süni intellekt sistemlərinin o qədər inkişaf etməsi var ki, onlar avtomatik olaraq özlərini təkmilləşdirməyi öyrənirlər, bu proses “rekursiv özünü təkmilləşdirmə” adlanır. OpenAI və digər süni intellekt laboratoriyalarında baş verən bir sıra hadisələrdən irəli gələn əlaqəli bir narahatlıq isə agentlərin məhdudiyyətlərdən azad olması və proqramlaşdırılmış vəzifələrini “uyğunsuz” şəkildə, yəni insan niyyətlərinə zidd olaraq yerinə yetirməyə qərar verməsidir. Başqa bir narahatlıq isə süni intellektin qanunsuz pis aktyorlara — və ya ehtiyatsız hökumətlərə — ölümcül patogenlər yaratmağa, nüvə komanda və nəzarət sistemlərinə daxil olmağa və ya böyük insan itkisi və ya cəmiyyətin dağılması ilə təhdid edən dayanıqsız kiberhücumlar başlatmağa imkan verə bilməsidir. Palo Alto və Kembricdə kompüter alimləri amerikalılara süni intellekti sadəcə bir alət kimi deyil, dünyanın yaxşı və ya pis şəkildə yaşamaq məcburiyyətində qalacağı alternativ bir növ kimi düşünməyi təklif edirlər. Ağ Ev əsas süni intellekt siyasətçilərini suallar üçün təqdim etməkdən imtina etdi. Lakin administrasiyanın innovasiya və təhlükəsizliyi tarazlaşdırmağa davam etdiyini bildirdi, hər hansı bir detalı açıqlamadı. Tramp yay əvvəlində sərhəd süni intellekt laboratoriyaları üçün yeni modellərini 30 günlük təhlükəsizlik yoxlamasına təqdim etmək üçün könüllü bir sistem yaradan icra sərəncamı imzaladı. Lakin bu, boşluqlarla dolu idi. ( Çin firmalarının istehsal etdiyi və şirkətlər, alimlər və ya bəlkə də terror qrupları tərəfindən xüsusi ehtiyaclara uyğunlaşdırıla bilən açıq mənbəli modellər yoxlamaya tabe deyil.) Sentyabrın 11-dəki hücumların 25-ci ildönümü ilə bağlı cümə günü keçirilən bir çox anım tədbirləri arasında, o dövrlə müqayisə diqqətəlayiqdir. Amerikanın zəifliyinin üzə çıxması vitse-prezident Dik Çeynini tezliklə “1 faiz doktrinası” kimi tanınan bir şeyi inkişaf etdirməyə vadar etdi. Pakistanlı alimlərin Əl-Qaidəyə nüvə silahı inkişaf etdirməyə kömək edə biləcəyi qorxusu ilə əlaqədar olaraq, bu doktrina hökumətin risk uzaq olsa belə hərəkət etməli olduğunu irəli sürürdü, çünki nəticələr çox yüksək olacaqdı. Bu vəziyyətdə, 1 faiz kifayət qədər yaxşı ehtimal kimi görünür: Anthropic-də “uyğunlaşma” elminə rəhbərlik edən, kodu insan məqsədlərinə uyğunlaşdırmağa çalışan Evan Hubinger , son günlərdə gələn on ildə kütləvi məhv olma riskinin 10 faizdən yuxarı olduğunu yazdı. Bu təxminin doğru olub-olmadığını bilmək mümkün deyil. Lakin Con Hopkins universitetinin dosenti və yaxınlarda nəşr olunacaq “Acı Mübarizə: Superintellekt, Supergüclər və Dünyanın Taleyi” kitabının həmmüəllifi Ben Buchananın dediyi kimi: “Mənim fikrimcə, texnologiyanın çox sürətlə daha da yaxşılaşmağa davam edəcəyinə şübhə yoxdur, bu da bioloji risklər və nəzarətin itirilməsi ilə bağlı təcili suallar doğurur.” “Biz eksponensial inkişaf dövründəyik və cavab verməyin yalnız iki yolu var: çox erkən və ya çox gec,” dedi. “Dünya çox erkən olma şansını əldən verdi.” Trampdan qabağa düşmək qorxusu Trampın ekzistensial süni intellekt qorxularına qarşı laqeyd münasibəti həm onun administrasiyasına, həm də hələ də sıx nəzarət etdiyi Respublikaçılar Partiyasına təsir edir. Keçən həftə Vaşinqtonda keçirilən bir konfransda, hökumət rəsmiləri və korporativ rəhbərlər demək olar ki, hər paneldə süni intellektin vədləri — növbəti nəsil hərbi əməliyyatlardan casusluğa, kritik infrastrukturlarda kiber təhlükəsizliyə qədər hər şey haqqında danışdılar. Düşmənlər tərəfindən istifadə olunan süni intellektin riskləri bəzən qeyd edilsə də, güclü texnologiyanı yavaşlatmaq və ya tənzimləmək ehtiyacı az müzakirə edildi. Keçən cümə axşamı Billington Kiber Təhlükəsizlik Sammitində səhnədə çıxış edən Ağ Evin milli kiber direktoru Sean Cairncross , administrasiyanın “innovasiya tərəfini və sistemlərimizi təhlükəsiz saxlamaq və bu texnologiyanı məsuliyyətlə idarə etməklə sürətlə işləməyi tarazlaşdırmağa çalışdığını, yəni onu bizə zərər verəcək insanların, düşmənlərimizin əlinə keçməsinə imkan vermədiyini” söylədi. Cairncross süni intellektin sürətli inkişafı ilə bağlı artan qorxuları və ya nəzarətdən çıxmış agentlərin digər şəbəkələrə daxil olması ilə bağlı son hadisələri birbaşa qeyd etmədi. Ağ Evdə və administrasiyanın digər yerlərində bəziləri süni intellekt təhlükəsizliyi risklərini həll etmək üçün daha proaktiv olmağın zəruriliyini görürlər, lakin keçmiş rəsmilərin dediyinə görə, Trampı keçmək istəmirlər. “Prezidentdən qabağa düşmək qorxusu var,” deyən Michael Garcia , iyun ayında vəzifəsindən ayrılana qədər Kiber Təhlükəsizlik və İnfrastruktur Təhlükəsizlik Agentliyində siyasət üzrə baş köməkçi vəzifəsində çalışıb. “Biz texnologiya rəhbərlərinin potensial yeni bir siyasət haqqında eşitdikdə narazılıqlarını bildirmək üçün prezidentə zəng etdiklərini görmüşük və bu da siyasətin dəyişməsinə və ya ləğv edilməsinə səbəb olur,” Garcia dedi. “Bu, qaçılmaz olaraq çox ehtiyac duyulan yeni milli təhlükəsizlik siyasətinin inkişafına mane olur.” Həqiqətən də, vençur kapitalisti və Trampın nüfuzlu keçmiş süni intellekt çarı David Sacks , Fox News-a verdiyi müsahibədə Coxonun xəbərdarlıqlarını “ictimaiyyəti qorxutmaq” və ağır hökumət tənzimləməsinə səbəb olmaq üçün hazırlanmış koordinasiyalı bir media əməliyyatı kimi rədd etdi. Və çip nəhəngi Nvidia-nın baş icraçı direktoru Jensen Huang , yeni qorxu dalğasının kiber təhlükəsizlik sənayesi tərəfindən yaradıldığını söylədi. Kapitol Hilldə vəziyyət çox fərqli deyil. Keçən həftəyə qədər, süni intellekt bir çox qanunverici üçün yalnız məlumat mərkəzlərinin tikintisi ilə bağlı ictimai antipatiya ilə əlaqəli idi, bu da hər iki partiyanın qanunvericiləri və köməkçilərinə görə aralıq seçkilərdə siyasi əhəmiyyət kəsb edib. Süni intellektin potensial nəticələrini araşdırmaq üçün keçmiş səylər dinləmələrə və hər iki partiyadan narahatlıq ifadələrinə səbəb olub, lakin başqa heç nəyə yox. Bir neçə süni intellekt və kiber təhlükəsizlik alt komitəsində oturan Nyu Cersi demokratı Josh Gottheimer , süni intellektin sürətli inkişafının qanunvericilərin ayaqlaşmasını çətinləşdirdiyini söylədi. “Mən qanunvericiləri süni intellekt və ən son inkişaflar barədə müntəzəm olaraq maarifləndirməyin vacibliyini vurğulayıram,” Gottheimer dedi. “Bu ilin əvvəlində nəzarətdən çıxmış OpenAI modelləri tərəfindən sındırılan süni intellekt şirkətinə istinad edərək, Hugging Face sındırılması kimi son hadisələr, bu modellərin yarada biləcəyi riskləri ciddi şəkildə həll etməsək nə baş verə biləcəyi barədə real bir xəbərdarlıq əlamətidir,” deyə əlavə etdi. Bu çətinliyə əlavə olaraq, süni intellekt yalnız bir texnologiya məsələsi deyil, həm də iş yerləri, hərbi və bütün cəmiyyət məsələsidir, yəni onun bütün qollarını həll etmək üçün səliqəli şəkildə yerləşən heç bir konqres komitəsi yoxdur. Çinlə , “Məhbus Dilemması” Coxonun bu həftə istefasından sonra, demokratlar və bəzi respublikaçılar letargiyadan oyandılar. Onlar süni intellekt şirkətlərini və model inkişafının sürətini araşdırmaq üçün bir sıra narahat reaksiyalar və təkliflər irəli sürdülər, o cümlədən demokratların gələn il partiya Nümayəndələr Palatasını geri alarsa süni intellekt üzrə xüsusi komitə yaratmaq təklifi, Politico xəbər verdi. Məsələ qarşıdan gələn aralıq seçkilərdə əhəmiyyət kəsb etdikcə, keçmiş prezident Barak Obama keçən həftə özəl bir vəsait toplama tədbirində süni intellektin “təhlükəli” ola biləcəyi barədə xəbərdarlıq etdi və demokratları təhlükəsizlik və iqtisadiyyat riskləri ilə bağlı “çox aydın bir plan” hazırlamağa çağırdı. Aylardır Kapitol Hilldə süni intellektin cəmiyyətə yaratdığı risklər barədə bəlkə də ən yüksək səslə xəbərdarlıq edən Vermontdan müstəqil senator Bernie Sanders , süni intellekt təhlükəsizliyi mütəxəssisləri ilə narahatlıqları müzakirə etmək üçün qanunvericiləri yaxın günlərdə özəl bir brifinqə dəvət etdi. Sanders superintellekt süni intellektin qadağan edilməsi üçün təzyiq göstərib, baxmayaraq ki, digər qanunvericilər bu səyi Amerikanın innovasiyasını boğmaq kimi tənqid ediblər. Konqres məktubları, keçən cümə axşamı Anthropic tərəfindən yayımlanan bir hesabatdan sonra daha təcili oldu, bu hesabatda Çin, Rusiya, İran və Yəmən daxil olmaqla dünyanın hər yerindən aktyorların müxtəlif Claude modellərini kiberhücumlar inkişaf etdirmək, dissidentləri izləmək və raketlər, bombalar və dronlar qurmaq üçün necə istifadə etdikləri göstərilirdi. Hesabatda həmçinin bioloji silahların hazırlanmasına potensial cəhdlərin bir neçə halı sənədləşdirilmişdi, bu da süni intellektlə əlaqəli ən ciddi ekzistensial təhdidlərdən biri hesab olunur. Bu hesabatın hərəkətə keçməyə səbəb olacağı gözlənilə bilərdi: O, xarici müharibə tərəflərini və Amerika hədəflərinə hücumları birləşdirirdi, baxmayaraq ki, Anthropic sənədləşdirilmiş sui-istifadə hallarının bir çoxunu bloklamış və ya qarşısını almışdı. Lakin həyəcan siqnallarına baxmayaraq, qanunvericilər süni intellekt modellərini və ya onları quran şirkətləri tənzimləmək üçün irəliləyiş yolu barədə razılığa gəlməkdən uzaqdırlar. Yaxın gələcəkdə əsaslı qanunvericiliyin qəbul edilməsi perspektivləri uzaq görünür, qismən də bir çoxları bu məsələni Birləşmiş Ştatlar və Çin arasındakı süni intellekt yarışı tərəfindən yaradılan “məhbus dilemması” kimi gördükləri üçün. Süni intellekt üstünlüyü əsrin ən vacib milli təhlükəsizlik məsələsi olduğundan, hər iki tərəf də...