Keçən həftə məlumat verənlər ən qabaqcıl süni intellektin bəşəriyyət üçün ekzistensial təhlükə yaratdığı barədə xəbərdarlıq etdikdə alovlanan təhlükəsizlik müzakirəsi sağlamlıq xəbərdarlığı ilə gəlməlidir: yan təsirlərə boyun zədəsi daxildir. Cəmi yeddi gün əvvəl süni intellekt həvəskarları OpenAI-nin ən yeni modeli olan GPT-6 Astra ilə şən şəkildə oynayırdılar ki, bu da qismən insanlara tennis kortları sifariş etməyə, moda şirkətlərini idarə etməyə və yemək sifariş etməyə kömək edən bir həyat tərzi aləti kimi bazara çıxarılmışdı. Çərşənbə gününə qədər, ən müasir süni intellekt , istefa verən Anthropic tədqiqatçısı Jacob Coxon “süni intellekti quran insanların səmimi olaraq inandıqlarını ki, o, onilliyin sonuna qədər hamımızı öldürə bilər” deyə xəbərdarlıq etdikdə, daha az cəlbedici görünməyə başladı. Bəli, o, hələ mövcud olmayan, əksər sahələrdə insanları üstələyən texnologiyanın bir versiyası olan süni superintellektdən danışırdı – lakin onun şərhləri və onu təkrarlayan ekspertlər xoru bir çox sinirləri gərginləşdirdi. Başqa bir sarsıntı, Anthropic mövcud modellərini “bioloji silahların inkişafını dəstəkləyə biləcək şəkildə” – yeni ağcaqanadlar tərəfindən yayılan və ya quş qripi virusları kimi – istifadə etmək üçün istifadəçilərin nəzarətdən yayındığını aşkar etdikdə baş verdi. Bütün bunlar London və Vaşinqtondakı qanunvericiləri ən potensial təhlükəli süni intellekt inkişaf növlərinə əyləc və qadağalar tələb etməyə vadar etdi. Və sonra bu həftəsonu, Anthropic rəhbəri Dario Amodei-dən “sərhədi tənzimləmək” üçün üç bənddən ibarət plan şəklində başqa bir kəskin dönüş. Öz işçilərinin bir neçə gün əvvəl panika yaratdığını nəzərə almadan, Amodei bizi süni intellekt Armageddonu qorxularından xilas etmək üçün buradaydı, lakin özünün acı xəbərdarlığından əvvəl, imkanların sürətlənən dərəcəsi süni intellekt agentlərinin sürüsünün altı-on iki ay ərzində “bütün interneti ələ keçirməyə qadir ola biləcəyi” demək idi. Skeptiklər bu iddiaya şübhə ilə yanaşdılar, lakin bəziləri üçün bunu “qırmızı kod” anı elan etmək kifayət idi. Koordinasiyalı bir yavaşlamanın sadəcə danışıq olmadığını göstərən əlamətlər olaraq, Amodei-nin bəzi ehtiyatlı ideyaları rəqibləri – OpenAI-dən Sam Altman və SpaceX-dən Elon Musk tərəfindən tez bir zamanda dəstək qazandı. Bəlkə də çətin bir həftədən sonra ümid etmək üçün səbəblər var idi: ən azından süni intellekt şirkətləri kimsə ciddi şəkildə zərər görmədən əvvəl yavaşlama haqqında danışırdılar. Bir sözlə, Amodei üç addım təklif etdi. Birincisi, hər bir ABŞ süni intellekt şirkəti təhlükəsizlik öhdəliklərinə riayət olunmasını yoxlamaq, hadisələri bildirmək, yeni süni intellekt modellərinin səhv uyğunlaşdırılmamasını təmin etmək üçün daxili üçüncü tərəf qiymətləndiricilərinə davamlı giriş verir. İndiyə qədər, bu cür nəzarətçilər yalnız şirkətlərin istəyi ilə cəlb edilmiş və ya işlər səhv getdikdə araşdırmaq üçün sistemlərə məhdud giriş verilmişdir. Hər hansı bir hökumət səviyyəsində müstəqil tənzimləyicinin olmaması şəraitində, bu bir başlanğıcdır. İkincisi, o, demokratik ölkələrdə sərhəd süni intellekt modelləri quran bütün şirkətlərin ümumi təhlükəsizlik standartları, eləcə də nəzarətsiz süni intellekt tərəqqisinin sürətinə məhdudiyyətlər qoymasını istəyir. Üçüncüsü, dünyanın demokratik süni intellekt gücləri yarışı nəzarət etmək üçün avtokratiyalarla – xüsusilə Çinlə – koordinasiya edəcəkdi. Bu, ehtimal ki, ən çətin addım olacaq. Amodei , bioloji silahların istehsalı kimi süni intellektin açıq-aşkar təhlükəli istifadələrini qadağan edən dar bir razılaşmanın kiçik bir addım ola biləcəyini təklif etdi. Donald Trump-ın Xi Jinping ilə Vaşinqtonda 24 sentyabrda keçiriləcək görüşü hər hansı bir Çin-Amerika koordinasiyasının perspektivlərini sınaqdan keçirəcək. Birbaşa siyasi problem ondadır ki, Donald Trump hər hansı bir süni intellekt qorxusunu etiraf etməkdə istəksiz görünür. Amodei-nin planı ABŞ hökumətinin hərəkətini tələb edir və Trump keçən həftə süni intellektin insan nəslinin tükənməsinə səbəb olacağı ilə bağlı heç bir narahatlığının olmadığını söylədi. O, bazar günü bu fikrini təkrarlayaraq, insanların “baş verməyəcək şeyləri qaldırdığını” söylədi. Çinə uduzmaq Trump-ın süni intellekt hesablamasında daha böyük bir narahatlıq kimi görünür. “Əgər Çin bunda qalib gəlsə, sabahdan sonrakı gün yoxdur,” keçən həftə ABŞ Xəzinədarlıq katibi Scott Bessent dedi. “Əgər onlar süni intellekt sahəsində bizdən uzaqlaşsalar, onda heç bir şeyin əhəmiyyəti olmazdı.” Trump-a yaxın insanlar da Amodei və digər süni intellekt liderlərinin niyə süni intellekt inkişafını özləri tənzimləmədiklərini düşünürlər. “Superintellekt qurmağın ən asan yolu, onu qurmamağa razılaşmağınızdır,” Amodei-nin bloquna cavab olaraq David Sacks dedi. Sacks Trump-ın elm və texnologiya üzrə məsləhətçilər şurasının həmsədridir. “İstədiyiniz tənzimləyici çərçivəni bunun qiyməti kimi tələb etmək, ictimaiyyətin və siyasi sistemin şantajı kimi görünəcək,” o, Amodei-yə dedi. Amodei-nin süni intellekt tərəqqisinin “tənzimlənməsi” çağırışına, təhlükəsizlik tədbirlərinin və qoruyucu baryerlərin uyğunlaşmasına imkan vermək üçün başqa bir tənqid dünyanın aparıcı süni intellekt ekspertlərindən biri olan Prof Stuart Russell-dan gəldi. Amodei , süni intellektlərin insan maraqlarına uyğunlaşmasını təmin etmək üçün sistemlərdə irəliləyişlər etmək üçün vaxt qazanmaq məqsədilə yavaşlama təklif etdi. Lakin Russell bunun “tamamilə əks” olduğunu söylədi. “Biz sadəcə imkanlar üçün daha yavaş bir tərəqqi sürəti təyin etmirik və sonra bunun təhlükəsizliyi düzgün təmin etmək üçün kifayət qədər vaxt verəcəyinə ümid etmirik,” o dedi. “Biz təhlükəsizlik tələblərini müəyyən edirik və daha çox tərəqqi yalnız onlar yerinə yetirildikdə baş verir. Təsəvvür edin ki, bir əczaçılıq şirkəti dedi: ‘Biz hər il yeni bir xərçəng dərmanı buraxacağıq və ümid edirik ki, bu, bəzi klinik sınaqların tamamlanması və nəticələrin yaxşı olması üçün kifayət qədər vaxt verəcək.’” Böyük laboratoriyalar üçün işləməyən süni intellekt ekspertləri də dünyanın ən dəyərli süni intellekt şirkətinin rəhbəri tərəfindən hazırlanmış süni intellekt üçün qlobal tənzimləyici çərçivə planına şübhə ilə yanaşırdılar. “Çox az, çox gec,” süni intellekt professoru, təhlükəsizlik kampaniyaçısı və Böyük Britaniya hökumətinin Süni İntellekt Təhlükəsizlik İnstitutunun keçmiş qurucu direktoru David Krueger dedi. O əlavə etdi: “Bizə sərhəd süni intellekt inkişafına dərhal, qeyri-müəyyən, beynəlxalq moratorium lazımdır.”