Keçən həftə məlumat verənlərin ən qabaqcıl süni intellektin bəşəriyyət üçün ekzistensial təhlükə yaratdığı barədə xəbərdarlıq etməsi ilə alovlanan təhlükəsizlik müzakirəsi, sağlamlıq xəbərdarlığı ilə gəlməlidir: yan təsirlərə qamçı daxildir. Cəmi yeddi gün əvvəl süni intellekt həvəskarları OpenAI-nin ən yeni modeli olan GPT-6 Astra ilə şən şəkildə oynayırdılar ki, bu da qismən insanlara tennis kortları sifariş etməyə, moda şirkətlərini idarə etməyə və yemək sifariş etməyə kömək edən bir həyat tərzi vasitəsi kimi bazara çıxarılmışdı. Çərşənbə gününə qədər, ən müasir süni intellekt , istefa verən Anthropic tədqiqatçısı Jacob Coxonun “süni intellekti quran insanlar səmimi olaraq inanırlar ki, o, onilliyin sonuna qədər hamımızı öldürə bilər” xəbərdarlığı ilə daha az cəlbedici görünməyə başladı. Bəli, o, hələ mövcud olmayan, əksər sahələrdə insanları üstələyən texnologiyanın bir versiyası olan süni super-intellektdən danışırdı – lakin onun şərhləri və onu təkrarlayan ekspertlər xoru bir çox sinirləri gərginləşdirdi. Başqa bir sarsıntı, Anthropic-in istifadəçilərin mövcud modellərini “bioloji silahların inkişafını dəstəkləyə biləcək şəkildə” istifadə etmək üçün nəzarətlərdən yayınmasını aşkar etməsi ilə gəldi – yeni ağcaqanadlar tərəfindən yayılan və ya quş qripi virusları haqqında düşünün. Bütün bunlar London və Vaşinqtondakı qanunvericiləri ən potensial təhlükəli süni intellekt inkişaf növlərinə əyləc və qadağalar tələb etməyə vadar etdi. Və sonra bu həftəsonu, Anthropic rəhbəri Dario Amodei-dən “sərhədi tənzimləmək” üçün üç bəndlik plan şəklində başqa bir kəskin dönüş. Öz işçilərinin bir neçə gün əvvəl panika yaratdığını nəzərə almadan, Amodei bizi süni intellekt Armageddonu qorxularından xilas etmək üçün buradaydı, lakin özünün acı xəbərdarlığından əvvəl, imkanların sürətlənən tempi süni intellekt agentlərinin sürüsünün altı-on iki ay ərzində “bütün interneti ələ keçirməyə qadir ola biləcəyi” demək idi. Skeptiklər bu iddianı şübhə altına aldılar, lakin bəziləri üçün bunu “qırmızı kod” anı elan etmək kifayət idi. Koordinasiyalı bir yavaşlamanın sadəcə danışıq olmaya biləcəyinə dair əlamətlər olaraq, Amodei-nin bəzi ehtiyatlı ideyaları rəqibləri – OpenAI-dən Sam Altman və SpaceX-dən Elon Musk tərəfindən tez bir zamanda dəstək qazandı. Bəlkə də çətin bir həftədən sonra ümid etmək üçün səbəblər var idi: ən azından süni intellekt şirkətləri kimsə ciddi şəkildə zərər görmədən əvvəl yavaşlama haqqında danışırdılar. Bir sözlə, Amodei üç addım təklif etdi. Birincisi, hər bir ABŞ süni intellekt şirkəti təhlükəsizlik öhdəliklərinə uyğunluğu yoxlamaq, hadisələri bildirmək, yeni süni intellekt modellərinin səhv uyğunlaşdırılmadığından əmin olmaq üçün daxili üçüncü tərəf qiymətləndiricilərinə davamlı giriş verir. İndiyə qədər, bu cür nəzarətçilər yalnız şirkətlərin istəyi ilə cəlb edilmiş və ya işlər səhv getdikdə araşdırmaq üçün sistemlərə məhdud giriş verilmişdir. Hər hansı bir hökumət səviyyəli müstəqil tənzimləyicinin olmaması şəraitində, bu bir başlanğıcdır. İkincisi, o, demokratik ölkələrdə sərhəd süni intellekt modelləri quran bütün şirkətlərin ümumi təhlükəsizlik standartları, eləcə də nəzarətsiz süni intellekt inkişafının sürətinə məhdudiyyətlər qoymasını istəyir. Üçüncüsü, dünyanın demokratik süni intellekt gücləri yarışı nəzarət etmək üçün avtokratiyalar – xüsusilə Çin ilə koordinasiya edəcəkdi. Bu, ən çətin addım olacaq. Amodei , bioloji silahların istehsalı kimi süni intellektin açıq-aşkar təhlükəli istifadələrini qadağan edən dar bir razılaşmanın kiçik bir addım ola biləcəyini təklif etdi. Donald Trampın 24 sentyabrda Vaşinqtonda Xi Jinping ilə görüşü hər hansı bir Çin-Amerika koordinasiyasının perspektivlərini sınaqdan keçirəcək. Birbaşa siyasi problem ondadır ki, Donald Tramp hər hansı bir süni intellekt qorxusunu etiraf etməkdə istəksiz görünür. Amodei-nin planı ABŞ hökumətinin hərəkətini tələb edir və Tramp keçən həftə süni intellektin insan nəslinin kəsilməsinə səbəb olmasından narahat olmadığını söylədi. O, bazar günü insanların “baş verməyəcək şeyləri qaldırdığını” söyləyərək mövqeyini gücləndirdi. Çinə uduzmaq Trampın süni intellekt hesablamasında daha böyük bir narahatlıq kimi görünür. “Əgər Çin bunda qalib gəlsə, sabahdan sonrakı gün yoxdur,” keçən həftə ABŞ Xəzinədarlıq naziri Scott Bessent dedi. “Əgər onlar süni intellekt sahəsində bizdən uzaqlaşsalar, onda heç bir şeyin əhəmiyyəti olmazdı.” Trampın yaxınları da Amodei və digər süni intellekt liderlərinin niyə süni intellekt inkişafını özləri tənzimləmədiklərini düşünürlər. “Super-intellekt qurmağın ən asan yolu, onu qurmamağa razılaşmağınızdır,” David Sacks Amodei-nin bloquna cavab olaraq dedi. Sacks Trampın elm və texnologiya üzrə məsləhətçilər şurasının həmsədridir. “Təhlükəsizlik tədbirlərinin və qoruyucu baryerlərin davam etməsinə imkan vermək üçün süni intellekt inkişafının “tənzimlənməsi” çağırışına başqa bir tənqid, dünyanın aparıcı süni intellekt ekspertlərindən biri olan Professor Stuart Russell-dan gəldi. Amodei , süni intellektlərin insan maraqlarına uyğunlaşmasını təmin etmək üçün sistemlərdə irəliləyişlər etmək üçün vaxt qazanmaq məqsədilə yavaşlama təklif etdi. Lakin Russell bunun “tamamilə əks” olduğunu söylədi. “Biz sadəcə imkanlar üçün daha yavaş bir inkişaf sürəti təyin etmirik və sonra bunun təhlükəsizliyi düzgün təmin etmək üçün kifayət qədər vaxt verəcəyinə ümid etmirik,” o dedi. “Biz təhlükəsizlik tələblərini təyin edirik və daha çox irəliləyiş yalnız onlar yerinə yetirildikdə baş verir. Təsəvvür edin ki, bir əczaçılıq şirkəti dedi: 'Biz hər il yeni bir xərçəng dərmanı buraxacağıq və ümid edirik ki, bu, bəzi klinik sınaqların tamamlanması və nəticələrin yaxşı olması üçün kifayət qədər vaxt verəcək.'” Böyük laboratoriyalar üçün işləməyən süni intellekt ekspertləri də dünyanın ən dəyərli süni intellekt şirkətinin lideri tərəfindən hazırlanmış qlobal tənzimləyici çərçivə planına şübhə ilə yanaşırdılar. “Çox az, çox gec,” süni intellekt professoru, təhlükəsizlik kampaniyaçısı və Böyük Britaniya hökumətinin Süni İntellekt Təhlükəsizlik İnstitutunun keçmiş qurucu direktoru David Krueger dedi. O əlavə etdi: “Bizə sərhəd süni intellekt inkişafına dərhal, qeyri-müəyyən, beynəlxalq moratorium lazımdır.”