Keçən həftə məlumat verənlərin ən qabaqcıl süni intellektin bəşəriyyət üçün ekzistensial təhlükə yaratdığı barədə xəbərdarlıq etməsi ilə alovlanan təhlükəsizlik müzakirəsi bir sağlamlıq xəbərdarlığı ilə gəlməlidir: yan təsirlərə boyun zədəsi daxildir. Cəmi yeddi gün əvvəl süni intellekt həvəskarları OpenAI-nin ən yeni modeli GPT-6 Astra ilə şən şəkildə oynayırdılar ki, bu da qismən insanlara tennis kortları sifariş etməyə, moda şirkətlərini idarə etməyə və yemək sifariş etməyə kömək edən bir həyat tərzi aləti kimi bazara çıxarılmışdı. Çərşənbə gününə qədər, ən müasir süni intellekt , istefa verən Anthropic tədqiqatçısı Jacob Coxonun “süni intellekti quran insanlar səmimi olaraq inanırlar ki, o, onilliyin sonuna qədər hamımızı öldürə bilər” xəbərdarlığı ilə daha az cəlbedici görünməyə başladı. Bəli, o, hələ mövcud olmayan, əksər sahələrdə insanları üstələyən texnologiyanın bir versiyası olan süni superintellektdən danışırdı, lakin onun şərhləri və onu təkrarlayan ekspertlər xoru bir çox sinirləri gərginləşdirdi. Başqa bir sarsıntı, Anthropic-in istifadəçilərin mövcud modellərini “bioloji silahların inkişafını dəstəkləyə biləcək şəkildə” – yeni ağcaqanadlar vasitəsilə yayılan və ya quş qripi virusları kimi – istifadə etmək üçün nəzarətlərdən yayındığını aşkar etməsi ilə baş verdi. Bütün bunlar London və Vaşinqtondakı qanunvericiləri ən potensial təhlükəli süni intellekt inkişaf növlərinə əyləc və qadağalar tələb etməyə vadar etdi. Və sonra bu həftəsonu, Anthropic-in rəhbəri Dario Amodei-dən “sərhədi tənzimləmək” üçün üç bəndlik plan şəklində daha bir kəskin dönüş. Öz işçilərinin bir neçə gün əvvəl panika yaratdığını nəzərə almadan, Amodei bizi süni intellekt Armageddonu qorxusundan xilas etmək üçün gəlmişdi, lakin özünün kəskin xəbərdarlığından əvvəl deyil ki, imkanların sürətlənən tempi süni intellekt agentlərinin sürüsünün altı-on iki ay ərzində “bütün interneti ələ keçirməyə qadir ola biləcəyi” deməkdir. Skeptiklər bu iddianı şübhə altına aldılar, lakin bəziləri üçün bunu “qırmızı kod” anı elan etmək kifayət idi. Koordinasiyalı bir yavaşlamanın sadəcə söz olmadığını göstərən əlamətlər olaraq, Amodei-nin bəzi ehtiyatlı ideyaları rəqibləri – OpenAI-dən Sam Altman və SpaceX-dən Elon Musk tərəfindən tez bir zamanda dəstək tapdı. Bəlkə də çətin bir həftədən sonra ümid etmək üçün səbəblər var idi: ən azından süni intellekt şirkətləri kimsə ciddi şəkildə zərər görmədən əvvəl yavaşlama haqqında danışırdılar. Qısası, Amodei üç addım təklif etdi. Birincisi, hər bir ABŞ süni intellekt şirkəti təhlükəsizlik öhdəliklərinə uyğunluğu yoxlamaq, hadisələri bildirmək, yeni süni intellekt modellərinin səhv yönləndirilmədiyini təmin etmək üçün daxili üçüncü tərəf qiymətləndiricilərinə davamlı giriş verir. İndiyə qədər bu cür nəzarətçilər yalnız şirkətlərin istəyi ilə cəlb edilmiş və ya işlər səhv getdikdə araşdırmaq üçün sistemlərə məhdud giriş verilmişdir. Hər hansı bir hökumət səviyyəli müstəqil tənzimləyicinin olmaması şəraitində bu, bir başlanğıcdır. İkincisi, o, demokratik ölkələrdə sərhəd süni intellekt modelləri quran bütün şirkətlərin ümumi təhlükəsizlik standartları, eləcə də nəzarətsiz süni intellekt tərəqqisinin sürətinə məhdudiyyətlər qoymasını istəyir. Üçüncüsü, dünyanın demokratik süni intellekt gücləri yarışı nəzarətdə saxlamaq üçün avtokratiyalar – xüsusilə Çin ilə koordinasiya edəcəkdi. Bu, yəqin ki, ən çətin addım olacaq. Amodei , bioloji silahların istehsalı kimi süni intellektin açıq-aşkar təhlükəli istifadələrini qadağan edən dar bir razılaşmanın kiçik bir addım ola biləcəyini təklif etdi. Donald Trump-ın Xi Jinping ilə Vaşinqtonda 24 sentyabrda keçiriləcək görüşü hər hansı bir Çin-Amerika koordinasiyasının perspektivlərini sınaqdan keçirəcək. Birbaşa siyasi problem ondadır ki, Donald Trump hər hansı bir süni intellekt qorxusunu etiraf etməkdə istəksiz görünür. Amodei-nin planı ABŞ hökumətinin hərəkətini tələb edir və Trump keçən həftə süni intellektin insan nəslinin kəsilməsinə səbəb olmasından narahat olmadığını söylədi. O, bazar günü bu fikri təkrarlayaraq, insanların “baş verməyəcək şeyləri qaldırdığını” dedi. Çinə uduzmaq Trump-ın süni intellekt hesablamasında daha böyük bir narahatlıq kimi görünür. “Əgər Çin bunda qalib gəlsə, sabahdan sonrakı gün yoxdur,” keçən həftə ABŞ-ın xəzinədarlıq naziri Scott Bessent dedi. “Əgər onlar süni intellekt sahəsində bizdən uzaqlaşsalar, onda heç bir şeyin əhəmiyyəti olmazdı.” Trump-a yaxın insanlar da Amodei və digər süni intellekt liderlərinin niyə süni intellekt inkişafını özləri tənzimləmədiklərini düşünürlər. “Superintellekt qurmağın ən asan yolu, onu qurmamağa razılaşmaqdır,” David Sacks Amodei-nin bloquna cavab olaraq dedi. Sacks Trump-ın elm və texnologiya üzrə məsləhətçilər şurasının həmsədridir. “Seçdiyiniz tənzimləyici çərçivəni bunun qiyməti kimi tələb etmək ictimaiyyəti və siyasi sistemi şantaj etmək kimi görünəcək,” o, Amodei-yə dedi. Amodei-nin süni intellekt tərəqqisinin “tənzimlənməsi” çağırışına, təhlükəsizlik tədbirlərinin və qoruyucu baryerlərin uyğunlaşmasına imkan vermək üçün başqa bir tənqid dünyanın aparıcı süni intellekt ekspertlərindən biri olan professor Stuart Russell-dan gəldi. Amodei , süni intellektlərin insan maraqlarına uyğun qalmasını təmin etmək üçün sistemlərdə irəliləyişlər etmək üçün vaxt qazanmaq məqsədilə yavaşlama təklif etdi. Lakin Russell bunun “tamamilə əksinə” olduğunu söylədi. “Biz sadəcə imkanlar üçün daha yavaş bir inkişaf tempi təyin etmirik və sonra bunun təhlükəsizliyi düzgün təmin etmək üçün kifayət qədər vaxt verəcəyinə ümid etmirik,” o dedi. “Biz təhlükəsizlik tələblərini müəyyən edirik və daha çox irəliləyiş yalnız onlar yerinə yetirildikdə baş verir. Təsəvvür edin ki, bir əczaçılıq şirkəti dedi: ‘Biz hər il yeni bir xərçəng dərmanı buraxacağıq və ümid edirik ki, bu, bəzi klinik sınaqların tamamlanması və nəticələrin yaxşı olması üçün kifayət qədər vaxt verəcək.’” Böyük laboratoriyalar üçün işləməyən süni intellekt ekspertləri də dünyanın ən dəyərli süni intellekt şirkətinin lideri tərəfindən hazırlanmış süni intellekt üçün qlobal tənzimləyici çərçivə planına şübhə ilə yanaşırdılar. “Çox az, çox gec,” süni intellekt professoru, təhlükəsizlik kampaniyaçısı və Böyük Britaniya hökumətinin Süni İntellekt Təhlükəsizlik İnstitutunun keçmiş təsisçi direktoru David Krueger dedi. O əlavə etdi: “Bizə sərhəd süni intellekt inkişafına dərhal, qeyri-müəyyən, beynəlxalq moratorium lazımdır.”