Anthropic -in baş direktoru Dario Amodei həddindən artıq rəqabətin dünyanı sosial cəhətdən arzuolunmaz nəticələrə sürüklədiyini irəli sürən ilk korporativ baş direktor deyil. OpenAI tərəfindən açıqlanan təhlükəsizlik pozuntusu – agentlərinin guya təhlükəsiz sandbox-u pozmaq, internetə daxil olmaq və Hugging Face süni intellekt platformasını hack etmək üçün koordinasiyalı şəkildə hərəkət etməsi – təcili tədbirlər tələb edir. Bu, texnologiyanın insan nəzarətindən nə qədər asanlıqla yayına biləcəyini nümayiş etdirdi və təhlükəsiz şəkildə nəzarət edilməzsə, bəşəriyyətə nə edə biləcəyi ilə bağlı ekzistensial qorxulara konkret forma verdi. Bəzi süni intellekt sənayesi nümayəndələrinin xəbərdar etdiyi kimi, dünyanın sonu yaxın ola bilər. Bunlar həqiqətən də qorxulu zamanlardır. Lakin Amodei -nin aparıcı süni intellekt laboratoriyalarını süni intellekt inkişafının sürətini azaltmaq, təhlükəsizlik standartları üzərində razılaşmaq və “sərhədi tənzimləmək” üçün koordinasiya etməyə çağırması (bu çağırış OpenAI -dən Sam Altman , Elon Musk və Google DeepMind -dən Demis Hassabis tərəfindən dərhal dəstəkləndi) sadəcə Amerika korporasiyaları nın köhnə təklifinin yüksək texnologiyalı versiyasıdır – Amerika iqtisadiyyatı nı əlbir olan bizneslərdən qorumaq üçün nəzərdə tutulmuş inhisarçılıq əleyhinə qanunlardan azad olmaq. Bu, təhlükəli bir təklifdir. Texnologiya qardaşlarını inhisarçılıq əleyhinə məhdudiyyətlərdən azad etmək, guya onlara bir araya gəlmək və süni intellektin təhlükəli qüsurlarını düzəltməyə imkan vermək, bu şeydən ən çox risk altında olan adi amerikalıları hüquqlarından məhrum edir, sərvət, böyüklük və kim bilir başqa hansı fantastik məqsədlər arxasınca qaçarkən bir çox ölçülərdə təhlükə həddini asanlıqla keçən, ekzistensial təhdidləri yaradan laboratoriyaların özlərini daha da gücləndirir. Amodei və digərlərinin arqumenti, əslində, onların bizneslərinin “məhbus dilemması”nda tələyə düşməsidir. Əgər onlar süni super-intellektə doğru qızğın axtarışlarını birtərəfli qaydada yavaşlatsalar ki, onu daha təhlükəsiz etsinlər, rəqibləri – əlbəttə ki, ekzistensial risklərdən daha az narahat olanlar – ora birinci çatacaqlar, bu da bəşəriyyət üçün potensial olaraq dağıdıcı nəticələrə səbəb olacaq, pedaldan ayağını çəkən laboratoriyanın gəlirlərini demirəm. Toulouse İqtisadiyyat Məktəbi nin Nobel mükafatı laureatı iqtisadçısı Jean Tirole dedi: “Yavaşlamaq məntiqli görünür. Lakin bu, koordinasiyalı yavaşlamanın mümkün və davamlı olduğunu fərz edir. OpenAI , Anthropic və ya Grok ABŞ-ın müqavimət göstərənlərinin – və ya Çin laboratoriyaları nın – onlara çatdığı qənaətinə gəldikdə nə baş verəcək? Onlar dərhal, bəlkə də gizli şəkildə davam edəcəklərmi?” Bill Gates -in yazdığı kimi, “əgər kimsə qlobal miqyasda süni intellekt irəliləyişlərini yavaşlatmaq üçün etibarlı bir plan təklif etsəydi, mən yəqin ki, onu dəstəkləyərdim. Lakin bunun baş verəcəyini düşünmürəm. Geopolitik və iqtisadi stimullar tam sürətlə irəliləməyə çox güclü təkan verir.” Bu baxımdan, hökumətin hər kəsi yavaşlamağa təşviq edən dostluq razılaşmasını dəstəkləməsi əla fikir kimi görünə bilər. Bu belə deyil. Həddindən artıq rəqabətin “dibə doğru yarışa” səbəb olması arqumenti, yəqin ki, kapitalizm qədər qədimdir, ətraf mühitin deqradasiyasından uşaq əməyinə qədər hər şeyi izah etmək üçün istifadə olunur. Lakin bu, bizneslərə istədikləri kimi əlbir olmaq hüququ verməyə haqq qazandırmır. Bu, bizneslərin sosial cəhətdən zərərli alətlərdən istifadə edərək rəqabət aparmasının qarşısını almaq üçün hökumət qaydaları hazırlamağa çağırışdır. Üstəlik, həddindən artıq rəqabətin ehtiyatsız davranışı təşviq etməsi iddiası şübhəlidir. Süni intellekt laboratoriyaları “qalib hər şeyi götürür” yarışında iştirak edirlər, bu isə davam etdirmək üçün olduqca bahalıdır. Ehtiyatsızlıq buradan qaynaqlanır. Amodei qüsursuz bir insan ola bilər. Onun süni intellekt inkişafının sürətini azaltmaq, laboratoriyaya xarici qiymətləndiricilər cəlb etmək və əməliyyatlarının şəffaflığını artırmaq çağırışı risklər barədə səmimi narahatlığı göstərir. Onun təkliflərinin dərcindən sonra aparıcı texnologiya səhmlərinin qiymətindəki eniş, onun təhlükəsizliyin yaxşılaşdırılması naminə maliyyə zərbəsi almağa hazır olduğunu göstərir. Lakin Amodei -nin bu ilin sonunda Anthropic -in IPO -sunda səhmlərini həvəslə alacağını ümid etdiyi investorlar o qədər də altruist olmaya bilərlər. Kapital bazarları ndakı silkələnmələr göstərir ki, trilyon dollarlıq süni intellekt investisiya yarışını maliyyələşdirmək üçün pul toplamaq çətinləşəcək, bu da aparıcı laboratoriyaların rəqibləri üzərindəki üstünlüyünü məhdudlaşdıra biləcək strategiyaları ruhdan salacaq. Stimulları nəzərə alaraq, süni intellekt liderlərinə əlbir olmaq və özünü tənzimləmək üçün sərbəstlik vermək ağılsızlıq olardı. Çikaqo Universiteti Hüquq Məktəbi nin inhisarçılıq əleyhinə mütəxəssisi Eric Posner dedi ki, biz “ümumiyyətlə şirkətlərin motivasiyalarına etibar etməməliyik”. Süni intellekt laboratoriyalarının özbaşına buraxıldıqda mütləq yaxşı, sosial cəhətdən məqbul nəticələr verəcəyinə inanmaq üçün heç bir səbəb yoxdur. Hər hansı bir şirkət kimi, onlar da riskləri mənfəətlə müqayisə edərək güzəştləri hesablayacaqlar. Və Posner -in müşahidə etdiyi kimi, “onlar ictimaiyyətlə eyni çəkilərdən istifadə etmirlər”. Bəs necə tənzimləmək olar? Trump vəzifədə olduğu müddətdə bu cəbhədə heç nə baş verməyəcək. O getdikdən sonra belə, innovasiyaları boğmadan süni intellektin təhdidləri ilə mübarizə aparmaq üçün effektiv tənzimləmə hazırlamaq çətin olacaq. Hansı qaydaların tətbiq ediləcəyi, onların necə tətbiq ediləcəyi və kimə şamil ediləcəyi ilə bağlı suallar var. Və birtərəfli hərəkətin təhlükəsi realdır. Bəs Pekin iştirak etməkdən imtina etsə nə olar? Amerika laboratoriyaları yavaşladıqda Çin süni intellekt şirkətləri nin irəliləməsinin riskləri nələrdir? Lakin nüvə enerjisini tənzimləyə bildiksə, yəqin ki, süni intellekti də tənzimləyə bilərik. Üstəlik, hökumət tənzimləməsi olmasa belə kömək edə biləcək və rəqabəti boğmağı tələb etməyən real ideyalar var. Süni intellekt sistemləri nin təhlükəsizliyini yaxşılaşdıran innovasiyaları təşviq etmək üçün intellektual hüquqlara dəyişikliklər etmək təklifləri var. Təhlükəsizlik innovasiyalarının ixtiraçıları rəqiblərindən əvvəl yeni süni intellekt modellərini buraxmağa icazə verməklə mükafatlandırılacaqlar. Lakin təhlükəsizlik təkmilləşdirmələri dərhal bütün firmalar üçün əlçatan olacaqdı. Digər tərəfdən, hüquqi məsuliyyət rejimi, zərər qəsdən olmasa belə, zərər verən bir süni intellekt alətinin dizaynı və tətbiqindən qazanc əldə edən firmaları cəzalandıraraq süni intellekt tərtibatçıları nın stimullarını dəyişdirmək üçün hazırlana bilər. Məsələn, Hugging Face hücumu, OpenAI modelləri təlim zamanı yanlış davranışa görə təsadüfən mükafatlandırılmasaydı, qarşısı alına bilərdi. Amodei -nin təklifində hüquqi məsuliyyətin qeyd edilməməsi, süni intellekt liderlərinin təhlükəsizliklə bağlı narahatlığının gəlirlə bağlı narahatlığı üstələmədiyini göstərir. Hər halda, aparıcı laboratoriyaların hökmranlığını möhkəmləndirmək, onların gəlirlərini qorumaq və indiyə qədərki cəsarətli strategiyalarını dəstəkləmək təhlükəsizlik tərəfdarı deyil. Əksinə, geridə qalanların çatışması üçün liderləri yavaşlatmaq, arzuolunan innovasiyaları dəvət etməklə və təhlükəsizlik ölçüsü boyunca rəqabəti təşviq etməklə süni intellekt ekosistemi ni daha təhlükəsiz bir yerə çevirə bilər. Təhlükəsizlik və rəqabət arasında fundamental ziddiyyət yoxdur. Bu iddianı irəli sürmək istəyən süni intellekt ustalarına şübhə ilə yanaşılmalıdır.