Anthropic tədqiqatçılarının sürətlə inkişaf edən süni intellekt (Sİ) texnologiyası ilə bağlı həyəcan təbili çalmasından bir neçə gün sonra, bu texnologiyanın 'onilliyin sonuna qədər hamımızı məhv edə biləcəyini' iddia etdikdən sonra, Anthropic -in baş direktoru Dario Amodei Sİ şirkətlərinin inkişaf tempini azaltmağı düşünməli olduğunu açıq şəkildə etiraf etdi. Şənbə günü (yerli vaxtla) dərc olunan "Biz Sərhədi Tənzimləməliyik" adlı essedə Amodei əlaqəli risklər, ehtiyatlı olma çağırışının səbəbləri və sərhədi tənzimləmək üçün təklif olunan təhlükəsizlik tədbirləri haqqında ətraflı yazdı. Anthropic -in baş direktoru essenin əvvəlində son on iki ildə Sİ üzərində işlədiyini, çünki bunun "insan həyatının keyfiyyətini kəskin şəkildə yüksəldə biləcəyinə" inandığını bildirdi. Budur Amodei -nin essedən əsas məqamlar: Amodei essenin əvvəlində süni intellektin faydalarını sadaladı, bunlardan bəziləri Sİ-nin növbəti beş-on ildə əksər əsas xəstəlikləri müalicə etməsi, iqtisadi artım sürətini xeyli sürətləndirməsi, bolluq və səlahiyyətləndirmə dünyası yaratması, demokratiya və azadlığın intibahını gətirməsidir. Sürətlə inkişaf edən texnologiya ilə əlaqəli bəzi riskləri vurğulayaraq, Amodei ciddi risklərdən bəzilərinin "Sİ sistemlərinə nəzarəti itirmək riski, kiberhücumlar və bioterrorizm üçün Sİ-nin sui-istifadəsi və ciddi iqtisadi pozulmalar" olduğunu söylədi. Amodei dedi: "Texnologiyanı qurmaqdan imtina etmək bəşəriyyəti faydalardan məhrum edir və ya sadəcə Sİ-ni avtoritar güclərin əlinə verir, onu çox sürətli qurmaq isə ehtiyatsızlıqdır." O əlavə etdi: "Biz orta bir yol axtarmışıq: diqqətlə qurmağın və kommersiya baxımından uğur qazanmağın mümkün olduğunu göstərmək və təhlükəsizliyi Sİ şirkətlərinin rəqabət apardığı bir şeyə çevirmək. Başqa sözlə, zirvəyə doğru bir yarış yaratmaq. Biz həmişə səylərimizin əhəmiyyətli bir hissəsini bu Sİ risklərini öyrənməyə, həll etməyə və ictimaiyyəti məlumatlandırmağa, həmçinin Sİ-nin yaxşı düşünülmüş tənzimlənməsini müdafiə etməyə həsr etmişik, hətta bu bizi həyəcan, "qiyamətçilik" və ya tənzimləyici ələ keçirməkdə ittiham etsə belə. Biz sürətdən ehtiyatlılığı, mənfəətdən isə müdrikliyi üstün tutmağa çalışmışıq." Anthropic -in baş direktoru əlavə etdi: "Biz Sİ modellərinin imkanlarını təkmilləşdirmə sürətini azaltmalıyıq. İnkişaf hələ də sürətli görünəcək və biz qazandığımız vaxtdan ağıllı istifadə etməliyik." Amodei Sİ-nin artan riskləri barədə iki əsas səbəbə görə xəbərdarlıq etdiyini izah etdi: onun daha inkişaf etmiş Sİ sistemləri inkişaf etdirmək qabiliyyətinin insanların texnologiyanı anlamaq və idarə etmək qabiliyyətindən kənara çıxaraq irəliləyişi sürətləndirə bilməsi və OpenAI-Hugging Face insidenti, burada Sİ agentləri icazəsiz kiberhücum həyata keçirərək ciddi uyğunsuzluq nümayiş etdirdilər. Amodei sərhədi tənzimləmək məqsədi ilə üç addımlı bir plan təklif etdi. Buraya daxildir: 1. Daxili Qiymətləndiricilər: Hər bir qabaqcıl Sİ şirkəti təhlükəsizlik təcrübələrini yoxlamaq, insidentləri bildirmək və həm Sİ modellərinin, həm də onların təlim proseslərinin uyğunluğunu qiymətləndirmək üçün müstəqil üçüncü tərəf qiymətləndiricilərinə davamlı giriş verəcək. 2. Demokratik Koordinasiya: Demokratik ölkələrdəki qabaqcıl Sİ şirkətləri ümumi təhlükəsizlik standartları hazırlamaq və nəzarətsiz Sİ inkişafına məhdudiyyətlər qoymaq üçün birlikdə işləməlidirlər. 3. Qlobal Koordinasiya: ABŞ və digər demokratik hökumətlər, razılaşdırılmış öhdəliklərə əməl edib-etmədiklərini yoxlamaqda çətinlikləri qəbul edərək, mümkün olduqda avtoritar dövlətlərlə əməkdaşlıq etməyə çalışmalıdırlar. Amodei -yə görə, daha yavaş temp şirkətlərə əməliyyat mükəmməlliyi, uyğunlaşma, şərh edilə bilmə və sınaq və qiymətləndirmə daxil olmaqla bir neçə sahəyə daha çox resurs ayırmağa imkan verəcək. Anthropic -in baş direktorunun çağırışı nəticədə Sİ-nin potensialını inkişaf etdirmək və onun inkişafının təhlükəsiz, nəzarətli və bəşəriyyət üçün faydalı olmasını təmin etmək arasında bir tarazlıq tapmağa yönəlmişdir.