Son həftələrdə süni intellektin (Sİ) potensial təhlükələri ilə bağlı xəbərdarlıqlar texnologiyanın inkişafını yavaşlatmaq üçün koordinasiyalı tədbirlər görülməsinə çağırışlara səbəb olub. Hazırkı və keçmiş tədqiqatçıların texnologiyanın bəşəriyyəti təhlükə altına qoyacağı ilə bağlı iddiaları – birinin onun "bütün insanları öldürmək" şansının 10%-dən çox olduğunu irəli sürməsi – həyəcan təbili çalınmasına səbəb olub. Əsas inkişaf etdiricilər OpenAI və Anthropic qanunvericiləri onu tənzimləməyə çağırıblar, baxmayaraq ki, bəziləri bu addımın rəqibləri üzərində hökmranlıqlarını möhkəmləndirmək məqsədi daşıdığını kinayə ilə irəli sürürlər. Buna baxmayaraq, yüksək səviyyəli iddialar narahatlıq doğurub. Bildiklərimiz bunlardır. Bəzi Sİ tədqiqatçıları sistemlərin imkanlarının və gücünün çox sürətlə inkişaf etdiyinə dair narahatedici əlamətlərin olduğunu deyirlər. Evan Hubinger , Sİ-nin növbəti on il ərzində "bütün insanları öldürə biləcəyi" şansının 10%-dən çox olduğuna inanması ilə manşetlərə çıxdı. O, insan etik ideyalarını və prinsiplərini Sİ-yə daxil etməyi hədəfləyən bir sahə olan uyğunlaşma sahəsində işləyir. Başqa sözlə, o, onu insanların dəyərləndirdiyi şeylərlə uyğunlaşdırmağı hədəfləyir. O, mövcud sistemlərdən gələn riskin "aşağı" olduğunu desə də, onun şərhləri başqa bir tədqiqatçının Anthropic-dən ayrılması və texnologiyanı inkişaf etdirənlərin ona nəzarəti itirdiklərini xəbərdar etməsi ilə eyni vaxta təsadüf etdi. Jacob Coxon BBC-yə verdiyi açıqlamada, onun və digər əməkdaşların irəliləyişlərin sürətindən və bunun bəşəriyyət üçün nə demək ola biləcəyindən "həqiqətən qorxduqlarını" bildirdi. Bu narahatlıqlar, Sİ-nin insan qabiliyyətlərinə çatsa və ya onları üstələsə, bəşəriyyəti təhdid etmək potensialı ilə bağlı uzun müddətdir davam edən qorxuların ən sonuncusudur. Bu cür narahatlıqlar on illər əvvələ gedib çıxır, Alan Turing 1950-ci illərdə ağıllı maşınların mümkün olacağı təqdirdə nəzarəti ələ ala biləcəyini yazmışdı. Son bir neçə ildə, böyük Sİ şirkətləri həm mənfəət üçün, həm də "super intellekt" adlandırdıqları – insanlardan daha ağıllı nəzəri texnologiya – yaratmaq məqsədilə getdikcə daha qabiliyyətli sistemlər inkişaf etdirmək üçün yarışırlar. Bir çox insanın gündəlik olaraq e-poçt yazmaq və ya video yaratmaq kimi tapşırıqları yerinə yetirmək üçün istifadə etdiyi sistemlər və alətlərdən fərqli olaraq, super ağıllı Sİ sistemləri daha mürəkkəb tapşırıqları yerinə yetirməli olacaqlar. OpenAI və Anthropic , bu cür texnologiyanı insanlara fayda verəcək və onları ekzistensial risklərdən qoruyacaq şəkildə inkişaf etdirməyi hədəflədiklərini bildirirlər. Lakin bəzi tənqidçilər maşınların heç vaxt insanlara tam uyğun gələ bilməyəcəyinə inanırlar. Onlar Sİ firmalarının öz nüfuzlarını və ya mənfəətlərini artırmaq üçün texnologiyanın imkanlarını şişirtdiklərini deyirlər. Texnologiyanın bəşəriyyəti təhlükə altına qoymaq potensialından narahat olan Sİ tədqiqatçıları , ekspertləri və rəhbərləri narahatedici ssenariləri təsvir ediblər. Dario Amodei sentyabr ayında, xarici mənbədə, onun "növbəti nəsil Sİ-ni qurmaq qabiliyyəti" də daxil olmaqla, gözləniləndən "dramatik şəkildə daha sürətli" inkişaf etdiyini yazmışdı. Bu, Sİ-nin müəyyən bir nöqtəyə çatdıqdan sonra nəzəri olaraq insan müdaxiləsi olmadan özünü təkmilləşdirməyə başlaya biləcəyi ilə bağlı narahatlıqdır. Bu cür qorxular, bu yaxınlarda Sİ alətlərinin xahiş olunmamasına baxmayaraq veb-saytlara daxil olması ilə bağlı bir hadisədən sonra yarandı. Bəzi narahat tədqiqatçılar, onun inkişafının mərkəzində olanların " Sİ agentləri " kimi tanınan sistemlərə nəzarəti itirməkdən getdikcə daha çox qorxduqlarını bildiriblər. Bunlar tapşırıqları və hərəkətləri müstəqil şəkildə yerinə yetirmək qabiliyyəti verilmiş alətlərdir. Digər ssenarilərə yüksək intellektli Sİ sistemlərinin casusluğu, kiberhücumları və ya bioloji müharibəni gücləndirmək və ya idarə etmək, yaxud iqtisadiyyatları pozmaq üçün istifadə edilməsi daxildir – istər təsadüfən, istərsə də qəsdən. Lakin bu cür xəbərdarlıqlar peyğəmbərlik xarakterli, hipotetik və bəziləri üçün tamamilə şişirdilmişdir, xarici mənbə. Bəzi ekspertlər həmçinin mövcud risklərə deyil, ekzistensial risklərə diqqət yetirməyi tənqid ediblər – məsələn, qadınların razılığı olmadan çılpaq deepfake şəkillərini yaratmaq, insanları yanlış məlumatlandırmaq və fırıldaqları gücləndirmək üçün istifadə edilən şəkil yaratma alətləri. Millət vəkilləri və peerlərdən ibarət partiyalararası qrup Sİ-nin yaratdığı insan hüquqları risklərini əks etdirən bir hesabat dərc edərək, bu cür təhdidlərin "miqyasını və ciddiliyini həll etmək" üçün yeni qanunlara ehtiyac olduğunu bildirib. Anthropic-dən Dario Amodei və OpenAI-nin baş icraçı direktoru Sam Altman hər ikisi tənzimləməyə və texnologiyanın inkişafının "yavaşlamasına" çağırıblar. Bu, rəhbərlərin və ya daha geniş sənaye səslərinin bu cür tədbirlər üçün ilk dəfədir ki, tələb etməsi deyil. Lakin SpaceX-in rəhbəri Elon Musk tərəfindən də dəstəklənən hər hansı bir "yavaşlama"nın əslində necə görünəcəyi ilə bağlı suallar artmaqda davam edir. Amodei bunun "model təlimini və ya texniki tərəqqini dayandırmaq" demək olmadığını söylədi. Bunun əvəzinə, o, firmaların inkişaf etdirdikləri Sİ-ni qorumaq üçün "adekvat vaxt ayırmalarını" və işlərini yoxlamaq üçün "üçüncü tərəf qiymətləndiriciləri" tələb etmələrini istəyir. X-də , xarici mənbədəki bir yazıda, Altman inkişafı sürətləndirməyə ehtiyac olduğunu bildirdi, lakin əlavə etdi ki, "'sürətləndirmə' dedikdə 'dayandırmaq' nəzərdə tutulmur." "Tərəqqi sürətli olub və davam edəcək," dedi. "Lakin o, başqa cür ola biləcəyindən daha yavaş olmalıdır – təhlükəsizlik halları və monitorinq kimi müdaxilələrin əhəmiyyətli xərcləri var." OpenAI-nin həmtəsisçisi həmçinin şirkətlərin hökumətlərin hərəkətə keçməsini gözləmədiyini və gözləməyəcəyini bildirdi. Çin , ABŞ şirkətlərinin tədqiqatçılarından gələn dəhşətli xəbərdarlıq dalğasına cavab olaraq səssiz qaldı. Şiddətli rəqabət və Sİ infrastrukturunu qurmaq üçün istifadə olunan ABŞ komponentlərinə və çiplərinə çıxış məhdudiyyətləri qarşısında, ölkə texnologiyanın yerli inkişafını sürətləndirib. Eyni zamanda, o, Sİ-nin daha böyük qlobal idarə edilməsinə çağırıb. Çin laboratoriyaları tərəfindən qabiliyyətli, açıq mənbəli Sİ sistemlərinin və alətlərinin tətbiqi son illərdə Qərb bazarlarını və inkişaf etdiricilərini sarsıdıb. Amodei , Sİ inkişafının yavaşlamasına çağırarkən, Çinin Sİ-dəki irəliləyişinin və bacarığının ABŞ üçün milli təhlükəsizlik riskləri yaradacağını xəbərdar etdi. Çin Xarici İşlər Nazirliyi bu şərhləri tənqid edərək, onları heç kimin maraqlarına xidmət etməyən təhdid, qarşıdurma və pis niyyətli rəqabət narrativləri adlandırdı.