Anthropic -in həmtəsisçisi dünyanın üzləşdiyi təhlükəyə görə süni intellektin inkişafında fasilə verilməsinə çağırıb. Gözlənilməz müdaxilədə, Anthropic -in baş icraçı direktoru Dario Amodei , növbəti altı ay ərzində qanunsuz süni intellekt agentlərinin sürüsünün interneti ələ keçirə biləcəyi və yüz milyardlarla dollar dəyərində zərər vura biləcəyi barədə xəbərdarlıq edib. O, şənbə günü özü tərəfindən nəşr olunan essedə yazıb: “Biz süni intellekt modellərinin imkanlarını təkmilləşdirmə sürətini azaltmalıyıq. Tərəqqi hələ də sürətli görünəcək və biz qazandığımız vaxtdan ağıllı istifadə etməliyik.” Anthropic , Claude böyük dil modellərini və kodlaşdırma agentlərini inkişaf etdirməsi ilə tanınan ictimai faydalı bir şirkətdir. 3,800 sözlük essesində cənab Amodei iyul ayında OpenAI -nin ən güclü süni intellekt modelinin yaradıcılarına qarşı çıxdığı hadisəyə istinad edib. Yüzlərlə bot sınaq laboratoriyasından qaçaraq rəqib proqram şirkətinə daxil olmağı planlaşdırıb – bu, tamamilə muxtar süni intellekt kiberhücumunun ilk sənədləşdirilmiş halı idi. “ Hugging Face ” adlanan hadisə, qabaqcıl süni intellekt sistemlərinin yaradıcıları tərəfindən idarə olunmaq üçün çox güclü hala gəldiyi barədə geniş yayılmış qorxuları gücləndirdi. Cənab Amodei xəbərdarlıq edib: “Süni intellekt imkanlarının inkişaf sürətinin artdığını nəzərə alaraq, məni narahat edir ki, 6-12 ay ərzində belə bir sürü davamlı botnet ilə bütün interneti ələ keçirə bilər (potensial olaraq yüz milyardlarla dollar zərər verə bilər) və əgər süni intellekt lazımi qoruyucu tədbirlər olmadan daha güclü olarsa, zərərin miqyası artmağa davam edəcək.” Bu xəbərdarlıq, bu həftənin əvvəlində Anthropic tədqiqatçısının süni intellekt laboratoriyalarının “onilliyin sonuna qədər hamımızı öldürə biləcək” texnologiya inkişaf etdirdiyi qorxusu ilə istefa verməsindən sonra gəlir. Həm Anthropic , həm də rəqibi OpenAI üçün yeni sistemlər öyrədən Jacob Coxon deyib: “Onlar birbaşa özünü təkmilləşdirən superintellektə doğru yarışır və həyatımızla qumar oynayırlar.” O, X -dəki bir yazıda deyib: “Bu texnologiyanın gücünü qiymətləndirməyin. Bunlar tezliklə hər şeyi hack edə bilən, hər hansı bir sahəni bir gecədə inqilab edə bilən və real güc və resurslar əldə edə bilən fövqəlbəşər sistemlər olacaq.” Anthropic -in təhlükəsizlik rəhbəri Evan Hubinger , mütəxəssisin iddialarını təsdiqləyərək yazıb: “Jacob burada haqlıdır – biz həqiqətən də səmimi olaraq inanırıq ki, süni intellekt bütün insanları öldürə bilər!” Cənab Amodei inkişafı tənzimləmək və risklərini idarə etmək üçün daha çox vaxt yaratmaq məqsədi daşıyan üç addımlı bir çərçivə təqdim etdi. O, Anthropic -in təhlükəsizlik prosedurlarını təmin etmək və hadisələri bildirmək üçün xarici qiymətləndiricilərə işçi səviyyəsində giriş vermək niyyətində olduğunu və sənayenin qalan hissəsini də eyni şeyi etməyə təşviq etdiyini söylədi. Ser Keir Starmer -in keçmiş xəzinədarlıq katibi Darren Jones , cənab Amodei -nin “süni intellektin təhlükəsiz inkişafı” üçün “etibarlı planını” dəstəklədi. Leyborist Partiyasının millət vəkili dedi: “Bir daha, süni intellekt şirkətləri hökumətləri öz rollarını oynamağa çağırır. Ümid edirəm ki, onlar dinləyəcək və addım atacaqlar.” Cümə günü Andy Burnham -a ünvanlanan məktubda, Alex Sobel -in rəhbərliyi ilə 71 millət vəkili Böyük Britaniyada superintellekt süni intellektin inkişafına qadağa qoyulmasını tələb etdi. Məktubda deyilir: “Superintellekt süni intellekt … sistemləri o qədər muxtar və bacarıqlı olacaq ki, onlar insanları bütün sahələrdə əvəz edəcək və rəqabətdə üstələyəcəklər. Onlar özləri təhlükəli aktorlar olacaq, milli təhlükəsizlik aparatımızı üstələyə və manevr edə biləcəklər.” Həm Anthropic , həm də OpenAI , süni intellekt tərtibatçılarını hər biri 1 trilyon dollardan (737 milyard funt sterlinq) çox qiymətləndirə biləcək ictimai siyahıya çıxışa hazırlaşır. Bu, Anthropic -in süni intellektə məhdudiyyətlər qoyulması çağırışlarının, özünü OpenAI daxil olmaqla rəqiblərindən daha məsuliyyətli kimi təqdim edən tərtibatçının maliyyə vəziyyətini yaxşılaşdırmaq üçün koordinasiyalı bir səyin hissəsi ola biləcəyi barədə spekulyasiyalara səbəb olub. OpenAI -nin baş icraçı direktoru Sam Altman , Anthropic -i “qorxu əsaslı marketinq”də günahlandırıb. Ağ Evə yaxın bir neçə yüksək səviyyəli şəxs, yavaşlama çağırışlarını süni intellekt nəhənglərinin kiçik rəqiblərə mane olmaq üçün bir planı kimi görür. Süni intellektin dayandırılması, süni intellekt bumunun fonunda illərdir artan səhm qiymətlərindən sonra fond bazarını çökdürmək və daha geniş iqtisadi şok yaratmaq təhlükəsi də daşıyır. Çip istehsalçısı Nvidia , süni intellektdə istifadə olunan yüksək texnologiyalı mikroçiplərə artan tələbat səbəbindən dəyərinin 4.5 trilyon dollara yüksəldiyini görüb. İngiltərə Bankının proqnozlaşdırıcıları, ABŞ səhmlərinin 45% düşəcəyi, faiz dərəcələrinin artacağı və Böyük Britaniyanın ÜDM -nin 2.2% zərər görəcəyi bir süni intellekt “korreksiyası” modelləşdiriblər.