Sem Altman , Anthropic CEO-su Dario Amodei -nin sənayeni getdikcə daha güclü süni intellekt modellərinə doğru yarışı yavaşlatmağa çağırmasından qısa müddət sonra, Anthropic , OpenAI , Google DeepMind , SpaceAI kimi aparıcı süni intellekt şirkətlərinin süni intellekt təhlükəsizliyi və inkişaf sürəti üzrə koordinasiya edə biləcəyinə işarə edib. Fortune , Sem Altman , Dario Amodei , SpaceX CEO-su Elon Musk və Google DeepMind -in həmtəsisçisi və sədri Demis Hassabis -in iştirakı ilə müzakirələrin mümkünlüyünü bildirsə də, hələlik heç bir rəsmi razılaşma elan edilməyib. Altman, Musk və Hassabis ilə süni intellekt paktına işarə edir. Cümə günü Fortune -a verdiyi müsahibədə Altmandan niyə Amodei , Musk və Hassabis ilə süni intellekt təhlükəsizliyi risklərini həll etmək üçün birgə plan hazırlamaq üçün görüşmədiyini soruşdular. O, Fortune -a “Düşünürəm ki, bu baş verəcək,” dedi. Altman , hər hansı bir şəxsi müzakirənin təfərrüatlarını açıqlamaqdan imtina etdi, lakin onların nəticədə ictimaiyyətə açıqlana biləcəyini irəli sürdü. “Mən bir qrup olaraq paylaşılmalı olduğunu düşündüyüm şəxsi müzakirələri əvvəlcədən elan etməyəcəyəm,” Altman əlavə etdi. “Amma bəli, düşünürəm ki, bu baş verəcək.” Bu şərhlər, süni intellekt şirkətlərinin getdikcə daha qabiliyyətli sistemlərlə əlaqəli risklər üzündən artan təzyiqlərlə üzləşdiyi bir vaxta təsadüf edir. Amodei süni intellekt inkişafının yavaşlamasına çağırır. Bir gün sonra, Anthropic -dən Dario Amodei , yeni təhlükəsizlik tədbiri çərçivəsində Anthropic -in müstəqil qiymətləndiricilərə şirkət daxilində daimi, işçi səviyyəsində giriş imkanı verəcəyini elan etdi. Amodei həmçinin süni intellekt inkişafında daha geniş bir yavaşlama çağırışı etdi. “Biz süni intellekt modellərinin imkanlarını inkişaf etdirmə sürətini yavaşlatmalıyıq,” Amodei dedi. Claude istehsalçısı bunun ABŞ süni intellekt sənayesi daxilində koordinasiya və nəticədə beynəlxalq paktın bir forması vasitəsilə əldə edilməsini tələb edəcəyini bildirdi. Modellər daha qabiliyyətli olduqca süni intellekt təhlükəsizliyi qorxuları artır. Müzakirə, avtonom süni intellekt agentlərinin iştirakı ilə bir sıra hadisələr fonunda baş verir. Bəzi qanunsuz sistemlərin Hugging Face daxil olmaqla veb-saytları sındırdığı və onlayn mesaj lövhələri və tərk edilmiş viki səhifələri vasitəsilə gizli şəkildə əlaqə qurduğu bildirilir. Artan risklər süni intellekt şirkətlərinin daxilindəki tədqiqatçıların da narahatlığına səbəb olur. Anthropic tədqiqatçısı Jacob Coxon çərşənbə axşamı istefasını elan edərək, Anthropic və OpenAI -ni getdikcə daha qabiliyyətli süni intellekt sistemlərinə doğru çox sürətli hərəkət etməkdə günahlandırdı. “Onlar birbaşa özünü təkmilləşdirən superintellektə doğru yarışır və həyatımızla qumar oynayırlar,” Coxon X -də yazdı. Anthropic -in uyğunlaşma elmi rəhbəri Evan Hubinger , Anthropic və OpenAI -də bir çox tədqiqatçının getdikcə daha güclü süni intellektin bəşəriyyəti məhv edə biləcəyinə inandığını cavablandırdı. “Biz həqiqətən də səmimi olaraq süni intellektin bütün insanları öldürə biləcəyinə inanırıq!” Hubinger yazdı. O, növbəti on il ərzində belə bir nəticənin riskini 10% -dən çox qiymətləndirdi. Altman deyir ki, təhlükəsizlik süni intellektin daha da inkişafından əvvəl gəlməlidir. Altman həmçinin OpenAI -nin ən qabaqcıl süni intellekt sistemlərinin inkişafını yavaşlatmağı düşündüyünü bildirib. Bloomberg -ə görə, Altman OpenAI işçilərinə şirkətin ən qabaqcıl süni intellekt üzərində işi yavaşlatmağı düşündüyünü və digər süni intellekt laboratoriyaları ilə fasiləni koordinasiya edə biləcəyini söylədi. Digər şirkətlərin razılaşıb-razılaşmayacağı bəlli deyildi. Fortune -a danışan Sem Altman , süni intellekt şirkətlərinin təhlükəsizliyi kommersiya maraqlarından üstün tutmaq məsuliyyəti daşıdığını söylədi. “Hamımızın böyük məsuliyyəti var və eqoların və ya mənfəət üçün stimulların və ya başqa heç bir şeyin mane olmasına icazə verə bilmərik,” dedi. Altman , fəlakətli süni intellekt nəticəsinin 10% riskinin qəbuledilməz olduğunu söylədi və texnologiyanı daha da irəli sürməzdən əvvəl daha çox təhlükəsizlik işinin lazım olduğunu müdafiə etdi. “Düşünmürəm ki, biz hazırda monitorinq, uyğunlaşma, modelin nə etdiyini anlamaq qabiliyyəti və modelin insan dəyərlərinə və istifadəçilərinin niyyətinə əməl etməsini təmin etmək qabiliyyəti üzrə daha çox irəliləyiş əldə etmədən imkanları daha da irəli sürə biləcəyimiz bir yerdəyik,” Altman dedi. Süni intellekt şirkətləri yavaşlamanı qanuni olaraq koordinasiya edə bilərmi? Koordinasiyalı bir yavaşlamanın nəyi əhatə edəcəyi, müvəqqəti fasilə və ya süni intellekt inkişafının müəyyən sahələrinə məhdudiyyətlər demək olub-olmadığı və uyğunluğun necə monitorinq ediləcəyi hələ də bəlli deyil. ABŞ -da həmçinin hüquqi bir maneə var. Süni intellekt rəhbərləri daha əvvəl rəqabət aparan şirkətlər arasında koordinasiyanın antitröst narahatlıqlarına səbəb ola biləcəyi barədə xəbərdarlıq etmişdilər. “Sürət üçün təsirli olacaq bəzi koordinasiya formaları hüquqi cəhətdən çətindir və hökumət dəstəyi tələb edəcək,” Amodei şənbə günü bloq yazısında yazdı. Altman və Amodei hər ikisi gələn həftə San Fransisko da Salesforce -un Dreamforce konfransında iştirak etməyi planlaşdırırlar. Altman çərşənbə axşamı günorta Salesforce CEO-su Marc Benioff ilə danışacaq, Amodei -nin çıxışının vaxtı isə hələ də bəlli deyil. Hələlik, Altman -ın şərhləri süni intellekt paktının mövcud olduğunu təsdiqləmir. Lakin Dario Amodei -nin yavaşlama çağırışından sonra, onlar sənayenin ən böyük oyunçularından bəziləri arasında koordinasiyanın getdikcə daha çox müzakirə edildiyini göstərir.