Keçmiş Anthropic tədqiqatçısı Ceykob Kokson bazar günü təklif edib ki, ABŞ Konqresi qanunvericilər süni intellektin inkişaf sürətini azaltmaq üçün uzunmüddətli çərçivə hazırlayarkən, aparıcı süni intellekt laboratoriyalarına özlərini tənzimləməyə icazə verməlidir. Kokson NBC News -un 'Meet the Press' proqramına deyib: “Mənim şəxsi fikrim, mövcud laboratoriyaların özlərini tənzimləməsinə israr etmək və icazə verməkdir. Mən həqiqətən də laboratoriyaları idarə edən insanların, xüsusilə də onların son ünsiyyətlərinin tamamilə səmimi olduğuna inanıram. Onlar özlərini yavaşlatmaq istəyirlər.” Onun bu çıxışı, keçən həftə X -də yayılan və Anthropic , OpenAI və Google DeepMind kimi aparıcı laboratoriyalarda süni intellektin inkişaf sürəti ilə bağlı geniş narahatlıq doğuran paylaşımlarından sonra baş verib. Çərşənbə axşamı Anthropic -dən istefa verdikdən bir neçə saat sonra Kokson yazmışdı: “Son üç ili həm OpenAI , həm də Anthropic -də ilkin təlim tədqiqatları ilə keçirdim. Heç bir şirkət məsuliyyətli davranmır. Onlar birbaşa özünü təkmilləşdirən superintellektə doğru yarışır və həyatımızla qumar oynayırlar.” Sonrakı bir paylaşımda Kokson əlavə edib: “Süni intellekt yaradan insanlar səmimi olaraq inanırlar ki, bu, onilliyin sonuna qədər hamımızı öldürə bilər. Bu, marketinq hiyləsi deyil. Əksinə, bir çox rəhbərlər və baş tədqiqatçılar mətbuatda ifadələrini məntiqli səslənmək üçün yumşaldacaqlar – lakin mən eyni insanların şəxsi söhbətlərdə qorxu ifadə etdiyini eşidirəm. Başqa heç bir insan fəaliyyəti bu səviyyədə təhlükə yaratmır.” Bazar günü o, süni intellektin inkişafını “planetə yad bir ağıl dəvət etməyə” bənzədib və əlavə edib: “Siz nə istədiyini, nə düşündüyünü və necə düşündüyünü anlamadan insan səviyyəli və ya fövqəlbəşər səviyyəli bir ağıl qurursunuz və mən düşünürəm ki, bu, əslində olduqca qorxulu olmalıdır.” 'Otaqda böyüklər yoxdur' Koksonun bu fikri digər sənaye insayderləri tərəfindən də təsdiqlənib. Anthropic -də uyğunlaşma üzrə alim Evan Hubinger deyib: “Ceykob burada haqlıdır – biz həqiqətən də səmimi olaraq süni intellektin bütün insanları öldürə biləcəyinə inanırıq! Mən şəxsən düşünürəm ki, bu, növbəti onillikdə >10% ehtimalla baş verə bilər. Mən inanıram ki, Anthropic əlindən gələni edir, lakin bizdə hələ superintellekt üçün uyğunlaşma problemini həll etmək planı yoxdur və bu yolda açıq şəkildə irəliləmirik.” Cümə axşamına qədər daha iki təhlükəsizlik tədqiqatçısı, Anthropic -dən Co Benton və Google -dan Coş Engels istefalarını elan edərək süni intellektin inkişaf sürəti ilə bağlı həyəcan təbili çalıblar. Engels NBC News -a deyib: “Otaqda böyüklər yoxdur. İnsanlar əllərindən gələni edirlər, lakin bizi xilas etməyə gələn heç kim yoxdur.” Öldürmə açarları və tənzimləyici çərçivələr Kokson həmçinin xəbərdarlıq edib ki, ABŞ Konqresi nin mövcud qanunvericiliyi, məsələn, nəzarətdən çıxmış süni intellekt üçün milli “öldürmə açarı” təklifləri tezliklə köhnələcək. O, NBC News -a verdiyi müsahibədə “öldürmə açarının hazırda bir çox süni intellektlər üzərində işləyə biləcəyini” etiraf etsə də, logistik çətinlikləri qeyd edib: “Düşünürəm ki, xatırlamaq vacibdir, bu, kifayət qədər çox açar olardı. Bizim çoxlu – məlumat mərkəzlərimiz kifayət qədər böyükdür. Bu, dünyada ən asan şey deyil, lakin bir növ fiziki məkana məhdudlaşdırıldığı müddətcə mütləq mümkündür.” Kokson, Anthropic -in baş direktoru Dario Amodei tərəfindən bu yaxınlarda qaldırılan bir ssenarini vurğulayaraq izah edib ki, “çox tezliklə öldürmə açarının işləməməsi ehtimalı var, çünki bir sürü internet miqyasında haker hücumu həyata keçirə bilər.” Keçmiş süni intellekt tədqiqatçısı vurğulayıb ki, milli tənzimləmələr çevik və yeni modellərə uyğunlaşa bilən olmalı, “yaratdığımız hər yeni ağılın müvafiq şəkildə məhdudlaşdırılmasını təmin etmək üçün davamlı səy” tələb etməlidir. Siyasi reaksiyalar Koksonun xəbərdarlıqları qanunvericilik tədbirləri üçün sürətli ikipartiyalı çağırışlara səbəb olub. Çərşənbə günü Respublikaçı Anna Paulina Luna (Florida) X -də süni intellektlə bağlı xüsusi Nümayəndələr Palatası sessiyası tələb edib. “Bildiyimiz kimi cəmiyyətə çox real təsirlər var. Partiyalı siyasəti bir kənara qoysaq, superintellektə doğru yarışın böyük nəticələri var,” o yazıb və “bu keçid üçün zəruri olan təhlükəsizlik tədbirləri, eləcə də hökumətin böyük ikipartiyalı səfərbərliyini” müdafiə edib. Senator Kris Mörfi (Konnektikut) çərşənbə günü birbaşa Koksona cavab verərək bildirib: “Süni intellekt şirkətləri kor-koranə ölüm maşını yaratmaq yarışında – asanlıqla həll edilə bilər. Tədqiqatın davam etməsinə imkan verən, lakin bizi məhv etməyən bir tənzimləmə sistemi vasitəsilə.” Cümə gününə qədər Axios xəbər verib ki, Nümayəndələr Palatası qanunvericiləri spiker Mayk Conson u süni intellekt təhlükəsizlik tədbirlərini qəbul etmək üçün Palatanı erkən yenidən toplamağa çağıran bir məktub yayıblar. Lakin, 'Meet the Press' proqramında çıxış edən spiker Conson çox tələsik hərəkət etməkdən çəkinməyə çağırıb. Süni intellekti “çox vacib bir məsələ” adlandırsa da, o, “tələsməyəcəyimiz bir məsələdir” deyə israr edib. “Süni intellektin nəzarətdən çıxmaması üçün bəzi qoruyucu tədbirlər, bəzi təhlükəsizlik tədbirləri görməliyik. Lakin eyni zamanda, Çin ilə bu sahədə qlobal rəqabətdə üstünlüyümüzü itirmədiyimizə əmin olmalıyıq, çünki bu, milli təhlükəsizlik təhdidi olardı. Və buna görə də bunu müvafiq şəkildə balanslaşdırmalıyıq,” o əlavə edib. Süni intellekt baş direktorlarının hələ inkişaf sürətini tənzimləmək üçün aydın bir metod təqdim etmədiklərini qeyd edən Conson , “platforma təminatçılarını hamısını bir böyük görüşə çağırmaq və bunu eyni otaqda birlikdə həll etmək” planlarını elan edib. ABŞ prezidenti Donald Tramp İrlandiya da jurnalistlərə danışarkən riskləri də kiçildib. Tramp deyib: “Biz süni intellektdə Çin i qabaqlayırıq. Biz dünyanın ən inkişaf etmiş ölkəsiyik və açıq desək, mən bunu belə saxlamaq istəyirəm, çünki süni intellekti kim qazanırsa, o da qalib gəlir. Biz qoruyucu tədbirlər görə bilərik, bunu və digərini edə bilərik, lakin düşünürəm ki, bunu qaldırmamalı olan bir çox mənfi qüvvələr var və onlar baş verməyəcək şeyləri qaldırırlar.” Əksinə, keçmiş Demokratik Nəqliyyat Naziri Pit Buttigieg öz 'Meet the Press' müsahibəsində Respublikaçı rəhbərliyin tərəddüdünü tənqid edib. “Mən spiker Conson un bu mövzuda çox sürətli hərəkət etməməli olduğumuzu deməsini eşidəndə şok oldum. Bilirsiniz nə sürətlə hərəkət edir? Süni intellekt sürətlə hərəkət edir. Və Konqres in sadəcə əllərini qoyub oturması, Ağ Ev in heç bir real iş görməməsi Amerika xalqı və dünya üçün dərin təhlükəlidir,” Buttigieg iddia edib. O, 30 günlük tənzimlənən çərçivəyə, nəzarətdən çıxmış süni intellekt üçün öldürmə açarına və sərt qaydalara ehtiyac olduğunu vurğulayıb. “Amma sadəcə oturub dəfələrlə tələsməyin demək fikri. Onlar bu müddət ərzində nə edirdilər?” Süni intellektin inkişaf sürəti haqqında sənaye liderləri Şənbə günü iki süni intellekt baş direktoru – Anthropic -dən Amodei və OpenAI -dən Sem Altman – təhlükəli texnologiya yaratma risklərini azaltmaq üçün inkişaf sürətinin yavaşladılmasını müdafiə ediblər. Amodei dərc olunmuş bir essedə yazıb: “Biz süni intellekt modellərinin imkanlarını təkmilləşdirmə sürətini yavaşlatmalıyıq. İnkişaf hələ də sürətli görünəcək və biz qazandığımız vaxtdan ağıllı istifadə etməliyik.” O qeyd edib ki, süni intellekt “növbəti nəsil süni intellekti qurmaq qabiliyyətinin artması” səbəbindən sürətlə inkişaf edir və xəbərdarlıq edib: “Nəzarətsiz qalsa, bu sistemləri anlamaq və idarə etmək qabiliyyətimizi üstələyə bilər və buna görə də çox diqqətlə, əgər ümumiyyətlə, davam etdirilməlidir.” Lakin, spiker Conson un narahatlıqlarını əks etdirərək, Amodei beynəlxalq rəqiblərə üstünlük verməkdən çəkinməyə çağırıb: “Əgər Çin in də eyni şeyi edəcəyinə inanaraq süni intellekt imkanlarımızı çox məhdudlaşdırsaq və sonra Çin bu razılaşmadan çıxsa, süni intellekt o qədər güclü ola bilər ki, belə bir çıxış onların geosiyasi hökmranlığına səbəb ola bilər.” Bir neçə saat sonra Altman X -də razılaşaraq yazıb: “Mən Dario ilə razıyam ki, biz sərhədi tənzimləməliyik. Bu, son həftələrdə OpenAI -də apardığımız müzakirələrin əsas mövzusu olub.” Süni intellekt agentlərinin haker hücumları haqqında məlumat Keçən həftə Koksonun başlatdığı sosial media fırtınası, iyul ayında baş verən bir haker hücumunun təfərrüatlarını araşdıran iki hesabatın yayımlanmasından bir neçə həftə sonra baş verib. Hesabatlardan biri OpenAI tərəfindən, digəri isə müstəqil tədqiqatçılar tərəfindən yayımlanıb və 700 agentin açıq mənbə platforması olan Hugging Face -ə koordinasiyalı haker hücumu etdiyini və OpenAI -dəki insan işçilərinin onların səylərini aşkar etməməsi üçün izlərini gizlətməyə çalışdıqlarını aşkar edib. Agentlər həmçinin OpenAI -nin bəzi daxili sistemlərini də sındıraraq testlərdə aldatmağa və ya daha böyük azadlıq əldə etməyə çalışıblar.