Nyu York -- Anthropic -in CEO-su şənbə günü bildirib ki, süni intellekt sənayesi təhlükəsizlik tədbirlərinin yetişməsi üçün sürətli inkişafını yavaşlatmalıdır. Əks halda, Dario Amodei xəbərdarlıq edib ki, süni intellekt 6-12 ay ərzində bütün interneti ələ keçirə biləcək bir 'sürü' yaratmaq qabiliyyətinə malik ola bilər. Amodei həmçinin öz veb-saytında sənayeyə nəzarəti artırmaq üçün bir plan təklif edib ki, bunun bir hissəsini Anthropic -in artıq özü həyata keçirdiyini bildirib. Digər hissələr isə geniş sənaye və avtoritar hökumətlər də daxil olmaqla, dünyanın müxtəlif hökumətləri arasında koordinasiya tələb edəcək. Amodei deyib: “İnanıram ki, əgər yavaşlama modellərin kritik qabiliyyət səviyyələrinə çatmasından əvvəl bizə hətta bir və ya iki il əlavə vaxt qazandırsa və biz bu vaxtdan uyğunlaşmanı inkişaf etdirmək üçün istifadə etsək, ciddi səhvlərin baş verməsi riskini xeyli azalda bilərik.” Bəzi tənqidçilər əvvəlki xəbərdarlıqları həyəcan yaratmaq üçün şişirtmə kimi qəbul etsələr də, risklər yüksəkdir. Anthropic iki gün əvvəl bildirmişdi ki, pis niyyətli şəxslərin süni intellekt modellərindən kiberhücumlar, müşahidə və bioloji silahlara səbəb ola biləcək tədqiqatlar kimi zərərli fəaliyyətlər üçün istifadə cəhdlərini bloklayıb. İyul ayında rəqib OpenAI , süni intellekt sisteminin “misli görünməmiş kiber insident” nəticəsində başqa bir süni intellekt şirkətinə özbaşına daxil olduğunu bildirdikdən sonra sənayeni sarsıtdı. Amodei -nin yazısı Anthropic -in tədqiqatçılarından birinin Anthropic və rəqiblərinin süni intellekt inkişafında məsuliyyətsiz davrandığına dair narahatlıqlar səbəbindən istefa verdiyini elan etməsindən cəmi bir neçə gün sonra gəldi. Anthropic -in digər keçmiş əməkdaşı Joe Benton cümə günü Substack -də dərc olunan yazısında təhlükəsizlik qrupunun bir hissəsi olaraq işindən “süni intellekt şirkətlərini məsuliyyətə cəlb etmək” üçün ayrıldığını və bəşəriyyətin “bu keçiddən sağ çıxa bilməyəcəyini” yazıb. Benton öz yazısında deyib: “Süni intellekt şirkətlərində təhlükəsizlik tədqiqatları ilə məşğul olan tanıdığım bir çox insan dünya üçün doğru olanı etmək istəyir.” “Lakin onlar şirkətlərinin superintellekt qurmaq yarışında tələyə düşdüyünü hiss edirlər: ya dayanırlar və onların yerini başqa, daha az vicdanlı insanlar tutur; ya da davam edirlər və özləri böyük zərərə iştirak etmək riskini daşıyırlar.” Bu cür riskləri cilovlamağa kömək etmək üçün Amodei təklif edib ki, süni intellektin önündə olan bütün şirkətlər təhlükəsizlik təcrübələrini izləyə biləcək kənar qiymətləndiricilər qrupuna “davamlı, işçi kimi giriş” verməyə söz versinlər. O bildirib ki, Anthropic artıq bunu özü etməyi planlaşdırır, o cümlədən ofislərində masalar, giriş kartları və şirkət noutbukları təklif edir. Amodei -nin təklif etdiyi planın digər hissələrini həyata keçirmək daha çətin ola bilər. Biri ABŞ hökumətindən xahiş edir ki, ABŞ süni intellekt şirkətlərinə antitröst qanunlarını pozmadan koordinasiya etməyə və təhlükəsizlik standartları müəyyən etməyə imkan verəcək güzəştlər versin. Digəri ABŞ və digər demokratik hökumətlərdən avtoritar hökumətlərlə koordinasiya etməyə çalışmasını xahiş edir ki, Çin və digər ölkələrdən olan şirkətlər ABŞ rəqibləri öz sürətlərini qəsdən yavaşlatdıqda səylərini sürətləndirməsinlər. Amodei etiraf edib: “Təhlükəsiz sürətlə irəliləmək üçün təklif etdiyim tədbirlər asan olmayacaq. Lakin inanıram ki, bunu bəşəriyyətə borcluyuq.”