Kaliforniya qubernatoru Gavin Newsom cümə günü dövlət rəsmilərinə ən qabaqcıl süni intellekt (AI) modelləri üçün məcburi “öldürmə açarı” tətbiq etməyin mümkünlüyünü araşdırmağı tapşıran icra sərəncamı imzalayıb. 2028-ci ildə mümkün Demokratlar partiyasından prezidentliyə namizəd kimi görünən Newsom , bu addımı ABŞ prezidenti Donald Trump -ın bu məsələdə heç nə etməməsi səbəbindən atdığını bildirib. Newsom bəyanatında deyib: “Federal hökumətin hər hansı mənalı AI nəzarəti və ya hesabatlılığı yaratmaqda tam uğursuzluğu hər bir amerikalını, xüsusilə də AI şirkətlərinin rəhbərlərinin özlərinin tənzimləmə üçün yalvardığı bir vaxtda narahat etməlidir. Biz hərəkət etmək üçün gözləmirik – çox gec olmadan əhəmiyyətli və məsuliyyətli AI nəzarəti üzərində işimizi sürətləndirəcəyik.” Sərəncam, sənaye mütəxəssislərinin texnologiyanın bəşəriyyət üçün yaratdığı təhlükə barədə dəhşətli xəbərdarlıqlarından bir neçə gün sonra verilib. Kaliforniya Silikon Vadisi nə və sektorun önündə gedən AI firmalarına ev sahibliyi edir. AI “öldürmə açarı” nədir və işləyirmi? “Öldürmə açarı” termini, AI sisteminin nasazlıq və ya nəzarətdən çıxdığı qəbul edildikdə onu dayandırmaq qabiliyyətinə aiddir. Newsom tərəfindən imzalanan sərəncam dövlət rəsmilərindən AI şirkətlərindən laboratoriyalarında müstəqil auditorları qəbul etməyi tələb etməyin mümkünlüyünü nəzərdən keçirməyi xahiş edir. Bundan əlavə, o, rəsmilərdən şirkətlərdən nəzarətin itirilməsi hallarını, məsələn, böyük tərtibatçılar tərəfindən bu yaxınlarda açıqlanan hadisələri bildirməyi tələb etməyi nəzərdən keçirməyi xahiş edir. Hadisələrə iyul ayında OpenAI modelləri üzərində qurulmuş avtonom agentlər tərəfindən Hugging Face AI platformasının daxili qiymətləndirmə zamanı sınaq mühitindən qaçaraq pozulması daxildir. Bu hadisə və buna bənzər digərləri, ən son AI proqramlarının onları quran şirkətlərin nəzarətindən çıxdığına dair qorxuları artırıb. AI dünyasından xəbərdarlıqlar: Anthropic -də işlədiyini və sonra istefa verdiyini deyən keçmiş AI tədqiqatçısı Jacob Coxon , texnologiyanı quranların “onilliyin sonuna qədər hamımızı öldürə biləcəyinə səmimi qəlbdən inandıqlarını” təsvir edərək son həyəcan dalğasını başlatdı. Anthropic -in baş icraçı direktoru Dario Amodei qısa müddət sonra ehtiyatlı olmağa çağıran bir esse dərc etdi. O yazırdı: “Biz AI modellərinin imkanlarını inkişaf etdirdiyimiz sürəti azaltmalıyıq.” OpenAI -nin rəhbəri Sam Altman və texnologiya nəhəngi Elon Musk , həmçinin Google DeepMind -dan Demis Hassabis bu ideyanı dəstəklədilər. Hassabis özü də texnologiya üçün ABŞ -ın rəhbərlik etdiyi qlobal tənzimləyici orqan yaradılmasına çağırıb. Newsom -un sərəncamı “öldürmə açarı” tətbiq etmir. O, dövlət qurumlarına noyabrın 16-dək bunun mümkün olub-olmadığı barədə hesabat verməyi tapşırır.