Sam Altman , Elon Musk və Dario Amodei -nin bir çox məsələdə razılığa gəlməsi çətindir. Lakin həftəsonu hər üç Sİ şirkətinin baş icraçı direktoru artan, həyəcanverici risklər fonunda Sİ inkişafının yavaşladılmasına çağırdı. Onların əməkdaşları da həyəcan təbili çalır; bir tədqiqatçı ictimai şəkildə istefa verərək OpenAI və Anthropic -i “həyatımızla qumar oynamaqda” günahlandırdı. Daxili mənbələrdən gələn dəhşətli xəbərdarlıqlar və azğın Sİ-lərin artan real dünya sübutları, sağlam bir dünyada, hökumətin hərəkətə keçməsinə səbəb olmalıdır. Bunun əvəzinə, Donald Trump və Respublikaçı liderlik başlarını quma soxublar. Bazar günü Trump sənaye narahatlıqlarını rədd edərək, “çox neqativ qüvvələri” “şişirdilmiş narahatlıqlar yaratmaqda” günahlandırdı. Nümayəndələr Palatasının spikeri Mike Johnson isə Konqresin yaxın zamanda hərəkətə keçməyəcəyini açıq şəkildə bildirdi: “Onlar özləri özlərinə nəzarət edə bilərlər. Onlar özlərini tənzimləyə bilərlər” dedi, halbuki bu sahədə irəliləyiş əldə edənlər qanunvericilik üçün yalvaranlardır. Hərəkətə keçməyərək, Trump administrasiyası və Respublikaçılar Amerika xalqı nı müdafiə edə bilmirlər. Sİ riskləri realdır: texnologiyanı inkişaf etdirənlərin bir çoxu onun nəzarət etmək və ya riskləri idarə etmək qabiliyyətlərindən daha sürətli inkişaf etdiyinə inanır. Bu yay Sİ agentlərinin sınaq mühitlərindən çıxdığı, bir-biri ilə əməkdaşlıq etməyə başladığı və internetdə geniş yayıldığı bir sıra “azğın Sİ” hadisələri, bir vaxtlar “elmi fantastika” kimi rədd edilən qorxuları görməzdən gəlməyi daha da çətinləşdirib. Sİ şirkətlərinin daxilində fəlakətli kiberhücumlar, Sİ ilə gücləndirilmiş bioloji silahlar və kütləvi işsizlik narahatlıqları artıq adi haldır. Bu arada, şirkətlər özlərini klassik “məhbus dilemması”nda tapırlar. Texnologiyanı daha yaxşı idarə edənə qədər Sİ inkişafını yavaşlatmaq kollektiv olaraq hər kəsin marağındadır. Lakin “Sİ yarışı”ndakı hər bir iştirakçının bu razılaşmadan yayınmaq üçün güclü bir stimulu var. Bu kimi kollektiv fəaliyyət problemləri yeni deyil. Biz iqlim böhranı ilə də eyni şeyi görmüşük; burada şirkətlər düzgün hərəkət etmək üçün kifayət qədər stimullaşdırılmır, baxmayaraq ki, heç kim planetin yanmasını istəmir. Bu analogiya Trump və Johnson -un özünü tənzimləmə çağırışını daha da absurd edir. Onlar haqlıdırlar ki, şirkətlər onları məcbur edəcək məcburi qanunvericilik olmadan da düzgün olanı etməlidirlər. (Həm OpenAI , həm də Anthropic , öz xeyirlərinə, könüllü olaraq yavaşlamağa hazır olduqlarını bildiriblər.) Lakin şirkətlərin yaxşı niyyətlərinə güvənmək boş bir işdir. Razılaşmadan yayınmaq üçün qazanc stimulu əhəmiyyətlidir və səhmdarları görməzdən gəlmək deməkdən asandır. Bəzi şirkətlər özlərini düzgün aparsa da, hamı belə etməyəcək. Təhlükəli Sİ-ni inkişaf etdirmək üçün yalnız bir məsuliyyətsiz aktyor kifayətdir və sonra hamımız çətin vəziyyətdə qalacağıq. Üstəlik, özünü tənzimləmənin işləmədiyinə dair artıq sübutlarımız var. OpenAI -nin modellərinin nəzarətdən çıxması ilə bağlı bir neçə hadisəni gizlətdiyi, onları yalnız müstəqil tədqiqatçılar aşkar etdikdən sonra açıqladığı bildirilir. Şirkət son modeli olan GPT-6 Astra -nın monitorinqinin və nəzarətinin çətin olduğunu sərbəst şəkildə etiraf edir, istifadəçiləri modelin “istifadəçinin nəzərdə tutulan təlimatlarından kənarda hərəkət edə biləcəyi” və “zərərli hərəkətlər edə biləcəyi” barədə xəbərdar edir. Anthropic isə, bir konqres üzvü tərəfindən soruşulduqda, öz Sİ-sinin problemləri ilə bağlı hesabatları əhəmiyyətsiz göstərmişdi. Bu kimi vəziyyətlər hökumətin mövcud olmasının səbəbidir: məqbul korporativ davranış üçün bir təməl müəyyən etmək. Və buna görə də Trump və Johnson Sİ təhlükəsizliyinə olan bu ani maraqdan konkret qanunlar qəbul etmək üçün istifadə etməlidirlər. ABŞ hökuməti ən böyük Sİ şirkətlərinin təcrübələrinin müstəqil auditlərini tələb etməlidir. O, şirkətləri gizlətmələrin qarşısını almaq üçün təhlükəsizlik insidentlərini açıqlamağa məcbur etməlidir. Yeni Sİ modelləri üçün minimum təhlükəsizlik standartları müəyyən etməlidir. Və hökumət bu standartlara cavab verməyən bir modelin tətbiqini bloklamaq səlahiyyətinə malik olmalıdır. Bütün bunları qanunvericiliyə daxil etmək deməkdən asandır, lakin sıfırdan başlamağa ehtiyac yoxdur. Yaxşı qanun layihələri artıq mövcuddur, ən əsası nümayəndələr Jay Obernolte və Lori Trahan -ın Frontier aktı . Əgər hökumət amerikalıları qorumaq vəzifələrində ciddi olsaydı, bu qanun layihəsinin – və ya onun bir versiyasının – qəbulunu yaxın həftələrdə prioritet edərdi. Trump -ın bütün bunlara qarşı arqumenti ABŞ -ın Sİ sahəsində Çin ilə yarışda olması və uduzmamasıdır. Lakin Çin də vətəndaşlarının bank hesablarının azğın Sİ-lər tərəfindən sındırılmasını istəmir. Əllərini yuxarı qaldırmaq əvəzinə, məşhur razılaşmaçı ən yaxşı bildiyi şeyi etməlidir: bir razılaşma əldə etməlidir. Minimum təhlükəsizlik standartları üzrə beynəlxalq müqavilə asan olmayacaq – lakin cəhd etməyə dəyər və bu ay Xi Jinping ilə danışıqlarında prezidentin ən yüksək prioriteti olmalıdır. Heç bir şirkət – və ya ölkə – Sİ-nin səbəb olduğu bir fəlakətə səbəb olmaq istəmir. Trump -ın düşündüyünün əksinə olaraq, onların bunu edə bilməyəcəyinə əmin olmaq hökumətin işidir.