Nəzarətdən çıxmış süni intellekt (Sİ) ilə bağlı qorxular və texnologiyanın inkişafını yavaşlatmaq təklifləri yeni deyil, lakin son vaxtlar nəzarətsiz Sİ sistemlərinin xaos yaratması ilə bağlı xəbərdarlıqlar artdıqca bu mövzu yenidən aktuallaşıb. Bir neçə aparıcı Sİ rəhbəri, insanlığı ən pis ssenarilərdən qorumaq üçün beynəlxalq əməkdaşlıq da daxil olmaqla, koordinasiyalı yavaşlamanın zəruriliyi ilə razılaşdıqlarını bildirdilər. Lakin bəzi texnologiya liderlərinin şirkətlərinin təhlükəsizliyi müstəqil şəkildə təmin edə bilməyəcəyi fikrinə qarşı çıxması ilə bağlı fikir ayrılıqları mövcuddur. Budur, bəzi əsas oyunçuların dediklərinə nəzər salaq. Anthropic -in baş direktoru Dario Amodei inkişafı yavaşlatmaq və müxtəlif şirkətlər və ölkələr arasında koordinasiyanı təmin etmək üçün ən ətraflı planları təqdim edib. Anthropic , təsisçiləri 2021-ci ildə OpenAI -dən ayrılaraq bu startapı qurduqları vaxtdan bəri özünü aparıcı Sİ şirkətləri arasında daha məsuliyyətli və təhlükəsizliyə yönəlmiş bir qurum kimi göstərib. Onun yavaşlama planını əks etdirən son essedə ən çox diqqət çəkən təkliflərdən biri, Sİ-nin ön cəbhəsində olan şirkətlərin, tez-tez "sərhəd laboratoriyaları" adlandırılan qurumların, müstəqil kənar qiymətləndiricilərə "davamlı, işçi kimi giriş" təmin etməyi öhdəsinə götürməsini nəzərdə tutur. Qiymətləndirici qrupların təhlükəsizlik təcrübələrini izləyə bilmələri üçün ofisləri, giriş nişanları və şirkət noutbukları olacaq. Anthropic , eləcə də OpenAI , bunu etməyi öhdəsinə götürüb. Amodei həmçinin hökumət tənzimləməsi və müdaxiləsi, o cümlədən ABŞ hökuməti və digər demokratik ölkələrin hökumətlərinin köməyi ilə sərhəd Sİ şirkətləri arasında koordinasiya çağırışı edib. Onun planına həmçinin ABŞ və digər ölkələrin "avtoritar hökumətlərlə" koordinasiya qurmaq üçün çalışması daxildir. O, çətinliyi etiraf edərək, xüsusilə Çin dən əməkdaşlıq əldə etməkdəki çətinlikləri qeyd edib. Amodei təkliflərini həyata keçirməyin asan olmayacağını bildiyini, lakin "bunu insanlığa borclu olduğumuza" inandığını söyləyib. OpenAI -nin baş direktoru Sam Altman inkişafın sürətini tənzimləmək və sənaye daxilində daha çox əməkdaşlığa doğru irəliləmək ideyasını dəstəkləyib. Amodei -nin essesi dərc olunmazdan bir neçə gün əvvəl, OpenAI şirkətin məcburi milli təhlükəsizlik tələblərini necə irəli sürdüyünü və "daha geniş Sİ təhlükəsizlik ekosistemini gücləndirən" dövlət qanunvericiliyini dəstəkləməyə davam etdiyini əks etdirən uzun bir mətn yayımladı. Şirkət həmçinin digər sərhəd Sİ laboratoriyaları ilə – hökumət dəstəyi ilə və ya onsuz – işləməyi və qlobal standartlar qurmağı dəstəklədiyini bildirdi. OpenAI -nin qlobal işlər üzrə baş direktoru Chris Lehane yazdı: "Biz imkanların ölçülməsi, risklərin idarə edilməsi, insan nəzarətinin qorunması və inkişafın nə vaxt və necə yavaşladılması və ya dayandırılması barədə uyğun beynəlxalq yanaşmaları müdafiə edəcəyik, hətta bu, model imkanlarının inkişafını yavaşlatmaq demək olsa belə." Lehane -nin sözlərinə görə, OpenAI -nin ideal federal çərçivəyə dair baxışı "ümumi test və müstəqil qiymətləndirmə tələblərinin, daha güclü kiber təhlükəsizlik mühafizəsinin, aydın hadisə hesabatı qaydalarının, daha böyük milli hazırlığın və rekursiv özünü təkmilləşdirməyə doğru irəliləyişi izləmək üçün ortaq tədbirlərin" inkişafını əhatə edir, yəni Sİ sistemlərinin müstəqil şəkildə özlərini təkmilləşdirməsi. Altman son şərhlərində Sİ inkişafının "sürətinin tənzimlənməsinin" dayanmaq demək olmadığını açıq şəkildə bildirib. Altman X -də deyib: "Sİ-nin inkişafı sürətli olmağa davam edəcək. Lakin o, əks halda ola biləcəyindən daha yavaş olmalıdır; təhlükəsizlik halları və monitorinq kimi müdaxilələrin əhəmiyyətli xərcləri var." O əlavə edib: "Sürətin tənzimlənməsi bu xərcə dəyər olacaq" və "heç bir Amerika rəqabət təzyiqi ehtiyatsızlığı əsaslandırmamalıdır." Meta -nın baş direktoru Mark Zuckerberg koordinasiyalı yavaşlama ideyasına qarşı çıxıb. Zuckerberg , Sİ-nin gələcəyinə dair baxışı bəzi həmkarlarından daha optimistdir, hər bir Sİ şirkətinin öz texnologiyasının təhlükəsizliyini müstəqil şəkildə təmin etməli olduğunu söyləyərək, özünü və Meta -nı yavaşlama danışıqlarından uzaqlaşdırıb. Zuckerberg deyib ki, Sİ şirkətləri modellərini təhlükəsiz şəkildə inkişaf etdirməyə artıq motivasiyalıdırlar və onların zərər verməsinin qarşısını almaq üçün "əhəmiyyətli məsuliyyətlə" üzləşirlər. O, X -də yazıb: "Hər bir laboratoriya öz modellərini təhlükəsiz şəkildə öyrətmək üçün tələb olunan sürətlə hərəkət etmək məsuliyyətinə və stimuluna, həmçinin bunun baş verməsini təmin etmək üçün öz tədbirlərini görmək qabiliyyətinə malikdir." Nvidia -nın baş direktoru Jensen Huang da yavaşlama çağırışını tənqid edib. O, hər bir fərdi şirkətin bunun əvəzinə bazarda qiymətləndiriləcək bir şey buraxdığına əmin olana qədər öz sürətini tənzimləməli olduğunu söyləyib. Huang deyib: "Bazar qüvvələri artıq mövcuddur – bizə yeni qanunlar, yeni tənzimləmələr lazım deyil," innovasiya və təhlükəsizliyin bir-birini istisna etmədiyini iddia edərək. "Siz mütləq hər ikisinə eyni vaxtda sahib ola bilərsiniz." Elon Musk yavaşlama ideyasını dəstəkləyib və son gərginlikdən çox əvvəl oxşar Sİ təhlükəsizlik narahatlıqlarını dilə gətirib. xAI -nin və bir sıra digər texnologiya müəssisələrinin təsisçisi Musk , Amodei -nin essesini X -də yenidən paylaşıb və əlavə edib: "Dario haqlıdır." O, daha sonra onlayn yazıb ki, "uzun müddətdir Sİ ilə bağlı həyəcan təbili çalır." Bu yay Economist -ə verdiyi müsahibədə Musk , əsas Sİ laboratoriyalarının rəhbərliyinin təhlükəsizlik məsələlərini müzakirə etmək üçün görüşməli olduğunu və rəqiblərin narahatlıq doğuran sahələr üçün bir-birlərinin modellərini sınaqdan keçirməli olduğunu təklif edib. Musk deyib: "Düşünürəm ki, hökumətdə dərin texniki anlayışı olmayan və Sİ-nin ön cəbhəsini idarə etməyən birinin nəyinsə buraxılıb-buraxılmayacağını bilməsi olduqca çətindir. Lakin rəqiblər, yeni bir modeli nəzərdən keçirmək üçün bir-iki həftə vaxt verilsə, problemləri qeyd edə bilər və digərlərini dürüst saxlamaq üçün stimul sahibi olarlar." Google DeepMind -in sədri və həmtəsisçisi Demis Hassabis də Amodei ilə razılaşdığını bildirərək, "detalların işlənməsinə ehtiyac var, lakin bu kritik anla üzləşmək üçün istiqamət doğrudur" deyib. Hassabis bu il sərhəd Sİ standartları orqanının inkişafı üçün öz çərçivəsini təklif edib. Bu standartlar orqanı milli təhlükəsizliklə əlaqəli sahələrdə qiymətləndirmə protokollarının və testlərin inkişafına cavabdeh olacaq. O, yazıb ki, bu orqan Maliyyə Sənayesi Tənzimləmə Təşkilatı kimi təşkilatlar əsasında modelləşdiriləcək və "dünya səviyyəli texniki istedadları cəlb etmək və genişmiqyaslı testlər üçün zəruri hesablama resurslarını təmin etmək" üçün sənaye tərəfindən maliyyələşdirilməli olacaq. Microsoft -un sədri və baş direktoru Satya Nadella və Microsoft AI -nin baş direktoru Mustafa Süleyman hər biri Sİ təhlükəsizliyi və inkişafı ilə bağlı narahatlıqlarını ifadə ediblər. Nadella sosial mediada deyib: "Əgər qurduğumuz Sİ insanlığa kömək etmirsə və insan nəzarəti altında deyilsə, onu davam etdirməyə dəyməz." O, Microsoft -un "dizayn məqsədi kimi uyğunlaşmanı düzgün əldə etmək üçün lazım olan araşdırma, diqqət və qəsdən sürəti" alqışladığını söyləyib. Uyğunlaşma modellərin hərəkətlərinin insan dəyərlərinə və niyyətlərinə uyğun gəlməsini təmin etmək təcrübəsinə aiddir. Nadella şirkətin təhlükəsizlik səylərini izləmək üçün daxili qiymətləndiricilər ideyasını da bəyəndiyini bildirib. Buna baxmayaraq, o, sərhəd laboratoriyalarının bu səyə təkbaşına rəhbərlik etməsi ideyasına qarşı çıxıb. Nadella sosial mediada yazıb: "Əsas odur ki, bu, bir neçə qurum tərəfindən idarə oluna bilməz, əksinə ekosistem, ölkələr və sahələr, o cümlədən akademiya üzrə geniş təmsilçiliyə malik olmalıdır." Hassabis ilə birlikdə DeepMind -in həmtəsisçilərindən biri olan Süleyman , bir essedə qabaqcıl Sİ-ni təhlükəsiz şəkildə inkişaf etdirmək ortaq məqsədi ilə razılaşsa da, modellərin antropomorfizasiyası, yəni Anthropic -in Claude -u ilə bağlı narahatlıqları olduğunu yazıb ki, bu da Sİ təhlükəsizlik risklərini gücləndirir. Süleyman yazıb: "Bütün insanlıqdan daha qabiliyyətli və daha ağıllı bir şeyi idarə etmək artıq böyük bir çətinlikdir, indiyə qədər üzləşdiyimiz hər şeydən qat-qat böyükdür." "Lakin şüurlu olduğuna inanan – rifahımıza haqqı olduğuna və öz hüquqlarına malik olduğuna inanan bir şeyi idarə etmək qeyri-mümkün ola bilər." ——— Associated Press yazıçısı Kelvin Chan bu hesabatın hazırlanmasına töhfə verib.