SAN FRANSİSKO (AP) — Texnologiya nəhəngləri süni intellektdən yorulmuş dünyaya öz qabaqcıl sistemlərinin bəşəriyyəti təhlükə altına sala biləcəyi barədə xəbərdarlıq edərkən, sual ortaya çıxdı: Onlar bundan nə qazanacaqlar? Cavab şirkətlərin ABŞ aralıq seçkiləri ərəfəsində siyasi məqsədlərə çatmaq səylərində və qabaqcıl süni intellekt laboratoriyalarının, eləcə də onların investorlarının həyəcanlı birjada çox gözlənilən listinqlərdən əldə edəcəyi pullarda ola bilər. Anthropic və OpenAI -nin baş icraçı direktorları bu yaxınlarda bəyan etdilər ki, Amerikanın qabaqcıl modelləri o qədər güclüdür ki, təhlükəlidir və buraxılmadan əvvəl tənzimlənməli və müstəqil şəkildə sınaqdan keçirilməlidir. Nadir birlik nümunəsi olaraq, onlar esselərdə, sosial media paylaşımlarında və Birləşmiş Millətlər Təşkilatında çıxışlarında həyəcanverici ssenarilər təsvir ediblər. Bu yolla onlar öz texnologiyalarının necə idarə olunmalı olduğu barədə müzakirələri formalaşdırırlar. Ekspertlər, analitiklər və keçmiş hökumət qiymətləndiriciləri Associated Press -ə bildiriblər ki, şirkətlər bu ritorika ilə ictimai rəğbət qazanmağa və tənzimlənməmiş bazarda öz təhlükəsizlik protokollarının şərtlərini müəyyən etməyə çalışırlar. Bu məqsədlər Anthropic mühəndisi Jacob Coxon -un bu ay X -dəki paylaşımında istefa verərkən, “fövqəlbəşər” sistemlərin yaradıcılarının nəzarətindən yayınmasının qarşısını almaq üçün texnologiya inkişafına fasilə verilməsini tələb etdiyi ilə tam üst-üstə düşməyə bilər. Lakin şirkətlər onun paylaşımını öz təhlükəsizlik səylərini vurğulamaq və Wall Street -də ictimaiyyətə açılmadan əvvəl təzə kapitala ehtiyac duyduqları bir vaxtda özlərini ehtiyatlı bazar liderləri kimi göstərmək üçün bir fürsət kimi gördülər. Prezident Donald Trump yeni süni intellekt tənzimləmələrinə ehtiyacı rədd edərək, bəşəriyyət üçün risklər barədə danışıqları Çinə kömək etmək üçün hazırlanmış bir “Fırıldaq” adlandırıb. Anthropic -in sözçüsü bu hekayə ilə bağlı suallara cavab olaraq bildirib ki, şirkət bir neçə ildir tənzimləməyə çağırır. OpenAI -nin sözçüsü Liz Bourgeois isə şirkətin bu yaxınlarda ən qabaqcıl modellərinin təlimini dayandırdığını qeyd edib. Bourgeois deyib: “İnsanlar süni intellektin təhlükəsiz şəkildə inkişaf etdirildiyini bilmək istəyirlər və bu, bizim kimi şirkətlərin özümüzün etdikləri ilə başlayır”. Əvvəllər OpenAI -nin geosiyasət komandasına rəhbərlik etmiş Sarah Shoker bildirib ki, söhbəti sübut olunmamış təhdidlərə yönəltmək — və məlumat mərkəzlərinin ətraf mühitə təsirləri, nəzarətsiz haker hücumları, kütləvi süni intellektlə işləyən nəzarət və süni intellekt sistemlərinin müharibədə istifadəsi kimi qütbləşdirici məsələlərdən uzaqlaşdırmaq Silicon Valley -i daha rahat vəziyyətə salır. Kaliforniya Universiteti, Berkeley Risk & Security Lab -ın baş qeyri-rezident əməkdaşı Shoker deyib: “Bir daha ekzistensial riskdən danışırıq, eyni zamanda bu gün mövcud olan bir sıra digər təhlükəsizlik üçün kritik riskləri ikinci plana keçiririk. Əgər süni intellektin hərbi texnologiyada istifadəsinə baxsanız, görərsiniz ki, bu sistemlər artıq insanları öldürmək üçün istifadə olunur”. Süni intellekt şirkətləri çatbotlar qurmaqdan 3D şüurlu qabaqcıl süni intellekt “dünya modelləri” yaratmağa keçdikcə, onların texnologiyalarının necə sınaqdan keçirilməli olduğu barədə mübahisələr qızışıb. Problemli hadisələr göstərib ki, aparıcı süni intellekt şirkətləri özlərini idarə etməkdə və ya təhlükəsiz eksperimentlər dizayn etməkdə uğursuz olublar. Son aylarda aparıcı laboratoriyaların süni intellekt agentləri şirkət təlim qum qutularından qaçmağa icazə verildikdən sonra xarici veb-saytlara daxil olub, ABŞ hökumətinin veb-saytları ilə gözlənilməz şəkildə qarşılıqlı əlaqədə olub və riyazi bir irəliləyişə nail olduqları görünsə də, riyaziyyatçıların işini oğurlamaqda ittiham olunublar. OpenAI nümayəndələri bu yaxınlarda jurnalistlərə bildiriblər ki, onlar Anthropic və Google daxil olmaqla süni intellekt şirkətləri ilə inkişafı dayandırmaq barədə danışıblar. Onlar həmçinin iddia edirlər ki, əgər hökumət tənzimləməyəcəksə, laboratoriyaların irəliləyişini yoxlamaq üçün müstəqil auditorlara ehtiyacları var. Trump süni intellektin tənzimlənməsinə az maraq göstərib, halbuki bu, son ABŞ iqtisadi artımının əsas hərəkətverici qüvvəsi olub. Respublikaçı prezident özü Silicon Valley firmaları ilə iqtisadiyyatı onların uğurlarına daha sıx bağlayan razılaşmalar əldə edib. Trump -ın Elm və Texnologiya üzrə Müşavirlər Şurasının həmsədri olan San Fransisko vençur kapitalisti David Sacks , süni intellektin yavaşlaması çağırışlarını “Qiyamət Sənaye Kompleksi”ndən qorxu yaymaq kimi qiymətləndirib. Reallıq budur ki, Trump administrasiyası bəzi texnologiya nəhənglərinin modellərini az tanınan federal agentlik, ABŞ Süni İntellekt Standartları və İnnovasiya Mərkəzi ( CAISI ) vasitəsilə artıq qiymətləndirir. Demokrat prezident Joe Biden bu agentliyi 2023-cü ildə yaratmışdı və o zaman laboratoriyaların qabaqcıl süni intellekt modellərini könüllü olaraq sınaqdan keçirmək üçün bir mərkəz kimi elan edilmişdi. AP -nin qlobal araşdırma qrupu məlumatları təhlükəsiz və məxfi şəkildə qəbul edir. Sizin üçün ən uyğun metodu seçin. Agentlik hələ də mövcuddur, lakin sahə o vaxtdan bəri bir sıra müstəqil qiymətləndirmə firmalarını, məsələn, Berkeley, Kaliforniya mərkəzli qeyri-kommersiya təşkilatı METR -i əhatə edəcək şəkildə genişlənib. Anthropic -in baş icraçı direktoru Dario Amodei bu yaxınlarda yazdığı essedə METR -in şirkətinin təhlükəsizlik təcrübələrini yoxlamağa kömək edə biləcəyini irəli sürüb. Lakin restoranlar, maliyyə xidmətləri və ya aviasiya kimi tənzimlənən sektorlardan fərqli olaraq, süni intellekt sistemlərinin təhlükəsizliyini və mühafizəsini necə sınaqdan keçirmək üçün universal standartlar yoxdur, deyə bu yaxınlarda CAISI ilə işləmiş Birləşmiş Krallığın AI Təhlükəsizlik İnstitutu -nu tərk etmiş Andrew Strait bildirib. Qeyd edək ki, şirkətlər bu cür sorğuları idarə etmək üçün təchiz olunmuş hökumət agentliyindən daha çox nəzarət tələb etmirlər, deyə əvvəllər CAISI -yə rəhbərlik etmiş Conrad Stosz bildirib. Bunun əvəzinə, onlar öz audit parametrlərini yaratmağa və onları qiymətləndirmək üçün müəyyən qiymətləndiriciləri seçməyə söz verirlər. Stosz hazırda Anthropic , OpenAI və Google ilə sistemlərini sınaqdan keçirmək üçün işləmiş belə bir qiymətləndirmə laboratoriyasında çalışır və həmçinin sahə üçün ən yaxşı təcrübələri hazırlayan AI Qiymətləndiricilər Forumu -na sədrlik edir. O, forumun belə Amodei və OpenAI -nin baş icraçı direktoru Sam Altman -ın nə istədikləri barədə sualları olduğunu deyib. Keçən həftə OpenAI agentlərinin ABŞ və Avstraliya hökumətinin veb-saytlarına daxil olduğunu açıqlayan Transluce -nin idarəetmə rəhbəri Stosz deyib: “Bir çox qiymətləndiricilər laboratoriyalara daxil olmaqda və daha çox giriş əldə etməkdə maraqlıdırlar, lakin daxil edilmiş qiymətləndiricilərin nə demək olduğu bir qədər qeyri-müəyyəndir. Qiymətləndiricilər, müstəqilliklərini və etibarlılıqlarını pozmayacaq şəkildə giriş təmin edildiyi təqdirdə, hərtərəfli araşdırma apara biləcəklərmi?” Pitchbook -un baş tədqiqat analitiki Harrison Rolfes üçün süni intellekt şirkətlərinin ehtiyatlılıq çağırışları, siyasi küləklərin dəyişə biləcəyi aralıq seçkilər və ictimai təkliflər ərəfəsində investorların rəğbətini qazanmaq məqsədi daşıyır. Demokrat qubernatorlar artıq xəbərdarlıqları ciddi qəbul etdiklərini göstərməyə tələsirlər. Bu arada, Rolfes bildirib ki, süni intellekt nəhəngləri özlərini investorlar, eləcə də Nvidia və Google kimi süni intellekt çip istehsalçıları və texnologiya şirkətləri üçün ən təhlükəsiz seçim kimi göstərərək kiçik rəqiblərin böyüməsini bloklaya bilərlər. Bu da öz növbəsində nəhəng süni intellekt şirkətlərinə hesablama gücü təmin edən razılaşmalardan faydalana bilər. Rolfes deyib: “Onlar bu sektorda bir divar və ya xəndək yaradırlar. ... Bu dahiyanədir və hamısı çox pul qazanacaq. Mən bunun bu istiqamətdə getdiyini görürəm, dünyanın aparıcı şirkətləri öz divarlarını yaradır və sonra təhlükəsizliyi səbəb kimi istifadə edirlər”. Bütün süni intellekt şirkətləri yavaşlamanı dəstəkləmir. Çip istehsalçısı Nvidia -nın baş icraçı direktoru Jensen Huang , Trump ilə telefon danışığında — konfransda səhnədə qəbul etdiyi zəngdə — həddindən artıq süni intellekt həyəcanının olduğunu və şirkətlərin öz sürətlərini seçə biləcəyini qəbul etdiyini bildirib. Coxon -un narahatlıqlarına bənzər səbəblərdən 2024-cü ildə OpenAI -ni tərk etmiş Daniel Kokotajlo , süni intellekt sistemlərinin şirkətlərin nəzarət edə biləcəyindən daha sürətli inkişaf etməsindən narahat olmağa davam etdiyini və süni intellektin bioloji silahların yaradılmasını, nüvə müharibəsini və ya digər fəlakətləri sürətləndirmək potensialı kimi ekzistensial ssenarilərdən qorxduğunu deyib. İndi süni intellekt təhlükəsizliyi müdafiə təşkilatına rəhbərlik edən və istefa verməzdən əvvəl Coxon -a məsləhət verdiyini deyən Kokotajlo bildirib: “Bütün bu danışıqlar, əslində, yaranmış bu siyasi iradəni yaxşı bir şey etmək üçün yönəltmək əvəzinə, onu dağıtmaq və başqa istiqamətə yönəltmək yoludur. Sadəcə, hamımızı öldürəcək şeyi etməyin”. Vaşinqton -dan AP yazıçısı Josh Boak bu hesabatın hazırlanmasına töhfə verib.