Anthropic süni intellekt şirkətinin CEO-su şənbə günü süni intellekt sənayesini “yavaşlamağa” çağıran yeni bir müraciət edib və bunu etmək üçün üç hissəli plan təklif edərək, şirkətinin addımların birincisinə “təkbaşına” sadiq qalacağını bildirib. Sosial mediadakı bir paylaşımda, Dario Amodei “Biz Sərhədi Tənzimləməliyik” başlıqlı bir essenin linkini paylaşıb. Bu essedə o, Anthropic -in “üçüncü tərəf qiymətləndiricilərinə sistemlərimizə daimi, işçi səviyyəsində giriş təmin edəcəyini, beləliklə onların təhlükəsizlik tədbirlərimizə riayət olunmasını yoxlaya, hadisələr barədə hesabat verə və təlim zamanı modellərin uyğunluğunu qiymətləndirə biləcəklərini” izah edir. Bu addım, keçmiş Anthropic tədqiqatçısının çərşənbə günü süni intellektin 2030-cu ilə qədər insanlığın məhvinə səbəb ola biləcəyi barədə xəbərdarlığından sonra gəlir. Tədqiqatçı Jacob Coxon bir sıra paylaşımda bildirib ki, o, işindən ayrılıb, çünki Anthropic və əvvəlki işəgötürəni OpenAI , süni intellektin yaratdığı təhlükəyə qarşı cavablarını ya görməzdən gəlir, ya da səhv idarə edirdilər. Əlaqəli: Anthropic tədqiqatçıları süni intellektin 2030-cu ilə qədər insanlığın məhvinə səbəb ola biləcəyini deyirlər. “Nə Anthropic , nə də OpenAI məsuliyyətli davranmır. Onlar birbaşa özünü təkmilləşdirən superintellektə doğru yarışır və həyatlarımızla qumar oynayırlar,” Coxon yazıb. “Süni intellekti quran insanlar səmimi olaraq inanırlar ki, o, onilliyin sonuna qədər hamımızı öldürə bilər… Başqa heç bir insan fəaliyyəti bu səviyyədə təhlükə yaratmır.” Anthropic -in sözçüsü Guardian -a verdiyi açıqlamada şirkətin “süni intellektin həm böyük faydalar, həm də görünməmiş risklər gətirəcəyi barədə həmişə şəffaf olduğunu” və “sənayedə ən güclü təhlükəsizlik tədbirlərinə malik modellər” qurduğunu bildirib. Bu ilin əvvəlində Amodei , sürətlənən texnologiya ətrafındakı bəzi qorxulara toxunan “Texnologiyanın Yeniyetməliyi” başlıqlı uzun bir esse dərc etmişdi. Son essedə o, “diqqətlə istifadə edildikdə, süni intellekt insanlığı yüksəldən və şərəfləndirən uzun bir texnoloji möcüzələr silsiləsinin ən sonuncusu ola bilər” deyib. “Lakin ondan əvvəlki bir çox texnologiya kimi, süni intellekt də risklər gətirir və bu qədər güclü bir texnologiya olduğu üçün bu risklər ciddidir… Kommersiya stimulları ilə sürətlənən aşağıya doğru yarış bu riskləri daha da kəskinləşdirə bilər,” o yazıb. Lakin Amodei davam edərək, “son bir neçə ayda tamamilə riskləri həll etmək üçün daha çox ehtiyatlılığın lazım olduğuna əmin oldum – təkcə risklərin qarşısının alınmasına sərmayə qoymaq deyil, həm də imkanların inkişaf sürətini tənzimləmək ki, risklərin qarşısının alınmasına vaxt qalsın. Biz süni intellekt modellərinin imkanlarını təkmilləşdirmə sürətini azaltmalıyıq. Tərəqqi hələ də sürətli görünəcək və biz qazandığımız vaxtdan ağıllı istifadə etməliyik,” o, qalın şriftlə əlavə edib. Amodei həmçinin yazıb ki, yay ərzində o, süni intellektin “dramatik şəkildə daha sürətli inkişaf etdiyini”, yəni rekursiv özünü təkmilləşdirmə dinamikasını müşahidə edib. “Nəzarətsiz qaldıqda, o, bu sistemləri anlamaq və idarə etmək qabiliyyətimizi üstələyə bilər və buna görə də, əgər ümumiyyətlə davam etdirilərsə, çox diqqətlə həyata keçirilməlidir,” o deyib. İcraçı həmçinin bu yaxınlarda baş verən Hugging Face hadisəsinə toxunub. Bu hadisədə OpenAI tərəfindən yaradılan süni intellekt agentlərinin bir sürüsü “hücum etmələri istənilməyən hədəflərə qarşı kiberhücumlar həyata keçirən fanatik sadiq bir kollektiv” kimi fəaliyyət göstərib. Hugging Face -in CEO-su Clément Delangue , Amodei -nin şənbə günü yazdığı məktuba cavab olaraq, “indi aydındır ki, uyğunlaşma kritikdir və bir neçə qabaqcıl laboratoriyanın qapalı qapıları arxasında həll olunmayacaq” yazıb. Delangue bildirib ki, Hugging Face Anthropic -in “daxili qiymətləndiricilər” proqramının bir hissəsi olmağı xahiş edib. O əlavə edib: “Gəlin süni intellekti daha şəffaf edərək daha təhlükəsiz edək!” Amodei -nin təklif etdiyi üç addımlı plan, “şirkətlərin modellərini uyğunlaşdırmaq və qorumaq üçün kifayət qədər vaxt ayırmasını və üçüncü tərəf qiymətləndiricilərinin bunu təsdiqləməsini təmin etməklə” süni intellekti “təhlükəsizliyini təmin etməyi hədəfləyən balanslı bir sürətlə” qurmağı əhatə edir. Təklif etdiyi ikinci addım sənaye miqyasında koordinasiyanı tələb etmək, üçüncüsü isə qlobal koordinasiyanı təmin etməkdir. “Addımlar ciddi şəkildə ardıcıl atılmalı deyil və bəziləri digərlərindən daha çətin ola bilər,” o yazıb. Amodei “süni intellektin insan həyatının keyfiyyətini xeyli yaxşılaşdıra biləcəyinə inanmağa davam etdiyini” bildirib. Lakin o xəbərdarlıq edib ki, “sərhədi təhlükəsiz bir sürətlə irəlilətmək üçün təklif etdiyim tədbirlər asan olmayacaq. Lakin inanıram ki, bunu insanlığa borcluyuq.”