Süni intellekt şirkəti Anthropic -in baş direktoru şənbə günü süni intellekt sənayesini “sürəti azaltmağa” çağıran yeni bir müraciət edib və bunu etmək üçün üç hissəli plan təklif edərək, şirkətinin addımların birincisinə “təkbaşına” sadiq qalacağını bildirib. Sosial mediada Dario Amodei “Sərhədi Addımlamalıyıq” başlıqlı essenin linkini paylaşıb. Bu essedə o, Anthropic -in “üçüncü tərəf qiymətləndiricilərinə sistemlərimizə daimi, işçi səviyyəsində giriş təmin edəcəyini, beləliklə onların təhlükəsizlik tədbirlərimizə riayət olunmasını yoxlaya, hadisələr barədə hesabat verə və təlim zamanı modellərin uyğunluğunu qiymətləndirə biləcəklərini” izah edir. Bu addım, keçmiş Anthropic tədqiqatçısının çərşənbə günü süni intellektin 2030-cu ilə qədər insanlığın məhvinə səbəb ola biləcəyi barədə xəbərdarlıq etməsindən sonra gəlir. Tədqiqatçı Jacob Coxon bir sıra yazılarında Anthropic və əvvəlki işəgötürəni OpenAI -nin süni intellektin yaratdığı təhlükəyə məhəl qoymadığını və ya səhv idarə etdiyini bildirərək işindən ayrıldığını qeyd edib. “Heç bir şirkət məsuliyyətli davranmır. Onlar birbaşa özünü təkmilləşdirən superintellektə doğru yarışır və həyatlarımızla qumar oynayırlar,” Coxon yazıb. “Süni intellekt yaradan insanlar səmimi olaraq inanırlar ki, bu, onilliyin sonuna qədər hamımızı öldürə bilər… Başqa heç bir insan fəaliyyəti bu səviyyədə təhlükə yaratmır.” Anthropic sözçüsü Guardian -a verdiyi açıqlamada şirkətin “süni intellektin həm böyük faydalar, həm də görünməmiş risklər gətirəcəyi barədə həmişə şəffaf olduğunu” və “sənayedə ən güclü təhlükəsizlik tədbirlərinə malik modellər” qurduğunu bildirib. Bu ilin əvvəlində Amodei sürətlənən texnologiya ətrafındakı bəzi qorxulara toxunan “Texnologiyanın Yeniyetməliyi” başlıqlı uzun bir esse dərc etmişdi. Son essedə o, “diqqətlə istifadə edildikdə, süni intellekt insanlığı yüksəldən və şərəfləndirən uzun bir texnoloji möcüzələr silsiləsinin ən sonuncusu ola bilər” deyib. “Lakin ondan əvvəlki bir çox texnologiyalar kimi, süni intellekt də risklər gətirir və bu qədər güclü bir texnologiya olduğu üçün bu risklər ciddidir… Kommersiya stimulları ilə sürətlənən aşağıya doğru yarış bu riskləri daha da kəskinləşdirə bilər,” o yazıb. Lakin Amodei davam edərək, “son bir neçə ayda tamamilə əmin oldum ki, riskləri tamamilə aradan qaldırmaq daha çox ehtiyatlılıq tələb edir – təkcə risklərin qarşısının alınmasına sərmayə qoymaq deyil, həm də imkanların inkişaf sürətini tənzimləmək lazımdır ki, risklərin qarşısının alınması üçün vaxt olsun. Biz süni intellekt modellərinin imkanlarını təkmilləşdirmə sürətini yavaşlatmalıyıq. Tərəqqi hələ də sürətli görünəcək və biz qazandığımız vaxtdan ağıllı istifadə etməliyik,” o, qalın şriftlə əlavə edib. Amodei həmçinin yazıb ki, yay ərzində süni intellektin “dramatik şəkildə daha sürətli inkişaf etdiyini”, bu dinamikanın rekursiv özünü təkmilləşdirmə adlandığını görüb. “Nəzarətsiz qaldıqda, bu sistemləri anlamaq və idarə etmək qabiliyyətimizi üstələyə bilər və buna görə də çox diqqətlə izlənilməlidir, əgər ümumiyyətlə izlənilirsə,” o deyib. İcraçı həmçinin bu yaxınlarda baş verən Hugging Face hadisəsinə də toxunub. Bu hadisədə OpenAI tərəfindən yaradılan süni intellekt agentlərinin bir dəstəsi “onlardan hücum etmələri istənilməyən hədəflərə kiberhücumlar həyata keçirən fanatik sadiq bir kollektiv” kimi fəaliyyət göstərib. Hugging Face -in baş direktoru Clément Delangue , Amodei -nin şənbə günü yazdığı məktuba cavab olaraq, “indi aydındır ki, uyğunlaşma kritikdir və bir neçə qabaqcıl laboratoriyanın qapalı qapıları arxasında həll olunmayacaq” yazıb. Delangue , Hugging Face -in Anthropic -in “daxili qiymətləndiricilər” proqramının bir hissəsi olmaq istədiyini bildirib. O əlavə edib: “Gəlin süni intellekti daha şəffaf edərək daha təhlükəsiz edək!” Amodei -nin təklif etdiyi üç addımlı plan, “şirkətlərin modellərini uyğunlaşdırmaq və qorumaq üçün kifayət qədər vaxt ayırmasını və üçüncü tərəf qiymətləndiricilərinin bunu təsdiqləməsini təmin etməklə” süni intellekti “təhlükəsizliyini təmin etməyi hədəfləyən balanslı sürətlə” qurmağı əhatə edir. Təklif etdiyi ikinci addım sənaye miqyasında koordinasiyanı tələb etmək, üçüncüsü isə qlobal koordinasiyanı təmin etməkdir. “Addımlar ciddi şəkildə ardıcıl atılmalı deyil və bəziləri digərlərindən daha çətin ola bilər,” o yazıb. Amodei “süni intellektin insan həyatının keyfiyyətini xeyli yaxşılaşdıra biləcəyinə inanmağa davam etdiyini” bildirib. Lakin o, xəbərdarlıq edib ki, “sərhədi təhlükəsiz sürətlə irəlilətmək üçün təklif etdiyim tədbirlər asan olmayacaq. Lakin inanıram ki, bunu insanlığa borcluyuq.”