Anthropic -in baş direktoru Dario Amodei bu yaxınlarda süni intellekt sənayesini model imkanlarının inkişaf sürətini azaltmağa çağırıb və potensial riskləri idarə etmək üçün daha çox vaxt yaratmağa yönəlmiş üç hissəli plan təklif edib. Onun bəyanatı, həm Anthropic , həm də OpenAI -də işləmiş 27 yaşlı süni intellekt tədqiqatçısı Jacob Coxon -un istefa verdikdən və çərşənbə günü süni intellektin 2030-cu ilə qədər insanlığın məhvinə səbəb ola biləcəyi barədə xəbərdarlıq etməsindən sonra gəldi. SpaceX və Tesla -nın rəhbəri Elon Musk -dan OpenAI -nin baş direktoru Sam Altman -a, Google DeepMind -in həmtəsisçisi və sədri, Alphabet -in baş elmi işçisi Demis Hassabis -ə qədər bir çoxları Amodei -nin süni intellekt model imkanlarının inkişaf sürətinin yavaşladılması çağırışını dəstəklədi. Əsas suallara sürətli cavablar •5 SUAL 1 Dario Amodei süni intellektin inkişafını yavaşlatmaq istəməsinin əsas səbəbləri nələrdir?⌵ Dario Amodei süni intellekt sistemlərinə nəzarəti itirmək, sui-istifadə riskləri və ciddi iqtisadi pozulmalarla bağlı narahatlıqlar səbəbindən süni intellektin inkişafını yavaşlatmağı müdafiə edir. O, süni intellekt texnologiyasını inkişaf etdirərkən təhlükəsizliyi təmin etmək üçün balanslı yanaşmanın zəruriliyini vurğulayır. 2 Dario Amodei süni intellektin inkişafında daha yavaş sürəti necə tətbiq etməyi təklif edir?⌵ Amodei , müstəqil üçüncü tərəf qiymətləndiricilərinə süni intellekt sistemlərinə davamlı giriş vermək, əməliyyat mükəmməlliyinə diqqət yetirmək və təhlükəsizliyi təmin etmək üçün sınaq və qiymətləndirmə proseslərini gücləndirməyi əhatə edən üç hissəli plan təklif edir. 3 Dario Amodei -yə görə, süni intellektin sürətli inkişafının potensial nəticələri nələrdir?⌵ Amodei , süni intellekt texnologiyasının sürətli inkişafının süni intellekt sistemlərinə nəzarətin itirilməsi, kiberhücumlar və bioterrorizm potensialı daxil olmaqla, insan təhlükəsizliyini təhdid edə biləcək fəlakətli risklərə səbəb ola biləcəyi barədə xəbərdarlıq edir. 4 Jacob Coxon -un istefası niyə Dario Amodei -dən reaksiya doğurdu?⌵ Jacob Coxon , süni intellekt sənayesinin özünü təkmilləşdirən superintellektə doğru yarışdığına dair narahatlıqlar səbəbindən Anthropic -dən istefa verdi və bunun insanlığın məhvinə səbəb ola biləcəyini iddia etdi ki, Amodei bunu diqqətə layiq ciddi təhdid kimi qəbul etdi. 5 'Sərhədi sürətləndirməliyik' essesi süni intellektin gələcəyi baxımından nəyi vurğulayır?⌵ Essedə Amodei , süni intellektin insan həyatını əhəmiyyətli dərəcədə yaxşılaşdırmaq potensialının ikili təbiətini, eyni zamanda ciddi risklər yaratdığını müzakirə edir və texnoloji inkişafla yanaşı təhlükəsizliyə üstünlük verən ehtiyatlı bir yanaşmanı müdafiə edir. Budur Dario Amodei kimdir və süni intellekt sənayesinin yavaşlaması haqqında nə dedi. Dario Amodei -nin Xalis Sərvəti Dario Amodei , süni intellekt sistemləri qurmağa həsr olunmuş ictimai faydalı korporasiya olan Anthropic -in həmtəsisçisi və baş direktorudur. Onun onlayn profili göstərir ki, Dario əvvəllər OpenAI -də Tədqiqat üzrə Vitse-Prezident vəzifəsində çalışıb və burada GPT-2 və GPT-3 kimi böyük dil modellərinin inkişafına rəhbərlik edib. O, həmçinin insan rəyindən gücləndirici öyrənmənin həmmüəllifidir. OpenAI -yə qoşulmazdan əvvəl Google Brain -də Baş Tədqiqatçı kimi çalışıb. Dario , Princeton Universiteti ndən Hertz Fellow kimi biofizika üzrə doktorluq dərəcəsini alıb və Stanford Universiteti Tibb Məktəbi ndə postdoktorant tədqiqatçı olub. Forbes -ə görə, Dario Amodei -nin real vaxt xalis sərvəti 15.5 milyard dollar dır. Bu arada, Bloomberg onun xalis sərvətini 7.98 milyard dollar olaraq qiymətləndirir. O, hazırda Forbes siyahısında dünya liderləri arasında 193-cü yerdədir. Bloomberg -in məlumatına görə, onun sərvəti, süni intellekt startapını 965 milyard dollar dəyərində qiymətləndirən böyük bir maliyyələşdirmə raundundan sonra Anthropic -in həmtəsisçisi və baş icraçı direktoru kimi təxminən 1 faizlik payından gəlir. Dario Amodei : Niyə xəbərlərdədir və nə dedi? Keçmiş Anthropic tədqiqatçısı Jacob Coxon keçən həftə sərhəd laboratoriyalarının özünü təkmilləşdirən superintellektə doğru ehtiyatsızca yarışdığını söyləyərək mübahisəyə səbəb oldu. O, X -də 125 milyondan çox baxış toplayan viral bir yazıda “...onilliyin sonuna qədər hamımızı öldürə bilər” yazdı. Anthropic -in baş direktoru Dario Amodei Coxon -un şərhlərinə münasibət bildirdi. Süni intellektin Coxon -un əvvəllər təklif etdiyi kimi bütün insanları öldürə biləcəyinə inanıb-inanmadığı soruşulduqda, Amodei dedi: “Maraqlıdır, mən Jacob -la razılaşmadığımdan daha çox razıyam.” “Bu maraqlı bir istefadır, çünki o gedəndə dedi: 'Məncə, Anthropic ən məsuliyyətli oyunçudur. Məncə, Anthropic bu məsələlərdən ən çox xəbərdardır.' O, bizi çağırmırdı. O, sənayenin bütövlükdə çox sürətli hərəkət etmə dinamikasını çağırırdı,” Anthropic -in baş direktoru CNN -ə verdiyi müsahibədə dedi. Öz perspektivini genişləndirən Amodei əlavə etdi: “İndi, məncə, artıq dedim, bu şərtsiz ehtimallar, mən əvvəllər bu şəkildə danışırdım, çünki bu, ifadə etmək üçün asan bir yoldur, məncə, bəzi şeylərin səhv getmə ehtimalı var, lakin bu o qədər də yüksək deyil.” Əvvəllər X -dəki bir yazıda Amodei , 'Sərhədi sürətləndirməliyik' başlıqlı bir essenin linkini paylaşdı və burada Anthropic -in “üçüncü tərəf qiymətləndiricilərinə sistemlərimizə daimi, işçi səviyyəsində giriş təmin edəcəyini, beləliklə onların təhlükəsizlik tədbirlərimizə riayət etməyi yoxlaya, hadisələr barədə hesabat verə və təlim zamanı modellərin uyğunluğunu qiymətləndirə biləcəklərini” izah etdi. “Sərhədi sürətləndirməliyik: Süni intellekt sənayesinin niyə yavaşlamalı olduğu barədə yeni bir esse yazdım, bunu etmək üçün üç hissəli planla,” o, X -də yazdı. Sam Altman -dan Elon Musk -a: Kim nə dedi? OpenAI -nin rəhbəri Sam Altman Amodei ilə razılaşdı və “işçi kimi girişi olan müstəqil qiymətləndiricilər” təklifini qəbul etməyə söz verdi. “Mən Dario ilə sərhədi sürətləndirməyimiz lazım olduğu barədə razıyam. Bu, son həftələrdə OpenAI -də apardığımız müzakirələrin əsas mövzusu olub,” Altman dedi. “İşçi kimi girişi olan müstəqil qiymətləndiricilərə sahib olmağa sadiq qalmaq əla fikirdir və biz də eyni şeyi edəcəyik. Tezliklə daha çox məlumat paylaşacağıq,” o əlavə etdi. xAI Corp -u idarə edən Elon Musk X -də dedi: “ Dario haqlıdır.” Anthropic -ə Məsləhətçi kimi fəaliyyət göstərən keçmiş Böyük Britaniya Baş Naziri Rishi Sunak da Amodei -nin arqumentinə reaksiya verdi və X -də dedi: “ Dario bu gün sərhəd inkişafının sürətini yavaşlatmağa çağıraraq haqlıdır ki, təhlükəsizlik buna uyğunlaşa bilsin və sənaye daxilində bu barədə konsensusun yaranmağa başladığını görmək yaxşıdır. Laboratoriyaların özləri sürət həddi tələb etdikdə, hökumətlər dinləməlidir.” Bu arada, Vermont dan olan ABŞ-ın yüksək səviyyəli senatoru Bernie Sanders X -də bildirdi: “ Dario Amodei , Elon Musk və Sam Altman indi süni intellektin inkişafını yavaşlatmalı və “sərhədi sürətləndirməliyik” fikri ilə razılaşırlar. Bu bir başlanğıcdır, lakin kifayət deyil. Bir uçuruma doğru yarışarkən, sadəcə qaz pedalını boşaltmırsan. Əyləci basırsan.” “İnsanlığın gələcəyi təhlükə altında olanda, qabaqcıl süni intellektin inkişafına FASİLƏ verməli və süni superintellektə – hər hansı bir insandan daha ağıllı və nəzarətimizdən kənarda müstəqil fəaliyyət göstərə bilən süni intellekt beyninə qadağa qoymalıyıq. Qarşıdan gələn süni intellekt sammitində Trump və Xi , çox gec olmadan süni intellektə fasilə vermək və superintellekti qadağan etmək üçün bir müqavilə müzakirə etməlidirlər,” qanunverici əlavə etdi.