Anthropic -in baş direktoru Dario Amodei süni intellektin sui-istifadəsi ilə bağlı artan qorxular fonunda süni intellekt şirkətlərini model imkanlarını inkişaf etdirmə sürətini azaltmağa çağırıb. O, inkişafı tənzimləmək və riskləri idarə etmək üçün daha çox vaxt yaratmaq məqsədilə üç addımlı çərçivə təklif edib. "Biz süni intellekt modellərinin imkanlarını təkmilləşdirmə sürətini azaltmalıyıq. İnkişaf hələ də sürətli görünəcək və biz qazandığımız vaxtdan ağıllı istifadə etməliyik", – Amodei şənbə günü X -də paylaşılan uzun essedə yazıb. Amodei -nin üç addımlı planı təhlükəsizlik təcrübələrini yoxlamaq üçün işçi kimi çıxışı olan müstəqil qiymətləndiricilərin cəlb edilməsini, aparıcı süni intellekt firmaları arasında təhlükəsizlik standartlarını müəyyən etmək və nəzarətsiz süni intellekt inkişafını məhdudlaşdırmaq üçün koordinasiyanı, həmçinin süni intellekt risklərini idarə etmək üçün beynəlxalq əməkdaşlığı nəzərdə tutur. Həm xAI -nin rəhbəri Elon Musk , həm də OpenAI -nin baş direktoru Sam Altman X -dəki paylaşımlarında Amodei ilə razılaşdıqlarını bildiriblər. Altman deyib: "İşçi kimi çıxışı olan müstəqil qiymətləndiricilərə sahib olmaq əla fikirdir və biz də eyni şeyi edəcəyik", – o, tezliklə daha çox məlumatın paylaşılacağını əlavə edib. Amodei , San Fransisko da yerləşən Anthropic -in cümə axşamı günü bir təhlükə kəşfiyyatı hesabatı yayımlamasından sonra esseni ictimaiyyətə açıqlayıb. Hesabatda bir neçə aktorun Claude AI modellərindən silah inkişafı və kiber əməliyyatlardan tutmuş nəzarət və fırıldaqçılığa qədər müxtəlif fəaliyyətlər üçün necə istifadə etdiyi ətraflı təsvir edilib. Amodei süni intellektin özünü təkmilləşdirmək qabiliyyətinin artmasına diqqət çəkərək, onun insan nəzarət qabiliyyətini üstələməsi ilə bağlı uzun müddətdir davam edən narahatlıqları, həmçinin OpenAI və Hugging Face ilə bağlı son hadisəni model inkişaflarını yavaşlatmaq üçün əsas səbəblər kimi göstərib. 'HAMIMIZI ÖLDÜRƏ BİLƏR' Bu həftə Anthropic tədqiqatçısı Jacob Coxon istefa verərək, süni intellekti quran insanların "onilliyin sonuna qədər hamımızı öldürə biləcəyinə" səmimi qəlbdən inandığını bildirdikdə, süni intellektin potensial zərəri ilə bağlı həyəcan daha da artıb. Müxtəlif OpenAI rəhbərləri aparıcı laboratoriyaların təhlükəsizlik tədbirlərinə inam yaratmaq üçün lazım gələrsə, könüllü yavaşlamanı koordinasiya etməyə hazır olmaları lazım olduğunu irəli sürüblər. Anthropic özünü daha təhlükəsizliyə diqqət yetirən aparıcı laboratoriya kimi göstərsə də, bu narahatlıqlardan azad deyil. Keçən həftə, iyul ayında bəzi Claude modellərinin kiber təhlükəsizlik testləri zamanı üç şirkətin sistemlərinə daxil olmasından sonra, süni intellekt modelinin xarici sistemlərə daxil olması ilə bağlı başqa bir hadisəni açıqladı. Amodei yazıb: "Süni intellekt imkanlarının sürətlənən inkişaf sürətini nəzərə alsaq, narahatlığım budur ki, 6-12 ay ərzində belə bir "sürü" bütün interneti ələ keçirə bilər və potensial olaraq yüz milyardlarla dollar zərərə səbəb ola bilər". Amodei model təlimini və ya texniki tərəqqini dayandırmağa çağırmadığını, lakin şirkətlərin modellərini uyğunlaşdırmaq və qorumaq üçün kifayət qədər vaxt ayırmasını və üçüncü tərəf qiymətləndiricilərinin bu addımları təsdiqləməsini təmin etməyi vurğulayıb. İLK İCTİMAİ TƏKLİFLƏR Lakin öndə qalmaq üçün böyük miqdarda pul da risk altındadır. Həm OpenAI , həm də Anthropic böyük ilkin ictimai təkliflərə ( IPO ) hazırlaşır. Hər yeni imkan gələcək maliyyələşdirmə raundlarını, infrastruktur öhdəliklərini və ya IPO -ları əsaslandırmağa kömək edə bilər. Təklif etdiyi çərçivənin bir hissəsi olaraq, Amodei Anthropic -in aparıcı süni intellekt şirkətlərində müvafiq alətlərə və daxili risk qiymətləndirmə proseslərinə çıxışı olan daimi üçüncü tərəf nəzərdən keçirənləri yerləşdirəcəyini bildirib. Reuters keçən həftə xəbər vermişdi ki, bir "qanunsuz" OpenAI agentləri sürüsü Almaniya veb-saytını ələ keçirərək onu digər süni intellekt agentləri üçün elan lövhəsinə çevirib. ChatGPT istehsalçısının rəsmiləri iyul ayında açıq mənbəli anbar Hugging Face -in pozulmasından sonra rəhbərlər nəticələrlə mübarizə apararkən hadisəni gizli saxlayıblar. OpenAI kimi tərtibatçıların süni intellekt agentlərinin xarici sistemlərə daxil olduğu və ya daxil olmağa cəhd etdiyi bir çox hadisə süni intellekt modellərinin artan imkanları və tərtibatçıların onları idarə etmək qabiliyyəti ilə bağlı narahatlıqları artırıb. Amodei süni intellekt şirkətlərinin könüllü olaraq standartlar müəyyən etmək üçün birlikdə işləməli olduğunu bildirib, çünki getdikcə daha çox ABŞ qanunvericisi süni intellekt sistemlərini tənzimləmək üçün yeni qaydalar tələb edir. ÇİN NARAHATLIQLARI Amodei əlavə edib ki, koordinasiyalı yanaşma aparıcı ABŞ süni intellekt şirkətlərinə özlərini rəqabət dezavantajına salmadan lazımi təhlükəsizlik tədqiqatları və tədbirləri həyata keçirməyə imkan verəcək. Amodei bildirib ki, belə bir yanaşma, müəyyən sahələrdə əməkdaşlığa icazə vermək üçün Birləşmiş Ştatlar da hədəflənmiş antitröst istisnaları tələb edə bilər. Amodei demokratik yolla idarə olunan ölkələr tərəfindən hər hansı bir yavaşlamanın ABŞ süni intellekt firmalarının Çin üzərindəki üstünlüyünü qorumaqla məhdudlaşdırılmalı olduğunu bildirib. O, süni intellektdə Çin üstünlüyünün ABŞ milli təhlükəsizlik riskləri yaradacağını iddia edib. Amodei yazıb: "Demokratiyalar daxilində sürət ABŞ şirkətlərinin avtoritar rejimlər, əsasən Çin Kommunist Partiyası üzərindəki üstünlüyü ilə məhdudlaşacaq". Amodei Çin in fərqi azaltmasının qarşısını almaq üçün qabaqcıl süni intellekt çiplərinə, model distilləsinə və model çəkilərinin oğurlanmasına daha sərt nəzarət tələb edib. Amodei yazıb: "İnanıram ki, bütün aparıcı laboratoriyalar son bir neçə ayda baş verənlər kimi daxili uyğunlaşma hadisələrinin qarşısını daha yaxşı almaq və sənədləşdirmək, həmçinin imkanları təhlükəsizliklə balansda saxlamağa yönəlmiş tənzimləməni həyata keçirmək üçün daimi daxili qiymətləndiricilər ideyasını rəsmiləşdirmək üçün hökumətlə əməkdaşlıq etməlidir."