Dünyanın ən dəyərli süni intellekt startapı olan Anthropic , süni intellektin inkişafında qlobal dondurma tələb edib və insanların texnologiya üzərində nəzarəti itirmək riski ilə üzləşdiyini xəbərdar edib. Claude çatbotunun arxasında duran şirkət, digərlərinin də eyni şeyi edəcəyinə əmin olarsa, daha güclü sistemlər üzərində işi dayandırmağı təklif edib. Şirkətin rəhbərləri yazıblar: “Əgər bu texnologiyanın inkişafını effektiv şəkildə yavaşlatmaq mümkün olsaydı ki, onun böyük təsirləri ilə məşğul olmaq üçün özümüzə daha çox vaxt verək, düşünürük ki, bu, yəqin ki, yaxşı bir şey olardı”. Onlar güclü süni intellekt sistemlərinin yüksəlişini “silahlara nəzarət problemi” ilə müqayisə edib və texnologiyanı cilovlamaq üçün məhdud vaxtın olduğunu xəbərdar ediblər. Anthropic bu yaxınlarda ChatGPT istehsalçısı OpenAI -ni geridə qoyaraq 965 milyard dollar (719 milyard funt sterlinq) dəyəri ilə dünyanın ən dəyərli süni intellekt şirkəti olub. Şirkət, ən güclü sistemi olan Mythos -u dağıdıcı kiberhücumlar həyata keçirmək üçün istifadə edilə biləcəyi qorxusu ilə ictimaiyyətə təqdim etməyib. Cümə axşamı gecəsi dərc olunan essedə, Anthropic -in tədqiqat şöbəsinin rəhbəri Marina Favaro və prezidenti Jack Clark , süni intellekt texnologiyasının sistemlərin özlərini inkişaf etdirəcəyi nöqtəyə yaxınlaşdığını bildiriblər. Onlar “rekursiv özünü təkmilləşdirmə” kimi tanınan bu anın imkanlarda partlayışa səbəb ola biləcəyini, lakin həm də insanların süni intellekt sistemlərinə nəzarət edə bilməməsi demək ola biləcəyini söyləyiblər. Anthropic özünü texnologiyanı təhlükəsiz etməyə ən çox sadiq olan süni intellekt şirkəti kimi mövqeləndirib, eyni zamanda təhlükəli sistemlərə səbəb ola biləcəyini söylədiyi tədqiqat nailiyyətləri də əldə edir. Onun baş icraçı direktoru Dario Amodei , “işlərin həqiqətən, həqiqətən pis getməsi” ehtimalının 25% olduğunu bildirib. Cümə axşamı şirkət dedi: “Əgər yavaşlama sadəcə ən az ehtiyatlı aktyorların texnoloji cəhətdən çatmasına imkan verərsə, bu, hər kəsi daha az təhlükəsiz vəziyyətdə qoya bilər. İnanırıq ki, cəmiyyət strukturlarının və uyğunlaşma tədqiqatlarının ayaqlaşa bilməsi üçün qabaqcıl süni intellekt inkişafını yavaşlatmaq və ya müvəqqəti dayandırmaq imkanının olması dünya üçün yaxşı olardı.” Lakin, ABŞ və Çin arasında süni intellekt üzərində şiddətli rəqabətə işarə edərək, qlobal dondurmanı koordinasiya etməyin olduqca çətin olacağını xəbərdar etdi. “Mənalı bir yavaşlama və ya fasilə, bir neçə ölkədə, sərhəddə və ya ona yaxın olan, yaxşı resurslara malik bir neçə laboratoriyanın eyni şərtlər altında dayanmağa razılaşmasını tələb edərdi,” deyildi. “Bu, həm də hər birinin digərlərinin həqiqətən dayandığını yoxlaya bilməsini tələb edərdi… Təlim proseslərini gizlətmək raket siloslarından qat-qat asandır.” Favaro və Clark , Anthropic -dəki işçilərin 2021-2025 -ci illər arasında olduğundan səkkiz dəfə çox kod istehsal etdiyini və süni intellektin yeni ideyalar təklif etməkdə və tədqiqat planlaşdırmaqda daha yaxşı olduğunu, bunun da özünü quran süni intellektə doğru bir addım olduğunu söylədilər.