İyunun 4-də (Reuters) Anthropic şirkəti cümə axşamı bildirdi ki, qabaqcıl Süni İntellekt (Sİ) tərtibatçıları, inkişaf etmiş sistemlər cəmiyyətin riskləri idarə edə biləcəyindən daha sürətli inkişaf etməyə başlasa, inkişafı yavaşlatmaq və ya müvəqqəti dayandırmaq üçün koordinasiyalı, yoxlanıla bilən bir yol müəyyən etməlidirlər. Özünü qura bilən Sİ texnologiya tarixində böyük bir inkişaf olardı, lakin “tam rekursiv özünü təkmilləşdirmə həm də insanların Sİ sistemləri üzərində nəzarəti itirməsi risklərini artıra bilər”, – Sİ startapı bildirib. “Əgər sistemlər öz varislərini tam şəkildə qura bilirsə, onları təhlükəsizləşdirmə, monitorinq etmə və davranışlarını formalaşdırma yollarımız daha da əhəmiyyətli olur.” Məsələn, Anthropic bildirdi ki, may ayından etibarən onun kod bazasına daxil edilmiş kodun 80%-dən çoxu Claude tərəfindən yazılmışdır. Şirkət qeyd etdi ki, “cəmiyyət strukturlarının və uyğunlaşma tədqiqatlarının texnologiyanın inkişafına uyğunlaşmasını təmin etmək üçün qabaqcıl Sİ inkişafını yavaşlatmaq və ya müvəqqəti dayandırmaq imkanına sahib olmaq dünya üçün yaxşı olardı”. Lakin, şirkət xəbərdarlıq etdi ki, birtərəfli və ya zəif koordinasiya edilmiş yavaşlamalar, daha az ehtiyatlı aktorlar inkişafa davam edərsə, əks nəticə verə bilər və ümumi təhlükəsizliyi azalda bilər. O vurğuladı ki, mənalı bir fasilə texnoloji sərhəddə fəaliyyət göstərən “bir neçə yaxşı resurslu laboratoriya” arasında razılaşma, həmçinin belə bir fasiləni nəyin işə salacağı və ya ləğv edəcəyi, kimin nəzarət edəcəyi barədə qaydalar tələb edəcək. Anthropic əlavə etdi ki, tək bir şirkət tərəfindən birtərəfli fasiləni həyata keçirmək daha asan olardı, lakin bu, məhdud təsirə malik olacaq, əsasən daha geniş qlobal müzakirələri təşviq etmək əvəzinə liderliyi dəyişdirəcək. Onun tədqiqat qolu, Anthropic İnstitutu , yavaşlamanı dəstəkləmək üçün zəruri olacaq sistemləri öyrənməyi və qurmağa kömək etməyi planlaşdırır. Yaxın aylarda Anthropic siyasətçilər, tədqiqatçılar, vətəndaş cəmiyyəti qrupları və digər Sİ firmaları ilə əsas sualları araşdırmaq üçün müzakirələr təşkil etməyi planlaşdırır. Bu suallara rekursiv özünü təkmilləşdirmə kimi Sİ ilə əlaqəli riskləri necə idarə etmək və koordinasiya mexanizmlərini necə təkmilləşdirmək daxildir. Keçən ay Anthropic şirkəti 965 milyard dollar dəyərində qiymətləndirən bir vəsait toplama raundunu başa vurdu və bazar ertəsi günü ABŞ -da ilkin kütləvi təklif (IPO) üçün məxfi şəkildə müraciət etdi. (Meksika şəhərində Juby Babu tərəfindən hesabat; Shreya Biswas tərəfindən redaktə edilmişdir) Tövsiyə olunan hekayələr