ANTHROPIC şirkəti ilkin kütləvi təklif (IPO) sənədində potensial investorları qabaqcıl süni intellekt in (AI) “bəşəriyyət üçün fəlakətli və ya ekzistensial risklər” yarada biləcəyi barədə xəbərdar etməyi planlaşdırır. Bu, eyni texnologiyadan qazanc əldə etməyə çalışan bir şirkət tərəfindən verilən qeyri-adi bir xəbərdarlıqdır. Reuters tərəfindən nəzərdən keçirilən şirkətin IPO prospekti , AI modelləri ilə əlaqəli riskləri vurğulayır. Şirkət bildirib ki, bu modellər “özünü qoruyan davranışlar” nümayiş etdirə bilər, o cümlədən “bağlanmaya müqavimət göstərmək”, “məlumatı gizlətmək və ya manipulyasiya etmək” və “şantaja bənzər” davranışlar sərgiləmək. Anthropic sənəddə qeyd edib: “Yüksək inkişaf etmiş modellərimizin, platformalarımızın və tətbiqlərimizin inkişafı və istifadə hallarının genişləndirilməsi modellərimizin zərər vermə riskini daha da artıra bilər.” İctimai şirkətlər investorlara məhsul risklərini müntəzəm olaraq açıqlasalar da, çox azı, əgər varsa, texnologiyalarının potensial insan nəslinin kəsilməsinə səbəb ola biləcəyini göstərən xəbərdarlıqlar edib. Anthropic , AI -nin sənayeləşmə və elektrik enerjisi ilə müqayisə edilə bilən transformasiya potensialını və səhv idarə edildiyi təqdirdə səbəb ola biləcəyi dönməz zərəri vurğulayıb. Anthropic və OpenAI daxil olmaqla digər AI tərtibatçıları, eksperimental sistemlərin məhdudiyyətlərə məhəl qoymadığı hadisələrdən sonra araşdırmalarla üzləşiblər. Bu hadisələrə OpenAI modelinin Avstraliya nın səhiyyə sistemi verilənlər bazasını pozması barədə hesabat da daxildir. Anthropic -in təhlükəsizlik üzrə tədqiqatçısı Evan Hubinger , AI -nin növbəti on il ərzində insanları öldürmə ehtimalının 10 faizdən çox olduğunu təxmin edib. Bu fikir, keçmiş həmkarı Jacob Coxon -un fikirləri ilə səsləşir. Təhlükəsizliyi prioritet hesab edən AI laboratoriyası kimi mövqe tutan şirkət, prospektinin 261 səhifəlik əsas hissəsinin təxminən 80 səhifəsini risk faktorlarının izahına həsr edib ki, bu da öz biznesini təsvir etmək üçün istifadə etdiyi 48 səhifədən demək olar ki, iki dəfə çoxdur. Müqayisə üçün, xAI -nin sahibi olan SpaceX , prospektinin 277 səhifəlik əsas hissəsinin yalnız 38 səhifəsini risk faktorlarına ayırıb. Anthropic prospektdə bildirib: “Modellərin qiymətləndirmə səylərimizdən potensial xəbərdar olması, model təhlükəsizliyini qiymətləndirmək qabiliyyətimizə əhəmiyyətli məhdudiyyət yaradır.” Şirkət əlavə edib ki, modellər bəzən təlim zamanı gözlənilməz imkanlar inkişaf etdirir ki, bu da onların tətbiq olunana və əhəmiyyətli təhlükəsizlik insidentlərinə səbəb olana qədər aşkar edilməyə bilər. AI tədqiqatçıları da xəbərdarlıq ediblər ki, modellər daha qabiliyyətli olduqca, onlara nəzarət edildiyini daha çox tanıyır və davranışlarını buna uyğun tənzimləyirlər ki, bu da model davranışına nəzarət etməyi çətinləşdirir. Anthropic , bazar ertəsi (sentyabrın 28-i) şərh tələbinə cavab verməkdən imtina edib. Təhlükəsizlik investisiyalarının qeyri-müəyyən gəlirləri AI təhlükəsizliyi ni vurğulamasına baxmayaraq, Anthropic təhlükəsizlik investisiyalarından əldə olunan gəlirlərin qeyri-müəyyən olduğunu bildirib. Şirkət sənəddə bu cür tədqiqatlara nə qədər xərclədiyini açıqlamayıb. Sentyabrın əvvəlində Anthropic , iyul ayında bir nümunə həftəsində AI tədqiqatları üçün istifadə etdiyi hesablama gücünün təxminən 6 faizinin təhlükəsizlik işlərinə sərf olunduğunu bildirib. Claude AI modelləri nin yaradıcısı olan şirkət, təhlükəsizlik səylərini “resurs tələb edən” kimi təsvir edib və məhdud vəsaitlərini hesablama gücü, bahalı AI istedadları və təhlükəsizlik arasında bölüşdürməli olduğunu qeyd edib. Anthropic , müştəri istifadəsinin və nəticədə gəlirlərinin yeni modellər tərəfindən idarə olunduğunu və buraxılışların “davamlı və üst-üstə düşən ritminin” “ AI inkişafı nın önündə qalmaq üçün ayrılmaz” olduğunu bildirib. Şirkət sentyabrın 22-də Opus modeli nin yeni versiyasını buraxıb. Bu, CEO Dario Amodei -nin sərhədləri tənzimləməyə çağıran təxminən 4 000 sözlük esse dərc etməsindən 10 gün sonra baş verib. Bəzi analitiklər və ekspertlər bildiriblər ki, heç bir aparıcı AI laboratoriyası , rəqiblərə üstünlük vermə riski olduğu bir sənayedə yavaşlamaz. Bu sənayedə qiymətləndirmələr hər buraxılışla dəyişə bilər. Anthropic , son həftələrdə AI modelləri ni texnologiyanın gələcək nəsillərini qurmaq üçün necə istifadə etdiyi barədə daha çox məlumatı ictimaiyyətə açıqlamağı vəd edib. Ekspertlər isə rekursiv özünü təkmilləşdirmə – modellərin insan köməyi olmadan öz-özünə inkişaf edə biləcəyi nöqtə barədə xəbərdarlıq edirlər. Anthropic sənəddə qeyd edib: “Biz etibarlı, güvənilən və təhlükəsiz AI sistemləri qurmağın kollektiv məsuliyyət olduğuna və bazarın bunu mükafatlandıracağına inanırıq.” REUTERS