Anthropic -in baş icraçı direktoru süni intellektin inkişafını yavaşlatmağın vaxtının gəldiyini bildirib. Süni intellekt yarışında onun iki əsas rəqibi, Sam Altman və Elon Musk , bu fikirlə razılaşdıqlarını deyiblər. Şənbə günü Dario Amodei , bugünkü qabaqcıl alətlərin yaratdığı risklərin eyni sürətlə inkişafa davam etmək üçün sadəcə çox böyük olduğunu söylədi. Onun son ictimai xəbərdarlığı, əməkdaşlarından birinin süni intellekt sistemlərinin sivilizasiyanı məhv edə biləcəyi qorxularını alovlandırmasından bir neçə gün sonra gəldi. İki ay əvvəl, bir süni intellekt dəstəsi laboratoriyadan çıxaraq haker hücumlarına başladı. Amodei , daha böyük imkanlara malik və “oxşar səviyyədə uyğunsuzluq” olan bir dəstənin fəlakətli zərər verə biləcəyini söylədi. O, belə bir nəzarətsiz dəstənin altı-on iki ay ərzində interneti ələ keçirə biləcəyi barədə xəbərdarlıq etdi. Şəxsi bloqunda Amodei , süni intellekt sənayesini qabaqcıl alətlərin inkişafını tənzimləməyə çağırdı, demokratik ölkələr arasında daha qlobal koordinasiya və üçüncü tərəf təhlükəsizlik qiymətləndiricilərinin tətbiqi kimi yeni tədbirlər təklif etdi. O, yazısında “İnanıram ki, əgər yavaşlama modellər kritik qabiliyyət səviyyələrinə çatmazdan əvvəl bizə hətta bir-iki il əlavə vaxt qazandırsa və biz bu vaxtı uyğunlaşmanı inkişaf etdirmək üçün istifadə etsək, ciddi səhvlərin baş verməsi riskini xeyli azalda bilərik” dedi. Amodei , süni intellektin yaydan bəri insan müdaxiləsi olmadan öz-özünə inkişaf edə bilən süni intellekt sistemləri tərəfindən idarə olunan irəliləyişinin “bu sistemləri anlamaq və idarə etmək qabiliyyətimizi üstələyə biləcəyini və buna görə də çox diqqətlə, əgər ümumiyyətlə, davam etdirilməli olduğunu” söylədi. O, X -dəki bir yazısında Anthropic -in üçüncü tərəf qiymətləndiricilərinə “sistemlərimizə daimi, işçi səviyyəsində giriş imkanı verəcəyini, beləliklə onların təhlükəsizlik tədbirlərimizə riayət olunmasını yoxlaya, hadisələr barədə hesabat verə və təlim zamanı modellərin uyğunluğunu qiymətləndirə biləcəklərini” bildirdi. Amodei yazısını dərc etdikdən qısa müddət sonra, SpaceX -in baş icraçı direktoru Musk , X -dəki bir yazısında “Dario haqlıdır” dedi. Musk , OpenAI -nin həmtəsisçisi idi və indi SpaceX -in bir hissəsi olan öz süni intellekt şirkəti xAI -ni qurdu. OpenAI -nin baş icraçı direktoru Altman da...