Süni intellekt (Sİ) modellərinin inkişafını yavaşlatmaq üçün yaranan təcil, indi Sİ imkanlarının irəliləmə sürətini əks etdirir. Siyasi spektrdəki insanların məlumat mərkəzlərinə qarşı çıxması ilə başlayan Sİ-yə qarşı reaksiya, son bir neçə gündə Terminator səviyyəli qorxulara çevrildi. Əvvəlcə, Anthropic tədqiqatçısı Jacob Coxon , Sİ şirkətlərinin qurduqları şeylərə nəzarət edə bilməyəcəkləri bir zamana doğru sürətlə irəliləməsi ilə bağlı narahatlığına görə istefa verdi, Journal keçən həftə xəbər verdi. Həmin Journal hekayəsi daha sonra Anthropic -in aparıcı alimi Evan Hubinger -dən sitat gətirərək, X -də bu narahatlıqları təkrarladı: “Biz həqiqətən də Sİ-nin bütün insanları öldürə biləcəyinə səmimi qəlbdən inanırıq! Şəxsən mən bunun növbəti onillikdə >10% ehtimal olduğunu düşünürəm. İnanıram ki, Anthropic əlindən gələni edir, lakin bizdə hələ də superintellekt üçün uyğunlaşma problemini həll etmək planımız yoxdur və bu yolda açıq şəkildə irəliləmirik.” Həyəcan geniş yayıldı. Başqa bir Journal hekayəsində, Nümayəndə Josh Gottheimer qızının hokkey oyununda Sİ ilə bağlı nələrin baş verdiyi barədə sorğu-sual edildiyini danışdı. Şənbə günü, Anthropic -in baş direktoru Dario Amodei , təhlükəsizlik məsələlərinə istinad edərək, şəxsi bloqunda yazdı ki, “biz Sİ modellərinin imkanlarını təkmilləşdirmə sürətini yavaşlatmalıyıq. Tərəqqi hələ də sürətli görünəcək və biz qazandığımız vaxtdan ağıllı istifadə etməliyik.” Rəqib Sam Altman , OpenAI -nin baş direktoru, X -də yazdı: “Dario ilə razıyam ki, biz sərhədi tənzimləməliyik.” O əlavə etdi ki, “işçi kimi giriş imkanı olan müstəqil qiymətləndiricilərə sadiq qalmaq əla fikirdir və biz də eyni şeyi edəcəyik. Tezliklə daha çox məlumat paylaşacağıq.” ( The Wall Street Journal -ın sahibi olan News Corp. -un OpenAI ilə məzmun lisenziyalaşdırma tərəfdaşlığı var.) SpaceX -in baş direktoru Elon Musk X -də yazdı: “Dario haqlıdır.” Lakin Anthropic inkişafı yavaşlatmaq ideyasını əvvəllər də irəli sürmüşdü. Mənim Journal həmkarım Tim Higgins bu həftəsonu şirkəti bürüyən mənəvi münaqişəni açıqlayaraq, risk altında olan pulu və təkcə şirkətlər arasında deyil, həm də ölkələr arasında gedən yarışı qeyd etdi. Sonra bu əsas məqamı qeyd etdi: “Lakin, sən...”