OpenAI (OPAI.PVT) CEO-su Sam Altman , yaratdığı kabusvari süni intellekt (Sİ) bədheybətindən o qədər narahat görünür ki, yuxusu qaçıb. “Sİ-nin inkişafının çox pis nəticələnə biləcəyi iki yol var və biz bunlardan qaçmalıyıq. Birincisi, gələcək üzərində nəzarəti Sİ-yə itirə bilərik. Bu qəbuledilməzdir; biz qətiyyətlə İnsanlıq Komandası ndayıq və Sİ həmişə insanlara xidmət etməlidir. Bunu təmin etmək üçün, uyğunlaşma və təhlükəsizlik texnikalarının model imkanlarındakı irəliləyişlərdən öndə qalmasını təmin etmək yollarına ehtiyacımız var,” Altman səhər saat 12:57 radələrində X postunda bildirib. O davam edib: “İkincisi, gücün həddindən artıq cəmləşdiyi bir dünyada qala bilərik. Əgər fövqəladə güclü bir Sİ bir şəxs və ya şirkət tərəfindən öz dünyagörüşünü hər kəsə təlqin etmək üçün istifadə edilərsə, nəticələr son dərəcə distopik ola bilər. Bu iki təhlükədən qaçmaq dar bir orta yolla getməyi tələb edir; məsələn, bir ölkə həddindən artıq güc qazana bilər. Başqa bir nümunə isə bir laboratoriyanın həddindən artıq gücə sahib olmasıdır.” İki gün ərzində Anthropic (ANTH.PVT) CEO-su Dario Amodei və Altman kimi Sİ nəhəngləri, yaratdıqları güclü texnologiya ilə insan irqini qorxutmağı bacarıblar və qabaqcıl super-kodlayıcılardan ibarət komandalarını daha da sürətləndirməyə sövq ediblər. “Son bir neçə ay ərzində əmin oldum ki, riskləri tamamilə aradan qaldırmaq daha çox ehtiyatlılıq tələb edir – təkcə risklərin qarşısının alınmasına sərmayə qoymaq deyil, həm də imkanların inkişaf sürətini tənzimləmək lazımdır ki, risklərin qarşısının alınması üçün vaxt olsun,” Amodei şənbə günü 3,800 sözlük essedə bildirib. “Biz S.İ. modelləri nin imkanlarını yaxşılaşdırma sürətini azaltmalıyıq. İnkişaf hələ də sürətli görünəcək və biz qazandığımız vaxtdan ağıllı istifadə etməliyik.” Altman postdan dərhal sonra rəqibi Amodei ilə razılaşdığını bildirib. Bu açıqlamalar, iki Sİ tədqiqatçısının qabaqcıl sərhəd Sİ modellərinin təhlükələri barədə narahatlıqlarını dilə gətirməsindən sonra gəlir. Keçən həftənin əvvəlində Jacob Coxon Anthropic -dən istefa verdiyini açıqlayaraq, nə şirkətin, nə də OpenAI -nin güclü Sİ sistemlərinin inkişafı zamanı məsuliyyətli davrandığını bildirib. Anthropic -in Uyğunlaşma Elmi Rəhbəri Evan Hubinger daha sonra Coxon -un postuna cavab verərək, keçmiş Anthropic işçisinin haqlı olduğunu və texnologiyanın “bütün insanları öldürə bilməsi” ehtimalının 10%-dən çox olduğuna inandığını söyləyib.