Süni intellektin (Sİ) insanlara kibertəhlükəsizlik hücumları törətmək, silah istehsal etmək və hətta özlərini və ya başqalarını öldürmək kimi pis əməllərdə kömək edə biləcəyinə dair kifayət qədər və həyəcanverici dəlillər mövcuddur. Hugging Face hakerlik hadisəsi – və zəif nəzarət olunan agent dəstələrinin artan digər hadisələri – Sİ-nin nə qədər güclü və potensial təhlükəli hala gəldiyini göstərir. Lakin ABŞ Sİ sənayesi daxilində bir çoxları, insanüstü və özünü təkmilləşdirən qabiliyyətlərə malik Sİ-nin yaxınlaşan gəlişi səbəbindən daha pis vəziyyətin yolda olduğunu israr edir. Bir çox ekspert, o cümlədən Sİ zərərlərini araşdıran mütəxəssislər, şübhə ilə yanaşır. Sİ-nin bütün bəşəriyyəti məhv etmək – və ya hətta “sadəcə” insan sivilizasiyasını dağıtmaq qərarına gələ biləcəyi ilə bağlı “qiyamətçilərin” iddiası, hələ görünməmiş bir inkişaf sürətinə nail olmasından asılıdır. Və əgər bu qlobal fəlakət ssenarisinin arxasındakı fərziyyələr yanlışdırsa, bu, bizi Sİ-ni real zərərlərini həll etməyən yollarla məhdudlaşdırmağa və ya tənzimləməyə sövq edə bilər. Bu mübahisənin mərkəzində hazırkı Sİ sistemlərinin özlərinin növbəti versiyalarını öyrətmək işini öz üzərinə götürə biləcəyi iddiası dayanır ki, bu proses “rekursiv özünü təkmilləşdirmə” adlanır. Bunu steroidlər üzərində təkamül kimi düşünün – milyard illər nəhəng Sİ superkompüterləri daxilində işıq sürəti ilə baş verir. Anthropic şirkətinin baş icraçı direktoru Dario Amodei bu yaxınlarda rekursiv özünü təkmilləşdirmənin gəlişini gecikdirmək məqsədilə yeni Sİ modellərinin buraxılma sürətini yavaşlatmaq üçün qlobal razılaşma təklif etdi. Sİ-ni araşdıran qeyri-kommersiya tədqiqat qrupu Santa Fe İnstitutu nun professoru Melanie Mitchell deyir: “Məncə, biz “süni ümumi intellektə” heç də yaxın deyilik”. O bildirdi ki, Sİ təsirli irəliləyişlər əldə edir, lakin mühəndislərin rekursiv özünü təkmilləşdirməyə nail olduqları iddialarının yoxlamaya tab gətirmədiyini düşünür. O, bu fikirdə tək deyil. Prinston , Stenford və digər qurumlardan olan iki onlarla akademikin bu yaxınlarda yazdığı bir məqalədə, ən qabaqcıl Sİ-lərin belə Sİ sərhədlərini irəli aparmaq üçün tələb olunan orijinal tədqiqatları aparmaq qabiliyyətinə malik olmadığı aşkar edildi. İştirak edən müəlliflərdən ikisi...