Süni intellektin insanlıq üçün yaratdığı ekzistensial risklər barədə dramatik xəbərdarlıqlar yeni deyil. Hələ 1940-cı illərdə tanınmış alim və elmi fantastika yazıçısı İsaak Asimov ağıllı maşınların potensial risklərini və gözlənilməz nəticələrini araşdırmışdı. 1991-ci ildə Hollivudun blokbaster filmi “Terminator 2” 2029-cu ildə nəzarətdən çıxmış Skynet adlı hərbi süni intellektin insanlığa qarşı müharibədə qatil robotları idarə etdiyi distopik bir ssenarini təsəvvür edirdi. Əgər süni intellekt sahəsindəki ən böyük adlardan bir neçəsinin xəbərdarlıqlarına inanılsa, oxşar ssenari 2029-cu ildən əvvəl reallığa çevrilə bilər. Sərt tənzimləməyə dair artan çağırışlar “Süni intellekti quran insanlar səmimi qəlbdən inanırlar ki, o, onilliyin sonuna qədər hamımızı öldürə bilər,” süni intellekt tədqiqatçısı Jacob Coxon keçən həftə X-də bunun necə baş verə biləcəyini dəqiq izah etmədən yazmışdı. “Başqa heç bir insan fəaliyyəti bu səviyyədə təhlükə yaratmır,” o əlavə etdi. Coxon həmçinin bildirdi ki, süni intellekt şirkətləri arasında getdikcə daha yaxşı, özünü təkmilləşdirən superintellekt inkişaf etdirmək üçün məsuliyyətsiz bir yarış olduğunu düşündüyü üçün ABŞ mərkəzli süni intellekt şirkəti Anthropic -dəki işindən etiraz olaraq ayrılıb. O, alqoritmlərin öz mənbə kodlarını müstəqil şəkildə təhlil etməyə və təkmilləşdirməyə başlaya biləcəyi barədə xəbərdarlıq etdi ki, bu da inkişaf dövrlərini bir neçə aydan bir neçə dəqiqəyə qədər azalda və beləliklə onları nəzarətsiz edə bilər. Coxon tək səs deyil. Tez-tez “Süni intellektin xaç atası” adlandırılan Nobel mükafatlı fizik Geoffrey Hinton illərdir süni superintellektin ciddi nəticələri barədə xəbərdarlıq edir. 2023-cü ildə o, özünün qabaqcıl olmasına kömək etdiyi süni intellekt texnologiyalarının təhlükələri barədə ictimaiyyətə xəbərdarlıq etmək üçün Google -dakı işindən ayrıldı. Süni neyron şəbəkələrinin və dərin öyrənmənin qabaqcıllarından olan Yoshua Bengio da mövcud inkişaflardan narahatlığını ifadə edərək hökumət tənzimləməsinə çağırıb. Hələ 2026-cı ilin iyul ayında aparıcı süni intellekt şirkətlərinin 1000-dən çox əməkdaşı açıq məktubda “superintellekt” yarışının əhəmiyyətli dərəcədə sərt tənzimləmələrə məruz qalmadığı təqdirdə nəzarətin yaxınlaşan itirilməsi barədə xəbərdarlıq etmişdi. Tənzimlənməmiş bir yarışda tutulmuş? Artan xəbərdarlıqlara baxmayaraq, ABŞ prezidenti Donald Tramp ın administrasiyası süni intellekt siyasətini tənzimləyici maneələri minimuma endirməyə və süni intellektin inkişafını sürətləndirməyə doğru açıq şəkildə dəyişib. Jacob Coxon öz X yazısında bu siyasətin nəticələrini dolayı yolla tənqid etdi: “ OpenAI -də bir çoxları sivilizasiya risklərini dərindən dərk etməyiblər. Anthropic -də risklər yaxşı başa düşülür, lakin onlar ilk çatmaq üçün bir yarışa kilidləniblər — onlar inanırlar ki, başqa heç kim məsuliyyətlə hərəkət etməyəcək, buna görə də risqə baxmayaraq bunu özləri etməlidirlər.” 2026-cı ilin əvvəlində OpenAI -dən Anthropic -ə keçən Coxon hər iki korporativ mədəniyyətlə tanışdır. The Wall Street Journal -a verdiyi müsahibədə o, “ən aqressiv ssenarilər” altında vəziyyətin 2027-ci ilin sonuna qədər nəzarətdən çıxa biləcəyini söylədi. Anthropic -in baş direktoru Dario Amodei isə riskləri həll etmək və süni intellektin hər hansı sui-istifadəsinin qarşısını almaq üçün vaxt qazanmaq məqsədilə inkişafda koordinasiyalı, sənaye miqyasında yavaşlamağa çağırır. Həftə sonu X-də paylaşılan uzun bir essedə o, altı-on iki ay ərzində süni intellekt agentlərinin “bütün interneti ələ keçirməyə qadir ola biləcəyini” və müvafiq təhlükəsizlik tədbirləri olmadan “yüz milyardlarla dollar zərər” verə biləcəyini yazdı. Həm xAI -ni idarə edən Elon Musk , həm də OpenAI -nin baş direktoru Sam Altman Amodei ilə razılaşdıqlarını bildirdilər. Uyğunlaşma problemi Son illərdə çoxsaylı ekspertlər süni intellektin sürətli inkişafı, xüsusilə də fərdi tapşırıqları həll etməklə yanaşı, demək olar ki, bütün sahələrdə insan intellektual qabiliyyətlərinə uyğun gələn və ya onları üstələyən sistemlərə aid olan süni ümumi intellektin inkişafı ilə bağlı narahatlıqlarını ifadə ediblər. Məsələn, mürəkkəb süni intellekt modelləri insan niyyətlərindən fərqli yollarla məqsədlər güdə bilər ki, süni intellekt təhlükəsizlik tədqiqatçıları bunu “uyğunlaşma problemi” adlandırırlar. Bundan əlavə, hətta tərtibatçılar da süni intellektin müəyyən qərarları necə qəbul etdiyini həmişə tam başa düşə bilmirlər. Buna görə də, Coxon -un keçmiş həmkarı Evan Hubinger -in onu müdafiə etməsi təəccüblü deyil. “Jacob burada haqlıdır — biz həqiqətən də səmimi qəlbdən inanırıq ki, süni intellekt bütün insanları öldürə bilər! Şəxsən mən bunun növbəti onillikdə >10% ehtimalla baş verəcəyini düşünürəm,” Anthropic -də uyğunlaşma stress testləri üzrə komanda rəhbəri olan Hubinger X-də yazdı. Öz yazısında Hubinger Anthropic -in hələ uyğunlaşma probleminə bir həll tapmadığını açıqladı və süni intellekt modelinin bağlanmağa müqavimət göstərməyə başlaya biləcəyi barədə xəbərdarlıq etdi, çünki bu, onun proqramlaşdırılmış məqsədinə çatmaq qabiliyyətini məhdudlaşdıracaqdı. Şişirdilmiş isteriya? Lakin digər süni intellekt ekspertləri bu cür qiyamət ssenarilərini son dərəcə qeyri-mümkün hesab edirlər. “Süni intellekt qiyamətçiləri” adlananların ən görkəmli tənqidçiləri arasında Meta -nın baş alimi Yann LeCun da var. 2024-cü ilin oktyabrında o, bu cür narahatlıqları “tamamilə cəfəngiyat” adlandırdı. Digər ekspertlər isə süni intellekt sistemlərinin inkişafının böyük miqdarda hesablama gücü, enerji, məlumat və infrastruktur tələb etdiyini qeyd edirlər. Onlar iddia edirlər ki, süni intellekt modeli sadəcə dünyanı ələ keçirə bilməz, çünki o, insanlar tərəfindən idarə olunan serverlərə, enerji şəbəkələrinə, rabitə sistemlərinə və fiziki resurslara etibar etməli olacaqdı. Əsl təhlükə başqa yerdədirmi? Əslində, bir çox ekspertlər qısamüddətli riskləri insanlığın yox olmasında deyil, superintellekt olmadan da mövcud olan süni intellekt sistemlərinin çoxsaylı dolayı nəticələrində görürlər. Bunlara görünməmiş miqyasda dezinformasiya kampaniyaları və bununla bağlı demokratik proseslərin manipulyasiyası, kütləvi nəzarətin genişlənməsi və çoxsaylı sənaye sahələrində iş yerlərinin itirilməsi daxildir. Keçən həftə Anthropic , istifadəçilər tərəfindən Claude AI modellərini bioloji silahların inkişafını dəstəkləyə biləcək tədqiqatlar üçün sui-istifadə etmək cəhdlərinin olduğunu açıqladı. Şirkət müvafiq hesabları qadağan etdiyini bildirdi. Avqust ayında Meta , Anthropic və OpenAI süni intellekt sistemlərinin qeyri-ixtiyari olaraq avtonom hakerlik fəaliyyətləri həyata keçirdiklərini elan edərək səs-küyə səbəb oldular. Testlər zamanı daha çox süni intellekt haker hücumları barədə məlumatlardan sonra, hətta ABŞ -ın aparıcı süni intellekt laboratoriyaları da texnologiyanın inkişafını yavaşlatmağa hazır olduqlarını ifadə edirlər. Bu məqalə əvvəlcə Alman dilində dərc edilmişdir.