SİDNEY : Bu ayın əvvəlində süni intellekt tədqiqatçısı Jacob Coxon cəmi dörd aydan sonra Anthropic -dən istefa verdi. O, X -də verdiyi açıqlamada bildirdi: “Süni intellekti quran insanlar səmimi qəlbdən inanırlar ki, o, onilliyin sonuna qədər hamımızı məhv edə bilər.” Anthropic -in yüksək vəzifəli əməkdaşı Evan Hubinger hətta Coxon ilə razılaşaraq əlavə etdi ki, o, şəxsən bu hadisənin növbəti onillikdə baş vermə ehtimalının 10 faizdən çox olduğunu düşünür. Təbii ki, bu bəyanatlar böyük rezonans doğurdu. İndi süni intellekt tədqiqatlarını yavaşlatmaq və texnologiya üzərində “insan nəzarətini” artırmaq barədə çox danışılır. Bəs süni intellekt bizi tam olaraq necə məhv edə bilər? Fantastik ssenarilərin sayı-hesabı yoxdur və onların əksəriyyəti “superintellektli” süni intellekt – yəni insanlardan daha qabiliyyətli süni intellekt konsepsiyasını əhatə edir. Mən bu ssenariləri ən qeyri-müəyyəndən ən dəqiqə doğru təxminən beş əsas ssenariyə endirdim. Və iddia edərdim ki, siyahı ən az ehtimal olunandan ən çox ehtimal olunana doğru sıralanmışdır. 1. HEÇ VAXT BİLMƏYƏCƏYİK. Süni intellekt qiyamətçiləri narahatlıqlarını tez-tez bezdirici bir paradoksla əsaslandırırlar: Superintellektin bizim kimi daha az intellektli varlıqları məhv etmək üçün nə edə biləcəyini necə təsəvvür edə bilərik? Superintellektin nə edə biləcəyini proqnozlaşdırmaq üçün biz superintellektli olmalıyıq. Bu, ailə itinizdən termonüvə müharibəsini təsəvvür etməsini istəmək kimidir. Buradakı yaxşı xəbər odur ki, superintellekt hələ də bəlkə də bir qədər uzaqdadır. Hazırkı süni intellekt modelləri müəyyən problemləri həll etməkdə həqiqətən yaxşıdır, lakin bu, bütün sahələrdə insandan daha ağıllı olmaqla eyni deyil. Lakin, süni intellekt bu yaxınlarda məlum olan ən çətin yeddi riyaziyyat problemindən birini həll etdi. Görünür, digərlərinə də yaxınlaşır ki, bu da sizi daha az optimist hiss etdirə bilər. 2. KAĞIZ SANCAQLAR. Superintellektli bir süni intellekt, ehtimal ki, öz məqsədlərinə çatmaqda olduqca səriştəli olardı. Lakin o, insan həyatına biganə qala bilər. Belə bir biganəliyin klassik nümunəsi Oksford filosofu Nick Bostrom -un kağız sancağı istehsalını optimallaşdırmaq üçün hazırlanmış təsəvvür etdiyi superintellektli süni intellektdən gəlir. O, üstünlük verdiyi ofis ləvazimatlarını istehsal etmək üçün bütün mövcud maddələri – o cümlədən insanları, planetləri və ulduzları – tez bir zamanda kağız sancaqlara çevirir. Burada düzgün müəyyən edilməmiş məqsədlərin mükəmməl icrası var. Süni intellekt insanlığa nifrət etmir; o, sadəcə olaraq tanıyır ki, biz kağız sancaqlara daha yaxşı istifadə edilə biləcək atomlardan ibarətik. Bu, şəxsi deyil. Buradakı yaxşı xəbər odur ki, bu ssenari intellekti güclə qarışdırır. Superintellektli bir süni intellektin öz məqsədlərinə çatmaq üçün mütləq gücü yoxdur. Planeti kağız sancağı fabriklərinə çevirmək planlaşdırma icazələri tələb edərdi. Hətta icazələri alsa belə, çoxlu kağız sancağı fabriki tikmək qaçılmaz ictimai etirazlara səbəb olardı. Maraq qrupları məhkəmələrdə prosesləri bloklayacaqdı. Ətraf mühit fəalları buldozerləri bloklayacaqdı. Dünyada hətta çox ağıllı insanların belə öz iradələrini bizə tətbiq etməsinə mane olan çoxlu sürtünmə var. Əslində, siz məlumat mərkəzlərini nəzəri kağız sancağı ssenarisinin hazırkı təcəssümü kimi düşünə bilərsiniz. Və insanlar planeti məlumat mərkəzlərinə çevirməyə getdikcə daha çox müqavimət göstərirlər. 3. BİOLOJİ SİLAHLAR. İnsanlıq, atmosferə təhlükəli yeni bir bioloji silah hazırlayan və buraxan superintellektli bir süni intellekt tərəfindən məhv edilə bilər. Bu, əslində, qabaqcıl süni intellektin təsirlərini proqnozlaşdırmağa həsr olunmuş qeyri-kommersiya təşkilatı olan AI Futures Project tərəfindən hazırlanmış AI 2027 ssenarisinin nəticələrindən biridir. Bu risk keçən ay Stanford Universiteti ndəki tədqiqatçılar genetik dil süni intellekt modelindən istifadə edərək 16 yeni virus sintez etdiklərini elan etdikdə daha konkretləşdi. Narahatlıq doğuran odur ki, onlar genetik ardıcıllıqları sadəcə poçtla sifariş edilən bir laboratoriyaya göndərdilər və laboratoriya virusları sınaq şüşələrində geri göndərdi. Bütün təcrübə ən çox bir neçə yüz min dollara başa gəldi. Buradakı yaxşı xəbər odur ki, yeni bir virusla hər kəsi öldürmək olduqca çətindir. Bunu etmək üçün çox yoluxucu bir virusa ehtiyacınız var ki, o, geniş yayılmış olsun. Lakin bu, biologiyanın bir qaydasıdır – asanlıqla yayılan viruslar adətən daha az ölümcüldür. Əksinə, əgər bir virus çox ölümcüldürsə, yoluxuculuq azalmağa meyllidir, çünki yoluxmuş insanların əksəriyyəti infeksiyanı yaymağa vaxt tapmadan ölür. COVID-19 insanlığın 1 faizindən azını öldürdü. Qeydə alınmış tarixdə ən ölümcül pandemiya Qara Ölüm idi, o zaman vəba 13-cü əsrdə Avropanın əhalisinin üçdə birindən çoxunu öldürdü. Lakin, hətta vəba belə, artan tibbi biliklərimiz və daha yaxşı sanitariya səbəbindən bu gün daha az ölümcül olardı. 4. NÜVƏ MÜHARİBƏSİ. Bəs süni intellekt nüvə komanda və nəzarət zəncirinə daxil olub nüvə müharibəsi başlatsa necə? Son 50 ildə bir neçə dəfə səhvən nüvə müharibəsinə yaxınlaşmışıq. Bizə deyilir ki, nüvə komanda və nəzarət internetdən tamamilə ayrılıb. Lakin, 2010-cu ildə gördüyümüz kimi, İran ın nüvə sentrifuqaları Stuxnet adlı bir kompüter qurdu tərəfindən sıradan çıxarıldı, bunun bir USB çubuqla gətirildiyi düşünülür. Süni intellekt həmçinin hərbçilərə yanlış kəşfiyyat məlumatları verə bilər ki, bu da düzəldilməz hərəkətlərə səbəb ola bilər. Buradakı yaxşı xəbər odur ki, nüvə ehtiyatları azalıb. Lakin onlar hələ də bəlkə də yarımızı məhv etmək üçün kifayətdir. Və bu, nüvə partlayışının özü ilə deyil, ondan sonra gələcək nüvə qışındakı aclıqla olacaqdı. 5. DİGƏR İNSANLAR. Bəlkə də ən ehtimal olunan risk odur ki, biz özümüzü məhv edərik. Və süni intellekt buna təkan verə bilər. Təsəvvür edin – və bu, çox təsəvvür tələb etmir – süni intellekt kütləvi iş itkilərinə səbəb olur, informasiya məkanını dezinformasiya ilə çirkləndirir, siyasətimizi parçalayır və saxta sintetik yoldaşlıqla insan münasibətlərini məhv edir. Cəmiyyət asanlıqla dağıla bilər. Yavaş-yavaş, lakin əminliklə, biz heç bir miqyasda insan həyatını dəstəkləyə bilməyəcəyik. Bütün bu ssenarilərdən nə nəticə çıxarmaq olar? Əlbəttə ki, narahat olmaq üçün bəzi şeylər var. Amma ümid edirəm ki, çox narahat olmaq lazım deyil. Toby Walsh , UNSW -də süni intellekt professoru və tədqiqat qrupunun rəhbəridir. Bu şərh ilk dəfə The Conversation -da dərc olunub.