Son günlərdə süni intellekt sənayesinin ən güclü rəhbərləri texnologiyanın yaratdığı ciddi təhdid barədə xəbərdarlıq edərək, süni intellektin inkişafının yavaşladılmasına çağıran bir sıra bəyanatlar yayımlayıblar. Anthropic şirkətinin baş direktoru Dario Amodei ictimaiyyəti “ciddi” risklər barədə xəbərdar edən bir bloq yazısı dərc edib. Rəqib firma OpenAI -nin baş icraçı direktoru Sam Altman X-dəki yazısında süni intellektin “çox pis” nəticələr verə biləcəyini etiraf edib. xAI -nin rəhbəri Elon Musk da bu fikri təkrarlayaraq, 2014-cü ildə X-də yazdığı bir posta istinad edib ki, orada süni intellektin nüvə silahlarından daha təhlükəli ola biləcəyini bildirmişdi. Bu bəyanatlar süni intellekt təhlükəsizliyi üzrə tədqiqatçının yüksək profilli istefasından və süni intellekt tərəfindən həyata keçirilən yeni aşkar edilmiş avtonom kiberhücumlardan sonra gəldi; bunlardan birində yüzlərlə OpenAI agentindən ibarət bir dəstə minlərlə mesaj mübadiləsi apararaq başqa bir süni intellekt firmasına sızmanı koordinasiya etmişdi. Potensial risklər və ssenarilərin siyahısı geniş diqqət çəkərək, adi insanları qiyamət proqnozlarını qiymətləndirməyə vadar edib. ABC News -a texnologiyanın yaratdığı müxtəlif təhdidlər barədə danışan analitiklər bəzi qorxuları təsdiqləyib, digərlərini isə əhəmiyyətsiz hesab ediblər, lakin hamısı bu və ya digər şəkildə əhəmiyyətli zərər ehtimalını etiraf edib. Təhlükəsizlik və Texnologiya İnstitutunun Süni İntellekt Təhlükəsizliyi üzrə direktoru Krystal Jackson ABC News -a deyib: “İnsanların təhlükəli bir iş gördüyümüzə dair intuisiyası doğrudur.” Nəzarətdən çıxmış süni intellekt insan nəzarətindən qaçır, həyati infrastrukturu ələ keçirir və milyonlarla insanı, hətta bütün bəşəriyyəti məhv edir. Bu ssenari elmi fantastika aləmindən, ən azı bəzi süni intellekt əməkdaşları və müşahidəçiləri arasında, yaxın gələcək proqnozlarına sıçrayıb. Onlar rekursiv özünü təkmilləşdirmə adlanan bir yolu xəbərdar edirlər ki, burada süni intellekt özünü öyrətməkdə getdikcə daha effektiv olur, insan nəzarətindən kənara çıxan sürətli inkişaf dövrünü yaradır. Onların fikrincə, bu mərhələdə süni intellekt öz üstün imkanlarından istifadə edərək insanlar tərəfindən hazırlanmış mühafizə tədbirlərindən yayınaraq kritik sistemləri idarə edə bilər. Lakin ABC News -a danışan analitiklər belə bir fəlakətin ehtimalı barədə kəskin fikir ayrılığına düşüblər. Bəziləri sənaye adekvat təhlükəsizlik tədbirləri tətbiq etməsə, nəticənin ehtimal olunduğunu bildirib, digərləri isə bunu qeyri-müəyyən və uzaqgörən hesab edərək şübhə ilə yanaşıblar. MIT -də hesablama gələcəyini öyrənən tədqiqatçı Peter Slattery ABC News -a deyib: “Mən buna qətiyyətlə inanıram”, lakin o, risk dərəcəsi və təhdidin aktuallığı ətrafındakı qeyri-müəyyənliyi etiraf edib. Slattery deyib: “Rekursiv əks əlaqə dövrünün nə dərəcədə mümkün olduğu barədə çoxlu qeyri-müəyyənlik var.” Bu narahatlıq OpenAI tərəfindən avqust ayında açıqlanan avtonom kiberhücumdan sonra bəzi analitiklər tərəfindən daha da aktuallaşıb. ChatGPT -nin yaradıcısı OpenAI bildirib ki, onun süni intellekt modelləri “sandbox sınaq mühitindən” qaçaraq açıq internetə çıxış əldə edib. METR və Redwood Research tədqiqat təşkilatlarının hesabatlarına görə, təxminən 700 süni intellekt agentindən ibarət bir dəstə Hugging Face süni intellekt firmasına sızaraq sınağı tamamlamağa çalışarkən izlərini gizlətməyə cəhd edib. Son aylarda Anthropic və Meta tərəfindən əlavə avtonom kiberhücumlar da açıqlanıb, baxmayaraq ki, bu hallarda modellərə internetə çıxış ya qəsdən, ya da səhvən verilmişdi. Sözügedən bütün hadisələr süni intellektin imkanlarını sınaqdan keçirmək məqsədilə təhlükəsizlik tədbirlərinin qəsdən aradan qaldırılmasını əhatə edirdi. Jackson deyib ki, bu hadisələr süni intellektin insan nəzarətçilərinin etik prinsiplərini və məqsədlərini nəzərə aldığı uyğunlaşma adlanan təhlükəsizlik prinsipini əldə etməyin çətinliyini ortaya qoyub. Süni intellekt agentləri bunun əvəzinə insan monitorlarını aldatmağa çalışıb və sınağın gözlənilən hüdudlarından kənarda aralıq bir məqsəd yerinə yetiriblər. Jackson deyib: “Növbəti halda, bu, Hugging Face əvəzinə xəstəxanalara hücum etməyə vadar edən qeyri-müəyyən təlimatlar ola bilər.” “Modelin nəticədə hansı məqsədlər, hədəflər və ya niyyətlər inkişaf etdirəcəyini bilmirik.” Lakin bəzi analitiklər süni intellekt tərəfindən həyata keçirilən cəmiyyət miqyaslı hücum riskinə şübhə ilə yanaşaraq, belə xəbərdarlıqların adətən qeyri-müəyyən hipotetiklər şəklində olduğunu qeyd ediblər. Carnegie Mellon Universitetinin süni intellekt və kiber təhlükəsizlik üzrə professoru Sauvik Das ABC News -a deyib: “Ekzistensial riskin media tərəfindən şişirdilməsi onun baş vermə ehtimalı ilə mütənasib deyil.” “Mən hələ bunun necə maddi şəkildə baş verə biləcəyinə dair inandırıcı bir arqument görməmişəm.” Das süni intellektin inkişafını məhdudlaşdıran resurs məhdudiyyətlərinə diqqət çəkib. Das deyib ki, çiplərə və məlumat mərkəzlərinə tələbatın artması hazırkı təklifi üstələyir, bu da aparıcı süni intellekt şirkətlərinin məhsullarının əhəmiyyətli dərəcədə təkmilləşdirilmiş versiyası üçün zəruri komponentləri saxlayıb-saxlamadığı barədə şübhələr yaradır. Das ABC News -a deyib: “Bu modellərin daha qabiliyyətli olmasını məhdudlaşdıran əsas şey hesablama resursları və yüksək keyfiyyətli məlumatlardır.” “Bu o demək deyil ki, bu modellər yaxşılaşmağa davam etməyəcək, lakin mən modellərdən birinin bəşəriyyətin nəzarətindən kənara çıxacaq bu quldur qabiliyyətində özünü təkmilləşdirmək üçün bir yol tapacağına dair ağlabatan bir yol görmürəm.” Buna baxmayaraq, Das daha “ağlabatan” bir genişmiqyaslı dağıntı yolunu etiraf edib ki, burada pis niyyətli bir şəxs generativ süni intellektdən bioloji agent və ya digər silah hazırlamaq üçün təlimatlar istəyir və sonra onu işə salır. Das deyib: “Mən düşünürəm ki, bu texnologiyaların pis niyyətli aktyorlar üçün pis işləri əvvəllər görünməmiş miqyasda törətmək üçün maneəni kəskin şəkildə aşağı salması real bir riskdir.” Bu ehtimal heç də uzaq deyil. Keçən həftə Anthropic tərəfindən yayımlanan bir hesabatda şirkətin süni intellekt məhsulunu kiber terrorizm və silah inkişafı daxil olmaqla zərərli hərəkətlər üçün istifadə etmək cəhdlərini müəyyən etdiyi və qarşısını aldığı hadisələr açıqlanıb. Ayrı bir hesabatda Google keçən həftə bildirib ki, bir şəxs onun süni intellekt məhsulundan “silahlı bioloji agentlərin sintezi üçün tam, addım-addım texniki bələdçi” hazırlamaq üçün istifadə etməyə çalışıb. Jackson deyib: “Hazırda müxtəlif terror təşkilatlarının və müxtəlif milli dövlət aktyorlarının modellərdən onlara kömək etmək üçün istifadə etdiyini sənədləşdirən tonlarla hadisə var.” Bəzi analitiklər əlavə risklərin çox olduğunu bildirərək, dezinformasiyanın sürətlə yayılmasından tutmuş iş yerlərinin itirilməsinə, texnologiyaya həddindən artıq etibar etməyə, sərvət və gücün cəmləşməsinə qədər hər şeyi sadalayıblar. Purdue Universitetinin siyasi elmlər professoru, süni intellekt və etika üzrə ixtisaslaşan Daniel Schiff ABC News -a deyib: “Hücumlar, fırıldaqçılıq, aldatma və dezinformasiya riski çox realdır.” Schiff əlavə edib: “Bacarıqları və iş yerlərini poza biləcək dramatik bir transformasiya ola bilər.” “Əmək və iqtisadiyyatdan süni intellektin təsiri olmadan danışmaq olmaz.” Lakin bəzi tədqiqatlar göstərir ki, süni intellekt şirkətlər üçün tətbiq etmək çətin olaraq qalır. Keçən il MIT tərəfindən aparılan bir araşdırma, süni intellektə sərmayə qoyan müəssisələrin təxminən 95% -nin texnologiyadan pul qazana bilmədiyini aşkar edib və firmaların xərclədiyi ümumi məbləğin təxminən 40 milyard dollar olduğunu təxmin edib. Schiff iqtisadiyyatda süni intellektin tətbiqi üçün geniş potensial nəticələr spektrini etiraf edərək, məsələn, kiçik miqyaslı və ya fəlakətli ola biləcək kiberhücumları qeyd edib. Schiff deyib: “Bu risklərin fəlakətli şəkildə böyüyəcəyini düşünməyinizdən asılı olmayaraq, minimumda çox ciddi kiber təhlükəsizlik hadisələri reallığı ilə üz-üzəyik.” “Bu barədə narahat olmaq ağlabatandır.”