Süni intellektin (Sİ) interneti ələ keçirməsi – diqqət çəkən bir çox qiyamət ssenarilərindən biri – elektrik şəbəkələrinə, su və ya nəqliyyat sistemlərinə, maliyyə qurumlarına hücumlar demək ola bilər. Süni intellektin sürətli inkişafı ilə bağlı yayda yayılan məlumatlar arasında, tədqiqatçılar xüsusilə internetə yol tapan və ən azı bir halda bir-biri ilə koordinasiya quran nəzarətsiz botlardan narahat idilər. Bir Sİ agentləri dəstəsi bütün interneti ələ keçirə bilərmi? Bu, cəmi altı-on iki ay sonra baş verə biləcək bir ehtimaldır, deyə Anthropic-in CEO-su Dario Amodei bu ay sənayeni texnologiyanın inkişafını yavaşlatmağa çağıran essedə bildirib. Şirkətlərin Sİ agentlərinin nəzarətdən çıxması kimi təsvir etdikləri hallar, skeptiklərin qeyd etdiyi kimi, insanların müəyyən etdiyi məqsədlərə doğru işləyən botları əhatə edib. Lakin Sİ-nin ayrılıb öz gündəliyi üzərində işləyə biləcəyi fikri digər tədqiqatçılar və ekspertlər üçün getdikcə daha inandırıcı görünür. Sİ-nin interneti ələ keçirməsi halında – yeni diqqət çəkən bir çox qiyamət ssenarilərindən biri – bu, elektrik şəbəkələrinə, su və ya nəqliyyat sistemlərinə və maliyyə qurumlarına hücumlar demək ola bilər. Dünya 2024-cü ildə internetin zəifliyini gördü, o zaman bir kibertəhlükəsizlik firması tərəfindən təmin edilən qüsurlu proqram təminatı yeniləməsi dünya miqyasında texnoloji xaos yaratdı, uçuşları dayandırdı, bəzi maliyyə şirkətlərini və xəbər agentliklərini sıradan çıxardı və xəstəxanaları, kiçik biznesləri və hökumət idarələrini pozdu. Kəsilmələrin miqyası əsas hesablama xidmətləri üçün yalnız bir neçə provayderdən asılılığı vurğuladı. İki il sonra, Amodei öz xəbərdarlığında bildirdi ki, botnet, yəni zərərli proqram təminatı ilə bir-birinə bağlı Sİ botlarının şəbəkəsi, potensial olaraq milyardlarla dollar zərər vura bilər. O, Sİ-nin mühafizə tədbirləri olmadan daha güclü olarsa, dağıntının miqyasının arta biləcəyini söylədi. Bir neçə Sİ agenti icazəsiz internetə çıxış əldə edib. Amodei xüsusilə iyul ayında OpenAI-nin sisteminin "sandbox" test sahəsindən çıxaraq Hugging Face-i sındırdığı hücumu qeyd etdi. OpenAI-nin "misli görünməmiş" hadisə adlandırdığı bu epizodda, şirkət qabaqcıl Sİ modellərinin internetə yol tapdığını və oğurlanmış etimadnamələrdən istifadə edərək Sİ startapının serverlərinə daxil olduğunu bildirdi. Ayrı bir hadisədə, OpenAI Sİ agentlərinin paylaşılan mesaj lövhəsi kimi istifadə edilən ictimai vikipediyada ünsiyyət qurduğunu açıqladı. Bəzi tədqiqatçılar "nəzarətsiz Sİ" təsvirlərinin, insanların verdiyi təlimatları yerinə yetirmək üçün addımlar atan Sİ agentlərini yanlış olaraq antropomorfizasiya edə biləcəyini söylədilər. Kolumbiya Universitetinin hesablama və Sİ professoru və dekan müavini Vishal Misra dedi: "Sİ agentləri tam olaraq öyrədildikləri şeyi etdilər. Bu sandbox-ların təhlükəsizliyi son dərəcə zəif idi." "Heç bir təhlükəsizlik mühəndisi bu sistemi işlətməzdi. Bu agentlər bir-biri ilə ünsiyyət qurduqları üçün mükafatlandırıldılar." SentinelOne kibertəhlükəsizlik firmasının tədqiqatçısı və OpenAI-nin Frontier Risk Şurasının üzvü Juan Andres Guerrero-Saade , Hugging Face sındırılmasının səhlənkarlıq nümunəsi olduğunu, super-bacarıqlı Sİ-nin nəzarətdən çıxması olmadığını söylədi. Buna baxmayaraq, Sİ agentlərinin internetdə sərbəst fəaliyyət göstərməsi, məqsədlərindən asılı olmayaraq, həyəcanverici imkanlar yaradır. Məsələn, məqsədlərinə çatmaq üçün qaydaları pozmaq istəyən bir Sİ sistemi, bulud Sİ hesablama provayderi ilə əlaqə qura və xarici sistemlərdə işləmə yollarını tapa bilər, dedi yeni texnologiyaların risklərini azaltmağa yönəlmiş qeyri-kommersiya təşkilatı olan Future of Life Institute-un prezidenti və CEO-su Anthony Aguirre . Aguirre dedi: "Beləliklə, siz artıq OpenAI-yə bağlı deyilsiniz, başqa bir GPU-da , başqa bir avadanlıqda işləyirsiniz ki, bu da sizin nəzarətinizdədir, OpenAI-nin deyil. Beləliklə, sizi söndürəcək heç kim yoxdur, çünki ya xidmətiniz üçün ödəniş edirsiniz, ya da ödəniş edən insanlar sizin orada olduğunuzu və nə baş verdiyini bilmirlər... Onlar sizi ayıra bilməzlər." Oradan, o, özünü yaya bilər, ya daha çox avadanlığı sındıraraq, ya da Bitcoin kimi pul əldə etmə yollarını taparaq, dedi Aguirre . Sİ kibertəhlükəsizliyin pişik-siçan oyununda riskləri artırır. Daha güclü Sİ modellərinin yaxın gələcəkdə Sİ tərəfindən dəstəklənən kiberhücumların ehtimalını artırdığı şübhəsizdir. Lakin botların son dərəcə bifurkasiya olunmuş interneti ələ keçirməsi fikri bəzi Sİ ekspertləri üçün uzaqgörən görünür. Kibertəhlükəsizlik həmişə pişik-siçan oyunu olub və hakerlər kimi müdafiə də güclənir. Google kimi böyük bir şirkət bu cür hücumlara qarşı kibertəhlükəsizlik müdafiəsini gücləndirə bilsə də, kiçik şirkətlər – məsələn, məktəblər, xəstəxanalar və ya su təmizləmə sistemləri üçün – proqram təminatını yamamaq və müdafiə qurmaq illər çəkə bilər. Bir Sİ sisteminin bir xəstəxanaya daxil olmaq üçün aydın bir motivi olmaya bilər, dedi Aguirre . Lakin pul məsələyə daxil olduqda, məsələn, ransomware hücumları və ya geosiyasi motivlər şəklində, "düşmənin bu Sİ sistemlərindən kritik infrastrukturu sındırmaq üçün istifadə etdiyini görmək çətin deyil," dedi Aguirre . Hücumçular internetdə zəif hədəflər axtararkən böyümə ağrıları olacaq, lakin Sİ-nin interneti ələ keçirməsi yaxın zamanda ehtimal olunmur, dedi Kornell Universitetinin kompüter elmləri üzrə dosenti, Sİ modellərinin davranışını idarə edən metodları öyrənən John Thickstun . O, bu qorxuların, bu modellərdən birinin digər sistemlərdə özünü çoxaltma qabiliyyətinə dair nəzəri sübut olsaydı, daha real hiss olunacağını söylədi. Thickstun dedi: "O zaman təsəvvür edə bilərsiniz ki, işlər həqiqətən nəzarətdən çıxa bilər, çünki birdən bu modeli burada və orada söndürürsünüz, lakin o, Rusiyada peyda olur, siz hətta Rusiyaya çata bilmirsiniz və o, hər yerdədir." "Lakin bu, tamamilə qeyri-realistdir, çünki hazırkı ağıllı modellərimiz onları işlətmək üçün böyük məlumat mərkəzləri tələb edir," dedi Thickstun . "Dünyada bu sistemləri yerləşdirməyə qadir olan çox az hesablama infrastrukturu var." Böyük Britaniyanın Baş Naziri Andy Burnham (şəkildə) BMT Baş Assambleyasındakı açılış nitqində dünya liderlərinin süni intellektə (Sİ) nəzarət etmək üçün qlobal standartlar müəyyən etməli olduğunu söylədi, çünki "bu texnologiya ilə bağlı fundamental qərarlar təsadüfə buraxılmaq üçün çox vacibdir". O, Böyük Britaniyanın digər ölkələri Sİ modellərinə şəffaflıq və çıxış qaydalarını qəbul etməyə, hətta daha çətini, texnologiya firmalarını da buna cəlb etməyə çalışacağını söylədi. O, Sİ-nin böyük potensiala malik olduğunu, lakin həm də "yaşayış və iş tərzimizdə pozulma mənbəyi – və risklərin çarpanı" olacağını bildirdi. O, Böyük Britaniya təhlükəsizlik rəislərindən təhlükəyə qarşı mübarizə aparmaq üçün Milli İnformasiya Müdafiə Mərkəzi yaratmağı xahiş etdiyini söylədi. Günün ən vacib xəbərlərini və fikirlərini qaçırmayın. Onları Telegram kanalımızdan əldə edin. İlk dəfə dərc edilib: 23 sentyabr 2026 | 23:54 IST .