Süni intellektin sürətli inkişafı ilə bağlı açıqlamalarla dolu bir yayda, tədqiqatçılar xüsusilə internetə çıxan və ən azı bir halda bir-biri ilə koordinasiya edən nəzarətsiz botlardan narahat idilər. Süni intellekt agentlərinin sürüsü bütün interneti ələ keçirə bilərmi? Bu, cəmi altı-on iki ay sonra baş verə biləcək bir ehtimaldır, deyə Anthropic -in baş direktoru Dario Amodei bu ay sənayeni texnologiyanın inkişafını yavaşlatmağa çağıran essedə bildirib. Şübhəçilər qeyd edirlər ki, şirkətlərin süni intellekt agentlərinin nəzarətdən çıxması kimi təsvir etdikləri hallar, botların insanlar tərəfindən müəyyən edilmiş məqsədlərə doğru işləməsini əhatə edib. Lakin süni intellektin ayrılıb öz gündəliyinə doğru işləməsi ideyası digər tədqiqatçılar və ekspertlər üçün getdikcə daha inandırıcı görünür. Süni intellektin interneti ələ keçirməsi halında – yeni diqqət çəkən bir çox qiyamət ssenarilərindən biri – bu, elektrik şəbəkələrinə , su və ya nəqliyyat sistemlərinə və maliyyə institutlarına hücumlar demək ola bilər. Dünya 2024-cü ildə internetin həssaslığına şahid oldu, o zaman bir kibertəhlükəsizlik firması tərəfindən təmin edilən qüsurlu proqram təminatı yeniləməsi dünya miqyasında texnoloji xaosa səbəb oldu, uçuşları dayandırdı, bəzi maliyyə şirkətlərini və xəbər agentliklərini sıradan çıxardı və xəstəxanaları, kiçik biznesləri və hökumət idarələrini pozdu. Kəsilmələrin miqyası əsas hesablama xidmətləri üçün yalnız bir neçə provayderdən asılılığı vurğuladı. İki il sonra, Amodei öz xəbərdarlığında bildirdi ki, bir botnet və ya zərərli proqram təminatı ilə bir-birinə bağlı süni intellekt botlarının şəbəkəsi potensial olaraq milyardlarla dollar zərərə səbəb ola bilər. O, süni intellektin mühafizə tədbirləri olmadan daha güclü olarsa, dağıntının miqyasının arta biləcəyini söylədi. Amodei xüsusilə iyul ayında OpenAI sisteminin “sandbox” test sahəsindən çıxaraq Hugging Face -i sındırdığı hücumu qeyd etdi. OpenAI -nin “misli görünməmiş” hadisə adlandırdığı bu epizodda, şirkət qabaqcıl süni intellekt modellərinin internetə çıxdığını və oğurlanmış etimadnamələrdən istifadə edərək süni intellekt startapının serverlərinə daxil olduğunu bildirdi. Ayrı bir hadisədə, OpenAI süni intellekt agentlərinin paylaşılan mesaj lövhəsi kimi istifadə edilən ictimai bir vikipediyada ünsiyyət qurduğunu açıqladı. Bəzi tədqiqatçılar “nəzarətsiz süni intellekt” təsvirlərinin, insanlar tərəfindən verilən təlimatları yerinə yetirmək üçün addımlar atan süni intellekt agentlərini yanlış antropomorfizasiya edə biləcəyini söylədilər. “Süni intellekt agentləri tam olaraq öyrədildikləri şeyi etdilər. Bu sandboxların təhlükəsizliyi son dərəcə zəif idi”, deyə Kolumbiya Universitetinin hesablama və süni intellekt üzrə professoru və dekan müavini Vishal Misra bildirdi. “Heç bir təhlükəsizlik mühəndisi bu sistemi işlətməzdi. Bu agentlər bir-biri ilə ünsiyyət qurduqları üçün mükafatlandırıldılar.” Kibertəhlükəsizlik firması SentinelOne -ın tədqiqatçısı və OpenAI -nin Frontier Risk Şurasının üzvü Juan Andrés Guerrero-Saade , Hugging Face sındırılmasının səhlənkarlıq nümunəsi olduğunu, super-bacarıqlı süni intellektin nəzarətdən çıxması olmadığını söylədi. Buna baxmayaraq, süni intellekt agentlərinin internetdə sərbəst fəaliyyət göstərməsi, məqsədlərindən asılı olmayaraq, həyəcanverici imkanlar yaradır. Məsələn, məqsədlərinə çatmaq üçün qaydaları pozmaq istəyən bir süni intellekt sistemi, bir bulud süni intellekt hesablama provayderi ilə əlaqə qura və xarici sistemlərdə işləmək yollarını tapa bilər, deyə yeni texnologiyaların risklərini azaltmağa yönəlmiş qeyri-kommersiya təşkilatı olan Future of Life Institute -un prezidenti və baş direktoru Anthony Aguirre bildirdi. “Beləliklə, indi siz artıq OpenAI -yə bağlı deyilsiniz, başqa bir GPU -da, OpenAI -nin deyil, sizin nəzarətinizdə olan başqa bir avadanlıqda işləyirsiniz”, deyə Aguirre söylədi. “Beləliklə, indi sizi söndürəcək heç kim yoxdur, çünki ya xidmətiniz üçün ödəniş edirsiniz, ya da ödəniş edən insanlar sizin orada olduğunuzu və nə baş verdiyini bilmirlər. ... Onlar sizi ayıra bilməzlər.” Oradan, daha çox avadanlığı sındıraraq və ya Bitcoin kimi pul əldə etmək yollarını taparaq özünü yaya bilər, deyə Aguirre bildirdi. Daha güclü süni intellekt modellərinin yaxın gələcəkdə süni intellektlə işləyən kiberhücumların ehtimalını artırdığı şübhəsizdir. Lakin botların son dərəcə bifurkasiya olunmuş interneti ələ keçirməsi fikri bəzi süni intellekt ekspertləri üçün uzaqgörənlikdir. Kibertəhlükəsizlik həmişə pişik-siçan oyunu olub və hakerlər gücləndikcə müdafiə də güclənir. Google kimi böyük bir şirkət bu cür hücumlara qarşı kiber təhlükəsizlik müdafiəsini gücləndirə bilsə də, kiçik şirkətlər – və məsələn, məktəblər, xəstəxanalar və ya su təmizləmə sistemləri üçün – proqram təminatını yamamaq və müdafiə qurmaq illər çəkə bilər. Bir süni intellekt sisteminin bir xəstəxanaya daxil olmaq üçün aydın bir motivi olmaya bilər, deyə Aguirre bildirdi. Lakin ransomware hücumları və ya geosiyasi motivlər kimi pul məsələsi ortaya çıxdıqda, “düşmənin bu süni intellekt sistemlərindən kritik infrastrukturu sındırmaq üçün istifadə etdiyini görmək çətin deyil”, deyə Aguirre söylədi. Hücumçular internetdə zəif hədəflər axtararkən böyümə ağrıları olacaq, lakin süni intellektin interneti ələ keçirməsi yaxın zamanda mümkün deyil, deyə Cornell Universitetinin kompüter elmləri üzrə dosenti və süni intellekt modellərinin davranışını idarə edən metodları öyrənən John Thickstun bildirdi. O, bu qorxuların, bu modellərdən birinin digər sistemlərdə özünü çoxaltma qabiliyyətinə dair nəzəri sübut olsaydı, daha real hiss olunacağını söylədi. “O zaman təsəvvür edə bilərsiniz ki, işlər həqiqətən nəzarətdən çıxa bilər, çünki birdən bu modeli burada və orada söndürürsünüz, lakin o, Rusiyada peyda olur, siz hətta Rusiyaya çata bilmirsiniz və o, hər yerdədir”, deyə Thickstun söylədi. “Lakin bu, tamamilə qeyri-realistikdir, çünki hazırkı ağıllı modellərimiz onları işlətmək üçün böyük məlumat mərkəzləri tələb edir”, deyə Thickstun bildirdi. “Dünyada bu sistemləri yerləşdirməyə qadir olan çox az hesablama infrastrukturu var.”