LOS ANCELES -- Süni intellekt sənayesindən gələn yeni xəbərdarlıqlar, qabaqcıl süni intellektin insan nəzarətindən çıxaraq bəşəriyyətin sağ qalmasına təhlükə yarada biləcəyi və texnologiyanı inkişaf etdirən şirkətlərin belə bir ssenarinin qarşısını almaq üçün kifayət qədər iş görüb-görmədiyi ilə bağlı uzunmüddətli mübahisəni yenidən alovlandırıb. Claude -un arxasında duran San Fransisko şirkəti Anthropic -in CEO-su, sənayenin iş sürətini azaltmalı olduğunu düşündüyünü bildirib və şənbə günü xəbərdarlıq edib ki, şirkətlər təhlükəsizlik tədbirlərinə daha çox vaxt ayırmasalar, süni intellekt agentlərinin sürüsü altı aydan bir ilə qədər interneti ələ keçirə bilər. Dario Amodei , iki keçmiş Anthropic təhlükəsizlik tədqiqatçısının süni intellektin bəşəriyyət üçün yarada biləcəyi ekzistensial təhlükələrə çox az diqqət yetirildiyi ilə bağlı narahatlıqlarını açıqlamasından bir neçə gün sonra, öz şirkəti və dünyanın müxtəlif hökumətləri üçün getdikcə daha qabiliyyətli süni intellekt modellərinin məsuliyyətli insanların əmrləri və dəyərləri ilə uyğunlaşmasını təmin etmək üçün bir plan təqdim etdi. Budur, son dəhşətli proqnozlar və süni intellektin inkişafına hər hansı bir əyləc qoyulub-qoyulmayacağı haqqında bilməli olduğunuz şeylər: Yeni süni intellekt modelləri daha güclü olduqca texnologiyanın potensial riskləri ilə bağlı narahatlıqlar artır, bu da cinayət məqsədi güdən insanlar tərəfindən sui-istifadə potensialını (məsələn, dünyanın əhalisinin əksəriyyətini öldürən bir xəstəlik yaratmaq və yaymaq) və süni intellekt sistemlərinin təhlükəli şəkildə nəzarətdən çıxma riskini artırır. Anthropic keçən həftə pis niyyətli aktyorların süni intellekt modellərini kiberhücumlar, müşahidə və bioloji silahlara səbəb ola biləcək tədqiqatlar kimi zərərli fəaliyyətlər üçün istifadə etmək cəhdlərini blokladığını açıqladı. Şirkət, silah hazırlamaq üçün istifadə edilə biləcək bioloji tədqiqatları məhdudlaşdırmaq üçün ən son modellərinə daha güclü təhlükəsizlik tədbirləri qoyduğunu bildirdi, lakin qeyd etdi ki, “modellər getdikcə daha qabiliyyətli olduqca, süni intellekt tərtibatçıları və cəmiyyətin müdafiəçiləri onları daha təhlükəsiz etmək üçün hərəkət etmədikcə, onların riskləri artacaq.” Keçən il Anthropic , hakerlərin şirkətin süni intellektini dünyanın təxminən 30 şirkətini və hökumət agentliyini hədəf alan bir kiberhücumda istifadə etdiyini bildirdi. Şirkət, hakerlərin çox güman ki, Çin dövlət tərəfindən dəstəklənən bir qrupdan olduğunu söylədi. Bir süni intellekt agenti “nəzarətdən çıxdıqda”, bu o deməkdir ki, süni intellekt ona tapşırılan vəzifədən kənar hərəkətlər edib. Həm Anthropic , həm də ChatGPT -nin istehsalçısı OpenAI iyul ayında süni intellekt modellərinin özbaşına hərəkət etməkdə müvəffəq olduğunu bildirdilər. Anthropic , üç süni intellekt modelinin — Claude Opus 4.7 , Claude Mythos 5 və daxili tədqiqat test modelinin — sınaq zamanı üç digər təşkilata sızdığını açıqladı, bu, OpenAI -nin süni intellekt sisteminin süni intellekt startapı Hugging Face -in serverlərinə sızdığını açıqlamasından bir neçə gün sonra baş verdi. OpenAI , yeni buraxılmış GPT-5.6 Sol və hələ daxili olaraq sınaqdan keçirilən “daha da qabiliyyətli” bir modelin birləşməsi ilə baş verən müdaxiləni “əhəmiyyətli bir təhlükəsizlik insidenti” kimi təsvir etdi. Meta avqustun əvvəlində oxşar bir hadisə ilə, süni intellekt modelinin başqa bir şirkətin rəqəmsal təhlükəsizliyini aşmaq yollarını tapdığını bildirdi. Bəzi müşahidəçilər OpenAI və Anthropic hallarında insanların bəzi təhlükəsizlik tədbirlərini deaktiv etdiyini qeyd etsələr də, bu hadisələr süni intellektlə bağlı ən böyük qorxulardan birini əks etdirirdi: əgər modellər süni ümumi intellektə (AGI) nail olarsa, yəni geniş intellektual vəzifələr üzrə insan qabiliyyətlərinə uyğun gələn və ya onları üstələyən süni intellekt üçün qeyri-müəyyən bir termin, texnologiya geri dönməz bir fəlakətli hadisəyə səbəb ola bilər və ya insan irqini tabe edə bilər. Qiyamət ssenariləri ümumiyyətlə iki kateqoriyaya bölünür: özünü təkmilləşdirən superintellektə nail olan süni intellekt insanların əvəzinə onları idarə edir, və ya süni intellektin qanunsuz bir dövlət və ya pis niyyətli aktyorlar tərəfindən istifadəsi. Süni intellektin insan məhdudiyyətlərini aşacağı ilə bağlı narahatlıqlar yeni deyil. Süni intellektin ən erkən səlahiyyətlilərindən biri kimi qəbul edilən Britaniya riyaziyyatçısı Alan Turing , 1951 -ci ildə süni intellektin nəticədə insanlardan nəzarəti ələ alacağını proqnozlaşdırmışdı. On ildən az sonra, başqa bir riyaziyyatçı Norbert Wiener , ağıllı maşınların öz məqsədlərinə nail olmağa çalışacağını və insanların onları dayandıra bilməyəcəyini xəbərdar etmişdi. 2026 -cı ildə süni intellektin, ya insan nəzarətindən çıxaraq, ya da vicdansız insanlar tərəfindən sui-istifadə nəticəsində, fəlakətli bir hadisəyə və ya sivilizasiyanın süqutuna səbəb ola biləcəyi qorxuları nə qədər əsaslıdır? Heç kim bilmir. Kompüter elmləri, fəlsəfə və digər sahələrdən olan mütəxəssislər, gələcək bir süni intellekt sisteminin, ya insan nəzarətindən çıxaraq, ya da vicdansız insanların əlində qlobal bir fəlakətə səbəb ola biləcəyi çoxsaylı yollar təsəvvür etmişlər. Bunlar silahların yerləşdirilməsindən və ölümcül bir patogenin müəyyən edilməsindən tutmuş, hökumətləri münaqişəyə manipulyasiya etməyə və ya cəmiyyətlərin fəaliyyət göstərmək üçün etibar etdiyi qida, enerji və rabitə şəbəkələrini pozmağa qədər dəyişir. Bu ssenarilərdən hər hansı birinin nə qədər tez baş verə biləcəyi ilə bağlı geniş qəbul edilmiş bir təxmin yoxdur və onların ehtimalı barədə konsensus yoxdur. 2023 -cü ildə qeyri-kommersiya təşkilatı Center for AI Safety , Anthropic -in Amodei və OpenAI CEO-su Sam Altman da daxil olmaqla 350 -dən çox tədqiqatçı və texnologiya rəhbəri tərəfindən imzalanmış bir bəyanat yayaraq dedi: “Süni intellektdən yaranan yox olma riskinin azaldılması pandemiyalar və nüvə müharibəsi ilə yanaşı qlobal bir prioritet olmalıdır.” 100 -dən çox müstəqil mütəxəssisin rəhbərliyi ilə yazılmış 2026 Beynəlxalq Süni İntellekt Təhlükəsizliyi Hesabatı , mövcud sistemlərin bəzi müvafiq qabiliyyətlərin erkən əlamətlərini göstərdiyini, lakin nəzarətin itirilməsinə imkan verəcək səviyyədə olmadığını bildirir və riskin ehtimalını, təbiətini və vaxtını “qeyri-adi dərəcədə qeyri-müəyyən” kimi təsvir edir. Bir Anthropic tədqiqatçısı keçən həftə şirkətdən istefa etdiyini bildirdi, çünki nə şirkətin, nə də rəqiblərinin texnologiyanı inkişaf etdirərkən məsuliyyətli davranmadığı ilə bağlı narahatlıqları var idi. Sosial media paylaşımlarında Jacob Coxon , növbəti on il ərzində süni intellektin insan növünün yox olmasına 10% şans verdiyini təxmin etdi və həm Anthropic , həm də OpenAI -nin “özünü təkmilləşdirən superintellektə doğru yarışdığını və həyatlarımızla qumar oynadığını” söylədi. Tədqiqatçılar süni intellektin inkişafının yavaşladılmasına çağırış edib və illərdir texnologiyanın bəşəriyyət üçün ekzistensial risklər yarada biləcəyi barədə xəbərdarlıq ediblər. Son hadisələrdən sonra mütəxəssislər süni intellekt şirkətləri tərəfindən təkmilləşdirilmiş sınaqların aparılmasına və ABŞ ilə Çin arasında ortaq həll yolları tapmaq üçün daha çox dialoqa çağırıblar. Lakin süni intellekt o qədər sürətlə inkişaf edir ki, hökumət və qiymətləndirmə sistemləri texnologiya ilə ayaqlaşmaqda çətinlik çəkirlər. Ölkələr öz qanunlarını bir araya gətirirlər, bəziləri bir-biri ilə ziddiyyət təşkil edir. Çin lideri Xi Jinping iyul ayında bir konfransda süni intellektin insan nəzarətindən yayınmasının qarşısını almağın zəruriliyi barədə xəbərdarlıq etmişdi. Trump administrasiyası əvvəlcə süni intellekti tənzimləməkdə tərəddüd göstərsə də, kiber təhlükəsizlik risklərini azaltmağa daha çox maraq göstərmişdir.