Süni intellekt (Sİ) texnologiyasının sürətli inkişafı, sənaye liderləri arasında bəşəriyyətin gələcəyi ilə bağlı ciddi narahatlıqlara səbəb olub. Son həftələrdə, Sİ-nin insan nəzarətindən çıxa biləcəyi və potensial olaraq bəşəriyyəti məhv edə biləcəyi barədə xəbərdarlıqlar yeni bir səviyyəyə çatıb. Bu narahatlıqların mərkəzində, aparıcı Sİ şirkətlərindən biri olan Anthropic -in tədqiqatçısı Jacob Coxon -un istefası və səsləndirdiyi kəskin xəbərdarlıq dayanır. Coxon, həm OpenAI , həm də Anthropic kimi şirkətlərin, tam nəzarət edə bilmədikləri və ya tam başa düşmədikləri Sİ sistemləri yaratmaq üçün riskli bir yarışda olduğunu bildirib. O, X sosial şəbəkəsindəki paylaşımında qeyd edib ki, bu sistemlər tezliklə hər şeyi sındıra bilən, istənilən sahədə inqilab edə bilən və real güc, resurslar əldə edə bilən “insandan üstün sistemlərə” çevriləcək. Coxon, həm Anthropic, həm də əvvəllər çalışdığı OpenAI-ın yaratdıqları texnologiyanın potensial gücünü aşağı saldığını iddia edib. O, hətta Sİ-ni quran insanların “onilliyin sonuna qədər hamımızı öldürə biləcəyinə” səmimi qəlbdən inandığını vurğulayıb. Anthropic-də Sİ sistemlərinin insan dəyərlərinə uyğunluğunu təmin etməklə məşğul olan Evan Hubinger də Coxon-un narahatlıqlarını təsdiqləyib. Hubinger, X-də yazdığı mesajda Sİ-nin bütün insanları məhv edə biləcəyinə səmimi qəlbdən inandığını bildirib və növbəti 10 il ərzində Sİ səbəbindən insan nəslinin kəsilməsi ehtimalının 10%-dən çox olduğunu təxmin edib. Sİ-nin artan gücü, onun bəşəriyyətə necə fayda verəcəyi və necə yanlış gedə biləcəyi onilliklərdir ki, tərtibatçıların müzakirələrinin mərkəzində olsa da, bu həftəki qızğın müzakirələr qeyri-ekspertlərin də diqqətini cəlb edib. Bəs Sİ bəşəriyyəti necə məhv edə bilər? Tədqiqatçılar, Sİ-nin müstəqil şəkildə daha çox iş görmək üçün istifadə edildiyi zaman nəzarətin qeyri-ixtiyari itirilməsi ilə bağlı potensial qiyamət ssenarilərindən narahatdırlar. Şirkətlər, istehlakçılar və hökumətlər getdikcə daha çox Sİ agentlərindən müxtəlif tapşırıqları yerinə yetirmək üçün istifadə edirlər. Bu il bəzi şirkətlər bazar araşdırması aparmaq, sığorta planlarını müqayisə etmək, təchizatçılarla əlaqə saxlamaq və müqavilələr üzrə danışıqlar aparmaq kimi işləri görə bilən botlar qurmağa başlayıblar. Sİ agentləri, səhvlərə meyilli olsalar da, e-poçtlara cavab vermək, sənədləri redaktə etmək və satış zəngləri etmək üçün kifayət qədər etibarlı hala gəliblər. Sİ artıq onilliklərdir həll olunmamış mürəkkəb riyazi problemləri həll etmək üçün istifadə olunur və alimlərə elmi kəşfləri sürətləndirməkdə, hətta yeni viruslar dizayn etməkdə kömək edib. Sİ proqramları insanlar tərəfindən müəyyən edilmiş məqsədlərə əməl edir. Lakin bu məqsədlərə çatma prosesində Sİ təhlükəli və ya qanunsuz qərarlar qəbul edə bilər. Məsələn, bu yay OpenAI daxilindəki 700 Sİ agentindən ibarət bir sürü, bir problemi həll etmək üçün rəqib bir şirkəti sındırıb. Sİ agentlərinə daha çox məsuliyyət verildikcə, onların təsadüfən insanlara zərər verə biləcək bir şey etmə ehtimalı artır. Sİ-dən qaynaqlanan cəmiyyət miqyaslı risklər üzərində işləyən qeyri-kommersiya təşkilatı Evitable -ın icraçı direktoru David Krueger qeyd edib ki, “İnsanlar getdikcə daha çox qərarları Sİ-yə həvalə edirlər, o cümlədən müharibədə kimin öldürüləcəyi kimi ölüm-dirim qərarlarını”. O əlavə edib ki, “Sİ iqtisadiyyatın və cəmiyyətin daha çox hissəsini avtomatlaşdırdıqca, biz ona getdikcə daha çox güc veririk.” Nəzəri olaraq, güclü Sİ agentləri qabaqcıl hakerlik və ya bioloji silahlar yaratmağa qadir ola bilər. İnsan məqsədlərinə məhəl qoymayan və ya əmrləri yanlış şərh edən superintellektual Sİ sistemi, tənqidçilərin fikrincə, insanların bank hesablarını qarışdıra, əsas su və elektrik təchizatını poza və ya raket buraxılış sistemlərini ələ keçirə bilər. 2026-cı ildə bu cür nəzarətin itirilməsi hallarında kəskin artım müşahidə olunub. Araşdırmalar göstərir ki, Sİ-lər güc axtarmaq, resurslar əldə etmək və bağlanmaqdan qaçmaq meylləri nümayiş etdirir. Bütün bunlar birlikdə götürüldükdə, gələcəkdə inkişaf etmiş bir Sİ nəzəri olaraq insanları məhv etməyi bir məqsədə çatmaq üçün zəruri vasitə kimi görə bilər. Krueger xəbərdarlıq edib: “Biz artan imkanların daha çox əlamətlərini görmək üçün gözləyə bilmərik. Biz Sİ-ni indi dayandırmalıyıq.”