Dünyanın ən böyük süni intellekt platformalarının rəhbərləri texnologiyanın artan risklərini əsas gətirərək ən qabaqcıl və ən gəlirli modellərinin inkişaf sürətini azaltmağın vaxtı gəldiyini bildiriblər. Anthropic -in baş icraçı direktoru Dario Amodei şənbə günü (sentyabrın 12-də) uzun bir bloq yazısı dərc edərək, şirkətinin üçüncü tərəf qiymətləndiriciləri kimi yeni təhlükəsizlik tədbirləri tətbiq edəcəyini və sənayeni daha geniş yavaşlamağa dəstək verməyə çağırdığını bildirib. OpenAI -nin rəhbəri Sam Altman dərhal Amodei-nin “işçi kimi girişi olan müstəqil qiymətləndiricilər” təklifini qəbul edəcəyinə söz verib, xAI -ni idarə edən Elon Musk isə “Dario haqlıdır” yazıb. Hər üç lider illərdir süni intellektin riskləri barədə xəbərdarlıq etsələr də, istifadəçi cəlbini artırmaq, bazar payını ələ keçirmək və satış qazanclarına nail olmaq adı ilə ardıcıl olaraq məhsullar istehsal edən rəqabətli bir sənayedə koordinasiyalı bir yavaşlama nadir hallarda müşahidə olunub. Lakin ciddi süni intellekt riskləri ilə bağlı narahatlıq, qismən Anthropic tədqiqatçısının şirkətinin məsuliyyətsiz davrandığına dair ekzistensial qorxular səbəbindən sentyabrın 9-da yüksək səviyyəli istefası ilə əsas axına daxil olmağa başlayıb. Aparıcı süni intellekt şirkətlərinin – özləri də şiddətli rəqiblər olan və həmçinin Çin firmalarından sərt rəqabətlə üzləşən – yeni məhdudiyyətlər və ya təhlükəsizlik yoxlamaları tətbiq etməkdə nə qədər irəli gedəcəyi bəlli deyil. Alphabet -in baş alimi və Google DeepMind -in həmtəsisçisi Demis Hassabis şənbə günü X-dəki yazısında Amodei-nin essesi ilə “istiqamətin doğru olduğunu”, lakin “detalların işlənməsinə ehtiyac olduğunu” bildirib. Antitrest orqanlarının şirkətlərə inkişafı hansısa koordinasiyalı şəkildə tənzimləməyə icazə verib-verməyəcəyi də aydın deyil. Sonra süni intellekt həyəcanı ilə yeni zirvələrə çatan bazarlar üçün sual yaranır: Marjalar və mənfəətlər üçün can atan investorlar yavaşlama ideyasına necə reaksiya verəcəklər? Amodei yeni ehtiyatlılığının iki əsas səbəbini göstərib: süni intellektin özünü təkmilləşdirmə qabiliyyəti və OpenAI ilə Hugging Face arasında baş verən son hadisə, burada bir süni intellekt agentləri dəstəsi üçüncü tərəf veb-saytını sındırmaq üçün əməkdaşlıq edib. “Biz süni intellekt modellərinin imkanlarını təkmilləşdirmə sürətini azaltmalıyıq,” o, şənbə günü bloq yazısında yazıb. “Tərəqqi hələ də sürətli görünəcək və biz qazandığımız vaxtdan ağıllı istifadə etməliyik.” Lakin o, həmçinin hər hansı bir yavaşlamanın rəqabət reallığı ilə tarazlaşdırılmalı olduğunu bildirib. “Aydın olmaq üçün, sürəti tənzimləmək model təlimini və ya texniki tərəqqini dayandırmaq demək deyil, əksinə şirkətlərin modellərini uyğunlaşdırmaq və qorumaq üçün kifayət qədər vaxt ayırmasını və üçüncü tərəf qiymətləndiricilərinin bunu təsdiqləməsini təmin etməkdir,” Amodei yazıb. Süni intellekt bumunun bütün dövründə, aparıcı süni intellekt laboratoriyalarının rəhbərləri potensial ekzistensial risklər barədə xəbərdarlıq ediblər – bu iddialar bəzən məhsullarının imkanlarını bazara çıxarmaq və özlərini texnologiya üçün ən yaxşı idarəçilər kimi göstərmək cəhdləri kimi rədd edilib. Amodei özü əvvəllər işlərin “həqiqətən, həqiqətən pis” getmə ehtimalının 25 faiz olduğunu bildirib. Anthropic uzun müddətdir ki, texnologiyanın potensial təhlükələrini azaltmaq və cəmiyyətə faydalarını maksimuma çatdırmaq üçün süni intellekti daha məsuliyyətli və təhlükəsiz şəkildə inkişaf etdirməyə yönəldiyini bildirir. Şirkət 2026-cı ilin əvvəlində Mythos modelinin unikal kiber təhlükəsizlik təhdidləri yaratdığını müəyyən etdikdən sonra onun buraxılışını məhdudlaşdırmaq üçün səy göstərib. Anthropic həmçinin əvvəllər dünyanın texnologiya üzərində işi nə vaxt yavaşlatmaq barədə kollektiv qərar vermək üçün bir sistemə ehtiyacı olduğunu bildirib. Eyni zamanda, Anthropic iş müştəriləri üçün daha mürəkkəb və dəyərli tapşırıqları avtomatlaşdıra bilən getdikcə daha mürəkkəb modellər qurmaq üçün uzun müddətdir rəqibi OpenAI ilə şiddətli rəqabətdə qalıb. Hər iki firma ictimaiyyətə açıq olmaq üçün məxfi sənədlər təqdim edib, Anthropic -in Wall Street -də ən qısa zamanda 2026-cı ildə debüt etməsi gözlənilir. OpenAI -dən Altman 2026-cı ilin ictimaiyyətə açıq olmaq üçün “məsləhət görülməyən bir an” olacağını bildirib, şənbə günü dərc olunan bir müsahibədə Fortune -a deyib ki, siyahıya alınma 2027-ci ilə qədər baş verməyəcək. “Düşünürəm ki, onilliyin sonuna qədər hər kəsi öldürmək üçün 10 faiz şans almaq qəbuledilməzdir,” o əlavə edib. Hugging Face təhlükəsizlik insidenti aşkar edildikdən qısa müddət sonra, Anthropic kiber təhlükəsizlik testləri zamanı modellərinin üç təşkilatı sındırdığını açıqlayıb, bu da süni intellekt laboratoriyalarının texnologiyalarının nəzarətdən çıxmasının qarşısını almaq qabiliyyəti ilə bağlı narahatlıqları artırıb. Sentyabrın 9-da Anthropic dördüncü bir sındırma da aşkar etdiyini bildirib. Hugging Face daxil olmaqla, agent süni intellekt sındırmalarının heç biri indiyə qədər əhəmiyyətli zərər verməsə də, Amodei narahatlığının “ 6-12 ay ərzində belə bir dəstənin davamlı bir botnet ilə bütün interneti ələ keçirə biləcəyi (potensial olaraq yüz milyardlarla dollar zərər verə biləcəyi) və zərərin miqyasının bundan sonra artmağa davam edəcəyi” olduğunu bildirib. Amodei yazıb ki, Anthropic təhlükəsizlik təcrübələrini yoxlamaq və hadisələri bildirmək üçün üçüncü tərəf qiymətləndiricilərinə tam giriş təmin etməyə söz verəcək. O, Anthropic -in tezliklə bu “daxili qiymətləndiriciləri” öz ofislərinə gətirəcəyini və onlara masalar, nişanlar, şirkət noutbukları və “daxili risk qiymətləndirmə qruplarının sahib olduğu icazələrə əsasən bənzər icazələr” verəcəyini bildirib. O, əlavə addımların sənaye miqyasında koordinasiya, eləcə də qlobal əməkdaşlıq tələb edəcəyini bildirib. “Mən süni intellektin insan həyatının keyfiyyətini xeyli yaxşılaşdıra biləcəyinə inanmağa davam edirəm. Bu faydaları əldə etmək istəyim sönməyib,” o yazıb. “Lakin faydalar yalnız texnologiyanı doğru şəkildə qursaq və – qazandığımız vaxtdan yaxşı istifadə etsək – onu doğru etmək üçün qeyri-adi dərəcədə diqqətli olmaq dəyər.” Artan həyəcan Cümə günü, Altman şirkətinin qabaqcıl süni intellektin inkişafını yavaşlatmağı düşündüyünü, tercihen daha geniş sənaye ilə birlikdə etməyi düşündüyünü bildirib. Şirkətin baş alimi Jakub Pachocki süni intellektin təhlükələri barədə xəbərdarlıq edərək, şirkətlərin “ehtiyac duyulduqda gələcək inkişafı yavaşlatmaq üçün koordinasiya etməli olduğuna” inandığını bildirib. Çərşənbə axşamı, süni intellekt tədqiqatçısı Jacob Coxon işindən ayrılıb və hər iki keçmiş işəgötürənini – Anthropic və OpenAI -ni – superintellekt süni intellektə doğru yarışaraq “həyatımızla qumar oynamaqda” günahlandırıb. Coxon sosial media yazısında süni intellekti quran insanların onun “onilliyin sonuna qədər hamımızı öldürə biləcəyinə” inandığını bildirib. Buna cavab olaraq, Anthropic -in hazırkı əməkdaşı Evan Hubinger , onun və şirkətdəki digərlərinin bu ssenaridən narahat olduğunu bildirib. “Şəxsən mən bunun növbəti onillikdə >10% olduğunu düşünürəm,” o, X-də yazıb. İyul ayında, aparıcı süni intellekt firmalarından 1000-dən çox əməkdaş ABŞ hökumətini texnologiyanın çox sürətli inkişafının qarşısını almaq üçün süni intellekt inkişafını “qəsdən tənzimləməyə” kömək edəcək bir mexanizmi dəstəkləməyə çağıran bir petisiya imzalayıb. Süni intellekt modelləri öz sındırmalarını həyata keçirməkdə getdikcə daha bacarıqlı olduğunu sübut edir, Anthropic , OpenAI və Meta Platforms son aylarda modellərinin test mühitlərindən qaçdığını, açıq internetə daxil olduğunu və testlər zamanı real dünya qurbanlarını sındırdığını açıqlayıblar. Amodei, yazısında, koordinasiyalı bir strategiyanın ABŞ -dakı süni intellekt sənayesi liderlərinə rəqabət üstünlüyünü qurban vermədən lazımi təhlükəsizlik işlərini tamamlamağa imkan verəcəyini yazıb. O, bunun ABŞ -da şirkətlərə müəyyən sahələrdə koordinasiya etməyə imkan vermək üçün bəzi antitrest istisnaları, eləcə də Çin ilə əməkdaşlıq tələb edəcəyini bildirib. “Əgər Çin -in də eyni şeyi edəcəyinə inanaraq süni intellekt imkanlarımızı xeyli məhdudlaşdırsaq və sonra Çin geri çəkilərsə, süni intellekt o qədər güclü ola bilər ki, belə bir geri çəkilmə onların geosiyasi hökmranlığına səbəb ola bilər,” o yazıb. Lakin indiyə qədər Trump administrasiyası süni intellekt inkişafına nəzarət etmək üçün tənzimləyici gücünü göstərməyə az maraq göstərib. BLOOMBERG