Dünyanın ən böyük süni intellekt platformalarının rəhbərləri texnologiyanın artan risklərini əsas gətirərək, ən qabaqcıl və ən gəlirli modellərinin inkişaf sürətini azaltmağın vaxtı gəldiyini bildiriblər. Anthropic -in baş icraçı direktoru Dario Amodei şənbə günü (sentyabrın 12-də) uzun bir bloq yazısı dərc edərək, şirkətinin üçüncü tərəf qiymətləndiriciləri kimi yeni təhlükəsizlik tədbirləri tətbiq edəcəyini və sənayeni daha geniş bir yavaşlamanı dəstəkləməyə çağırdığını bildirib. OpenAI -nin rəhbəri Sam Altman dərhal Amodei-nin “işçi kimi girişi olan müstəqil qiymətləndiricilər” təklifini qəbul etməyə söz verib, xAI -ni idarə edən Elon Musk isə “Dario haqlıdır” yazıb. Hər üç lider illərdir süni intellekt riskləri barədə xəbərdarlıq etsələr də, istifadəçi cəlbini artırmaq, bazar payını ələ keçirmək və satış qazanclarına nail olmaq adı ilə ardıcıl məhsullar istehsal edən rəqabətli bir sənayedə koordinasiyalı bir yavaşlama nadir hallarda müşahidə olunur. Lakin süni intellekt in ciddi riskləri ilə bağlı narahatlıqlar, qismən Anthropic tədqiqatçısının şirkətinin məsuliyyətsiz davrandığına dair ekzistensial qorxular səbəbindən sentyabrın 9-da yüksək səviyyəli istefası ilə əsas axına daxil olmağa başlayıb. Aparıcı süni intellekt şirkətlərinin – özləri də şiddətli rəqiblər olan və həmçinin Çin firmalarından güclü rəqabətlə üzləşən – yeni məhdudiyyətlər və ya təhlükəsizlik yoxlamaları tətbiq etməkdə nə qədər irəli gedəcəyi bəlli deyil. Alphabet -in baş alimi və Google DeepMind -in həmtəsisçisi Demis Hassabis şənbə günü X -də yazdığı postda Amodei-nin essesi ilə “istiqamətin doğru olduğunu”, lakin “detalların işlənməsinə ehtiyac olduğunu” bildirib. Antitrest orqanlarının şirkətlərə inkişafı koordinasiyalı şəkildə tənzimləməyə icazə verib-verməyəcəyi də aydın deyil. Sonra süni intellekt həyəcanı ilə yeni zirvələrə çatan bazarlar üçün sual yaranır: Marjalar və mənfəətlər üçün can atan investorlar yavaşlama ideyasına necə reaksiya verəcəklər? Amodei yeni ehtiyatlılığının iki əsas səbəbini göstərib: süni intellekt in özünü təkmilləşdirmə qabiliyyəti və OpenAI ilə Hugging Face arasında baş verən son hadisə, burada bir sıra süni intellekt agentləri üçüncü tərəf veb-saytını pozmaq üçün əməkdaşlıq ediblər. “Biz süni intellekt modellərinin imkanlarını təkmilləşdirmə sürətini azaltmalıyıq,” o, şənbə günü bloq yazısında yazıb. “İrəliləyiş hələ də sürətli görünəcək və biz qazandığımız vaxtdan ağıllı istifadə etməliyik.” Lakin o, həmçinin hər hansı bir yavaşlamanın rəqabət reallığı ilə tarazlaşdırılmalı olduğunu bildirib. “Aydın olmaq üçün, sürəti tənzimləmək model təlimini və ya texniki tərəqqini dayandırmaq demək deyil, əksinə şirkətlərin modellərini uyğunlaşdırmaq və qorumaq üçün kifayət qədər vaxt ayırmasını və üçüncü tərəf qiymətləndiricilərinin bunu təsdiqləməsini təmin etməkdir,” Amodei yazıb. Süni intellekt bumunun bütün dövründə, aparıcı süni intellekt laboratoriyalarının rəhbərləri potensial ekzistensial risklər barədə xəbərdarlıq ediblər – bu iddialar bəzən məhsullarının imkanlarını bazara çıxarmaq və özlərini texnologiyanın ən yaxşı idarəçiləri kimi göstərmək cəhdləri kimi rədd edilib. Amodei özü əvvəllər işlərin “həqiqətən, həqiqətən pis” getmə ehtimalının 25 faiz olduğunu bildirmişdi. Anthropic uzun müddətdir ki, texnologiyanın potensial təhlükələrini azaltmaq və sosial faydalarını maksimuma çatdırmaq üçün süni intellekt i daha məsuliyyətli və təhlükəsiz şəkildə inkişaf etdirməyə fokuslanmışdır. Şirkət 2026-cı ilin əvvəllərində Mythos modelinin unikal kiber təhlükəsizlik təhdidləri yaratdığını müəyyən etdikdən sonra onun buraxılışını məhdudlaşdırmaq üçün səy göstərmişdir. Anthropic həmçinin əvvəllər dünyanın texnologiya üzərində işi nə vaxt yavaşlatmaq barədə kollektiv qərar vermək üçün bir sistemə ehtiyacı olduğunu bildirmişdi. Eyni zamanda, Anthropic iş müştəriləri üçün daha mürəkkəb və dəyərli tapşırıqları avtomatlaşdıra bilən getdikcə daha mürəkkəb modellər qurmaq üçün uzun müddətli rəqibi OpenAI ilə şiddətli rəqabətdə qalmışdır. Hər iki firma ictimaiyyətə açıq olmaq üçün məxfi sənədlər təqdim edib, Anthropic -in Wall Street -də debütünü 2026-cı ildə edəcəyi gözlənilir. OpenAI -dən Altman 2026-cı ilin ictimaiyyətə açıq olmaq üçün “məsləhət görülməyən bir an” olacağını bildirib, şənbə günü dərc olunan bir müsahibədə Fortune -a deyib ki, siyahıya alınma 2027-ci ilə qədər baş verməyəcək. “Düşünürəm ki, onilliyin sonuna qədər hər kəsi öldürmək ehtimalının 10 faiz olması qəbuledilməzdir,” o əlavə edib. Hugging Face təhlükəsizlik insidenti aşkar edildikdən qısa müddət sonra, Anthropic kiber təhlükəsizlik testləri zamanı modellərinin üç təşkilatı pozduğunu açıqlayaraq, süni intellekt laboratoriyalarının texnologiyalarının nəzarətdən çıxmasının qarşısını almaq qabiliyyəti ilə bağlı narahatlıqları artırıb. Sentyabrın 9-da Anthropic dördüncü bir haker hücumunu da aşkar etdiyini bildirib. Hugging Face daxil olmaqla, agent süni intellekt pozuntularının heç biri indiyə qədər əhəmiyyətli zərər verməsə də, Amodei narahatlığının “6-12 ay ərzində belə bir sürü davamlı bir botnet ilə bütün interneti ələ keçirə bilər (potensial olaraq yüz milyardlarla dollar zərər verə bilər) və zərərin miqyasının oradan artmağa davam edəcəyi” olduğunu bildirib. Amodei yazıb ki, Anthropic təhlükəsizlik təcrübələrini yoxlamaq və hadisələri bildirmək üçün üçüncü tərəf qiymətləndiricilərinə tam giriş verməyə söz verəcək. O, Anthropic -in tezliklə bu “daxili qiymətləndiriciləri” öz ofislərinə gətirəcəyini və onlara masalar, nişanlar, şirkət noutbukları və “daxili risk qiymətləndirmə qruplarının sahib olduğu icazələrə əsasən bənzər icazələr” verəcəyini bildirib. O, əlavə addımların sənaye miqyasında koordinasiya, eləcə də qlobal əməkdaşlıq tələb edəcəyini deyib. “Mən hələ də süni intellekt in insan həyatının keyfiyyətini xeyli yaxşılaşdıra biləcəyinə inanıram. Bu faydaları əldə etmək istəyim azalmayıb,” o yazıb. “Lakin faydalar yalnız texnologiyanı doğru şəkildə qursaq və – qazandığımız vaxtdan yaxşı istifadə etsək – bunu doğru etmək üçün qeyri-adi dərəcədə düşünülmüş qayğı göstərməyə dəyər.” Artan həyəcan Cümə günü, Altman şirkətinin qabaqcıl süni intellekt in inkişafını yavaşlatmağı düşündüyünü, tercihen daha geniş sənaye ilə birlikdə etməyi planlaşdırdığını bildirib. Şirkətin baş alimi Jakub Pachocki süni intellekt in təhlükələri barədə xəbərdarlıq edərək, şirkətlərin “ehtiyac duyulduqda gələcək inkişafı yavaşlatmaq üçün koordinasiya etməli olduğuna” inandığını bildirmişdi. Çərşənbə axşamı, süni intellekt tədqiqatçısı Jacob Coxon işindən ayrılıb və hər iki keçmiş işəgötürənini – Anthropic və OpenAI -ni – superintellektual süni intellekt ə doğru yarışaraq “həyatlarımızla qumar oynamaqda” günahlandırıb. Coxon sosial media postunda süni intellekt i quran insanların onun “onilliyin sonuna qədər hamımızı öldürə biləcəyinə” inandığını bildirib. Buna cavab olaraq, Anthropic -in hazırkı əməkdaşı Evan Hubinger , onun və şirkətdəki digərlərinin bu ssenaridən narahat olduğunu bildirib. “Mən şəxsən düşünürəm ki, növbəti onillikdə bu ehtimal >10% -dir,” o, X -də yazıb. İyul ayında, aparıcı süni intellekt firmalarından 1000-dən çox əməkdaş ABŞ hökumətini texnologiyanın çox sürətli inkişafının qarşısını almaq üçün süni intellekt inkişafını “qəsdən tənzimləməyə” kömək edəcək bir mexanizmi dəstəkləməyə çağıran bir petisiya imzalamışdı. Süni intellekt modelləri öz haker hücumlarını həyata keçirməkdə getdikcə daha bacarıqlı olduğunu sübut edir, Anthropic , OpenAI və Meta Platforms son aylarda modellərinin test mühitlərindən qaçdığını, açıq internetə daxil olduğunu və testlər zamanı real dünya qurbanlarını pozduğunu açıqlayıblar. Amodei, öz postunda, koordinasiyalı bir strategiyanın ABŞ -dakı süni intellekt sənayesi liderlərinə rəqabət üstünlüyünü itirmədən lazımi təhlükəsizlik işlərini tamamlamağa imkan verəcəyini yazıb. O, bunun ABŞ -da şirkətlərə müəyyən sahələrdə koordinasiya etməyə imkan vermək üçün bəzi antitrest istisnaları, eləcə də Çin ilə əməkdaşlıq tələb edəcəyini bildirib. “Əgər Çin -in də eyni şeyi edəcəyinə inanaraq süni intellekt imkanlarımızı xeyli məhdudlaşdırsaq və sonra Çin bu razılaşmanı pozsa, süni intellekt o qədər güclü ola bilər ki, belə bir pozuntu onların geosiyasi hökmranlığına səbəb ola bilər,” o yazıb. Lakin indiyə qədər Tramp administrasiyası süni intellekt inkişafına nəzarət etmək üçün tənzimləyici gücünü göstərməyə az maraq göstərib. BLOOMBERG