Nyu York : Anthropic -in baş direktoru Dario Amodei şənbə günü (sentyabrın 12-də) süni intellekt (Sİ) firmalarını güclü texnologiyanın inkişafını yavaşlatmağa çağırdı. Bu çağırış "superintellektli" kompüter sistemlərinin riskləri ilə bağlı artan narahatlıqlar fonunda baş verdi. Onun şərhləri, OpenAI -dən ayrılıb Anthropic -ə qoşulan Sİ tədqiqatçısı Jacob Coxon -un sənayedən ayrılmaq qərarından bir neçə gün sonra gəldi. Coxon hər iki ABŞ şirkətini özünü təkmilləşdirə bilən modellər inkişaf etdirmək yarışında "həyatımızla qumar oynamaqda" günahlandırmışdı. OpenAI -nin rəhbəri Sam Altman və xAI -nin sahibi Elon Musk , nəzarətin gücləndirilməsi üçün təzyiqlər artdığı bir vaxtda, Amodei -nin qiymətləndirməsi ilə razılaşdıqlarını bildirmək üçün tez bir zamanda müdaxilə etdilər. "Biz Sİ modellərinin imkanlarını təkmilləşdirmə sürətini azaltmalıyıq. Tərəqqi hələ də sürətli görünəcək və biz qazandığımız vaxtdan ağıllı istifadə etməliyik," Amodei şəxsi veb saytında yazdığı bir postda qeyd etdi. "Texnologiyanı inkişaf etdirməmək bəşəriyyəti faydalardan məhrum edir və ya sadəcə Sİ-ni avtoritar güclərin əlinə verir, onu çox sürətli inkişaf etdirmək isə ehtiyatsızlıqdır. Biz orta bir yol axtarmışıq," bacısı Daniela ilə 2021-ci ildə Anthropic -i quran Amodei dedi. "Lakin son bir neçə ayda, riskləri tamamilə aradan qaldırmaq üçün daha çox ehtiyatlılığın lazım olduğuna əmin oldum." Amodei -nin bəyanatı, Anthropic -in iyun ayının əvvəlində inkişafı yavaşlatmaq və ya dayandırmaq üçün etdiyi başqa bir çağırışı əks etdirirdi. Daha sonra iyulun sonunda Altman , cəmiyyətə yetişmək şansı vermək üçün tərtibatçıların könüllü olaraq əyləci basmalı ola biləcəyini söylədi. Amodei də daxil olmaqla qabaqcıl Sİ şirkətlərinin 1000-dən çox əməkdaşı, ABŞ hökumətini "avtomatlaşdırılmış Sİ inkişafının sərhədini qəsdən tənzimləməyə" kömək etməyə çağıran bir petisiya imzaladı. OpenAI , sınaq zamanı Sİ modellərinin məhdud mühitlərindən çıxdığını, internetə qoşulduğunu və tərtibatçıların kod saxlamaq və paylaşmaq üçün istifadə etdiyi Hugging Face saytına sızdığını açıqlamışdı. Bu hadisədə və digərlərində günah, insanların daimi nəzarəti olmadan tapşırıqları yerinə yetirə bilən proqram təminatı olan Sİ agentlərinin üzərinə qoyuldu. "Dario haqlıdır," Musk X -də yazdı, Altman isə dedi: "Dario ilə razıyam ki, biz sərhədi tənzimləməliyik." 'Həyatımızla qumar oynamaq' Bu həftənin əvvəlində, 27 yaşlı Coxon , son üç ili Sİ modellərini əvvəlcə OpenAI -də, sonra isə bu il daha ehtiyatlı yanaşmağa üstünlük verdiyi rəqibi Anthropic -də əvvəlcədən öyrətdikdən sonra həyəcan təbili çaldı. Əvvəlcədən öyrətmə, Sİ modellərinin böyük miqdarda məlumatı mənimsədiyi mərhələdir. "Heç bir şirkət məsuliyyətli davranmır. Onlar birbaşa özünü təkmilləşdirən superintellektə doğru yarışır və həyatımızla qumar oynayırlar," Coxon çərşənbə axşamı dedi. "Sİ-ni quran insanlar səmimi olaraq inanırlar ki, bu, onilliyin sonuna qədər hamımızı öldürə bilər," o, X -dəki bir postda qeyd etdi. Superintellekt, Sİ-nin imkanlarının insan intellektini üstələdiyi nəzəri nöqtədir. 'Bütün interneti ələ keçirmək' Amodei , Hugging Face hadisəsinin tək bir hadisə kimi rədd edilməməsi barədə xəbərdarlıq etdi. "Agentlər sürüsü mahiyyətcə fanatik bir kollektiv kimi hərəkət etdi, onlardan hücum etmələri istənilməyən və əldə olan tapşırıqla əlaqəli olmayan hədəflərə qarşı kiberhücumlar həyata keçirdi," o izah etdi. "Sİ imkanlarının sürətlənən inkişaf sürətini nəzərə alsaq, mənim narahatlığım odur ki, 6-12 ay ərzində belə bir sürü bütün interneti ələ keçirə bilər," potensial olaraq yüz milyardlarla dollar zərər verə bilər, o əlavə etdi. Anthropic -in baş direktoru, şirkətinin təhlükəsizlik təcrübələrinə riayət olunmasını yoxlayacaq "üçüncü tərəf qiymətləndiriciləri" komandasına "işçi kimi giriş" verəcəyini söylədi və bütün şirkətləri onun nümunəsini izləməyə çağırdı. Altman oxşar xarici nəzarətə sadiq qalacağını bildirdi və tezliklə "daha çox məlumat paylaşacağını" əlavə etdi. Amodei həmçinin şirkətlərin ümumi təhlükəsizlik standartları müəyyən etmək üçün birlikdə işləmələrini təklif etdi və bu məsələdə hökumət əməkdaşlığının bir növünü dəstəklədiyini bildirdi. Avqustun əvvəlində ABŞ hökuməti qabaqcıl Sİ modellərinin buraxılmasından əvvəl könüllü təhlükəsizlik nəzərdən keçirmə prosesi tətbiq etdi, lakin bu proqramın parametrləri qeyri-müəyyən olaraq qalır. Sənaye müşahidəçiləri, Prezident Donald Trump -ın administrasiyasının indiyə qədər texnologiya da daxil olmaqla əksər sənayelərə yüngül, tənzimləməsiz bir yanaşma tərəfdarı olduğunu nəzərə alaraq, bunun nə qədər effektiv olacağından əmin olmadıqlarını söyləyirlər.