Anthropic -in Baş İcraçı Direktoru (CEO) Dario Amodei getdikcə daha güclü süni intellekt (Sİ) sistemləri qurmaq yarışının yavaşladılması lazım olduğunu ictimai şəkildə etiraf etdikdən bir neçə saat sonra, onun rəqibi, OpenAI -nin CEO-su Sem Altman da bu fikri dəstəklədi. O əlavə etdi ki, Sİ firması Amodeinin təklif etdiyi təhlükəsizlik tədbirlərindən birini qəbul edəcək. Amodei Sİ inkişafının yavaşladılmasına çağırır Şənbə günü (yerli vaxtla) dərc olunan bir essedə Amodei qeyd etdi ki, Sİ şirkətləri yavaşlamalıdır və bunu etmək üçün üç hissəli plan təklif etdi. O iddia etdi ki, Sİ irəliləyişləri tədqiqatçıların onları anlamaq və idarə etmək qabiliyyətindən daha sürətli hərəkət edir. "Biz Sərhədi Tənzimləməliyik" başlıqlı essedə Amodei sürətlə inkişaf edən texnologiyanın yaratdığı riskləri vurğuladı və yazdı: "Biz Sİ modellərinin imkanlarını yaxşılaşdırma sürətini yavaşlatmalıyıq. Tərəqqi hələ də sürətli görünəcək və biz qazandığımız vaxtdan ağıllı istifadə etməliyik." Amodei mövqeyinə təsir edən iki əsas inkişafı qeyd etdi: Sİ sistemləri getdikcə daha qabaqcıl Sİ inkişaf etdirmək qabiliyyətinə malik olur, iyul ayında isə OpenAI modelindən güc alan muxtar Sİ agentləri Hugging Face Sİ şirkətinə məxsus sistemləri pozdu. Altman Amodeinin təklifini dəstəkləyir Anthropic CEO-sunun essedən sonra, OpenAI rəhbəri Sem Altman da Sİ inkişafının yavaşladılması ideyasını dəstəklədi. X -dəki bir paylaşımda Altman yazdı: "Dario ilə razıyam ki, biz sərhədi tənzimləməliyik. Bu, son həftələrdə OpenAI -də apardığımız müzakirələrin əsas mövzusu olub." O əlavə etdi: "İşçi kimi girişi olan müstəqil qiymətləndiricilərə sahib olmağa sadiq qalmaq əla fikirdir və biz də eyni şeyi edəcəyik. Tezliklə daha çox məlumat paylaşacağıq." Altmanın Sİ sistemlərinin inkişafını yavaşlatmaq ehtiyacını təkrarlaması, getdikcə daha güclü Sİ modellərinin yaratdığı potensial risklər barədə xəbərdarlıq edən oxşar bəyanatlar verdikdən bir neçə gün sonra baş verir. Bu həftənin əvvəlində OpenAI -nin CEO-su şirkət daxili iclasda işçilərə bildirib ki, firma Sİ sisteminin inkişaf sürətini yavaşlatmağı nəzərdən keçirməyə hazırdır, Bloomberg xəbər verib. Sİ firması əvvəllər modellərinin bəzi sahələrində inkişaf sürətini azaltmağı etiraf etmişdi. Şirkət bu həftənin əvvəlində Birləşmiş Ştatlar da məcburi ümummilli Sİ təhlükəsizlik standartlarını müdafiə etdiyini də bildirdi. Avqustun 18-də X -də paylaşılan bir yazıda Altman elan etdi: "Biz qarşımızdakı yeni imkanlar səviyyəsi üçün müvafiq uyğunlaşma, təhlükəsizlik və monitorinq standartlarına cavab verə biləcəyimizə əmin olmaq üçün bəzi sərhəd RL təlimlərini dayandırmışıq. Modelin inkişafı indi son dərəcə sürətlidir və biz həmişə demişik ki, model imkanlarının təhlükəsizlik və uyğunlaşma sürətini üstələdiyini hiss etsək, tədbir görəcəyik." O əlavə etdi: "Biz Sİ təhlükəsizliyinə çox dərindən əhəmiyyət veririk. İnanırıq ki, bütün sahə ortaq təhlükəsizlik standartları üzərində koordinasiya etməli olacaq, lakin bu müddətdə birtərəfli hərəkət edəcəyik." Elon Musk Amodeinin xəbərdarlığını dəstəkləyir Bu arada, milyarder Elon Musk da Amodeinin paylaşımından sonra öz fikirlərini bölüşdü və Anthropic CEO-sunun "haqlı" olduğunu bildirdi. Ayrı bir paylaşımda Musk 2023-cü ildəki paylaşımını yenidən paylaşaraq yazdı: “Mən uzun müddətdir Sİ barədə həyəcan təbili çalıram.” Aparıcı Sİ fiqurlarının inkişaf sürətini yavaşlatmaq çağırışları, getdikcə daha güclü Sİ sistemlərinin yaratdığı risklər barədə artan narahatlıqlar fonunda baş verir, Anthropic -in iki tədqiqatçısı da getdikcə daha güclü Sİ sistemlərinin yaratdığı risklər barədə xəbərdarlıq edir. Anthropic tədqiqatçıları Sİ riskləri barədə xəbərdarlıq edir Bu həftənin əvvəlində Anthropic tədqiqatçısı Jacob Coxon vəzifəsindən istefa verdiyini elan etdi. X -dəki uzun bir paylaşımda Coxon bildirdi: "Sİ quran insanlar səmimi olaraq inanırlar ki, bu, onilliyin sonuna qədər hamımızı öldürə bilər. Bu, marketinq hiyləsi deyil. Əksinə, bir çox rəhbərlər və baş tədqiqatçılar mətbuatda ifadələrini məntiqli səslənmək üçün yumşaldacaqlar - lakin mən eyni insanların şəxsi söhbətlərdə qorxu ifadə etdiyini eşidirəm. Başqa heç bir insan fəaliyyəti bu səviyyədə təhlükə yaratmır." Qısa müddət sonra, başqa bir Anthropic alimi, Evan Hubinger , Coxonun mövqeyini dəstəklədi və yazdı: "Biz həqiqətən də səmimi olaraq inanırıq ki, Sİ bütün insanları öldürə bilər." Bu yaxınlarda Anthropic və Google DeepMind -dən ayrılan digər iki tədqiqatçı da oxşar narahatlıqları ifadə etdi. Sİ imkanları sürətlə inkişaf etməyə davam etdikcə, sənayenin nə qədər yavaşlaması və təhlükəsizlik tədbirlərinin necə ayaqlaşması barədə mübahisənin güclənəcəyi ehtimal olunur.