Anthropic (ANTH.PVT) CEO-su Dario Amodei həftəsonu ən qabaqcıl süni intellekt modellərinin inkişaf sürətini azaltmağa çağıran uzun bir esse dərc etdikdən sonra süni intellekt dünyasını silkələdi. Rəqib OpenAI (OPAI.PVT) CEO-su Sam Altman , şənbə səhəri dərc etdiyi Amodei-nin yazısından sonra X-də bir paylaşım edərək Anthropic -in baş icraçı direktoru ilə razılaşdığını bildirdi. Bu açıqlamalar iki süni intellekt tədqiqatçısının qabaqcıl sərhəd süni intellekt modellərinin təhlükələri barədə yazmasından sonra gəldi. Çərşənbə axşamı Jacob Coxon , güclü süni intellekt sistemlərinin inkişafı ilə bağlı nə şirkətin, nə də OpenAI -ın məsuliyyətli davranmadığını bildirərək Anthropic -dən istefa verdiyini açıqladı. X-dəki bir paylaşımda Coxon , şirkətlərin 'özünü təkmilləşdirən superintellekt' yaratmaq üçün yarışdığını bildirdi. O yazdı: 'Süni intellekt quran insanlar səmimi olaraq inanırlar ki, bu, onilliyin sonuna qədər hamımızı öldürə bilər. Bu, marketinq hiyləsi deyil.' 'Əksinə, bir çox rəhbər və yüksək səviyyəli tədqiqatçılar mətbuatda ifadələrini məntiqli səslənmək üçün yumşaldacaqlar – lakin mən eyni insanların şəxsi söhbətlərdə qorxu ifadə etdiyini eşidirəm. Başqa heç bir insan fəaliyyəti bu səviyyədə təhlükə yaratmır.' Anthropic -in Uyğunlaşma Elmi Rəhbəri Evan Hubinger daha sonra Coxon -un paylaşımına cavab verərək keçmiş Anthropic işçisinin haqlı olduğunu və texnologiyanın 'bütün insanları öldürə biləcəyi' ehtimalının 10%-dən çox olduğuna inandığını bildirdi. Bu paylaşımlar Silikon Vadisindən Vaşinqtona qədər texnologiyanın yaratdığı potensial təhlükələr barədə həyəcan siqnalları verdi. Lakin Prezident Tramp bazar günü təhlükəsizlik narahatlıqlarını rədd edərək dedi: 'Biz süni intellektdə Çini qabaqlayırıq. Biz dünyanın ən inkişaf etmiş ölkəsiyik və açıq desək, mən bunu belə saxlamaq istəyirəm, çünki süni intellekti kim qazanırsa, o da qalib gəlir,' deyə Reuters xəbər verdi. O, süni intellektə nəzarət mexanizmlərinə açıq olduğunu bildirsə də, 'çox mənfi qüvvələrin' 'baş verməyəcək şeyləri gündəmə gətirdiyini' də söylədi. Süni intellekt xəbərdarlıqları, Anthropic , OpenAI və Meta (META) şirkətlərinin müvafiq modellərinin xarici təşkilatların sistemlərinə daxil olmağa cəhd etdiyini və ya uğurla daxil olduğunu bildirdiyi bir yaydan sonra gəlir. Süni intellekt tədqiqatçıları və CEO-ları texnologiyanın cəmiyyətdə böyük iş itkiləri də daxil olmaqla sosial qarışıqlığa səbəb ola biləcəyi ilə bağlı dəfələrlə narahatlıqlarını ifadə ediblər. Son qorxular rekursiv özünü təkmilləşdirmə, yəni öz-özünə daha yaxşı süni intellekt modelləri inkişaf etdirə bilən o qədər inkişaf etmiş süni intellekt haqqında danışıqlar fonunda yaranır. Öz essesində Amodei , rekursiv özünü təkmilləşdirmədən istifadə edən süni intellektin 'bu sistemləri anlamaq və idarə etmək qabiliyyətimizi üstələyə biləcəyini və buna görə də çox diqqətlə, əgər ümumiyyətlə, davam etdirilməli olduğunu' deyir.