Hər sentyabr ayında Silikon Vadisi ndən idarəçilərin elitası Goldman Sachs investisiya bankının ev sahibliyi etdiyi konfransda investorları cəlb etmək üçün San Fransisko dakı Palace Hotel ə toplaşır. Keçən həftə, böyümə və potensial gəlirlər haqqında danışıqlar arasında, texnologiya nəhəngləri Anthropic tədqiqatçısı Jacob Coxon un qəfil istefasına toxundular. OpenAI -də işlədikdən sonra əsas rəqibi Anthropic ə qoşulan 27 yaşlı Coxon çərşənbə axşamı bildirdi ki, süni intellekt (Sİ) quran insanlar texnologiyanın bəşəriyyəti məhv edə biləcəyinə inanırlar. O dedi: “Onlar bizim həyatımızla qumar oynayırlar, bunlar tezliklə hər şeyi sındıra bilən fövqəlbəşər sistemlər olacaq”. Coxon heç də Sİ daxilindən ictimaiyyətə həyəcan təbili çalan ilk şəxs deyil. Son illərdə həm Anthropic dən, həm də OpenAI -dən açıq təhlükəsizlik narahatlıqları ilə bağlı bir sıra yüksək səviyyəli istefalar olub və bəzi hazırkı Anthropic əməkdaşları hətta Coxon un paylaşımını təkrarladılar. Anthropic də bir komanda rəhbəri olan Evan Hubinger X-də yazdı: “Biz həqiqətən də Sİ-nin bütün insanları öldürə biləcəyinə səmimi qəlbdən inanırıq! Şəxsən mən bunun növbəti onillikdə >10% olduğunu düşünürəm”. Coxon öz paylaşımlarında xəbərdarlıqlarının “marketinq olmadığını” açıq şəkildə bildirsə də, Silikon Vadisi ndə bəzi rəhbərlər və investorlar daxili şəxslərin son həyəcan təbili çalmasına şübhə ilə yanaşıblar. Anthropic və OpenAI -nin potensial rekord qıran ilkin kütləvi təkliflərə (IPO) hazırlaşdığı bildirilir və texnologiya sektorunda bəziləri Sİ-nin təhlükələri ilə bağlı son kəskin şərhlərin bu məhsulların gücünü göstərərək həyəcan yaratmaq üçün nəzərdə tutulduğunu irəli sürüblər. Anthropic in rəhbəri Dario Amodei Sİ texnologiyasının giriş səviyyəli ağ yaxalı iş yerlərinin yarısını məhv edə biləcəyini və “növ olaraq kim olduğumuzu sınaqdan keçirəcəyini” söylədiyi üçün tənqid atəşinə tutulub. Konfransın spikerlərindən biri, Grindr -in baş direktoru George Arison BBC -yə bildirdi ki, Coxon və digərlərinin bu həftəki şərhləri “ Anthropic də anti-sivilizasiya dünyagörüşünün” göstəricisidir. O, onları “təhlükəli” adlandırdı və bildirdi ki, bu şərhlər onu LGBTQ+ tanışlıq tətbiqində bəzi mühəndislərə Anthropic in texnologiyasından istifadəni dayandırmağı tapşırmağa vadar edib. O dedi: “Səhmdarlarımızın pulunun idarəçiləri olaraq, ictimai bəyanatları baxımından bu şirkətin etdiyi işə güvənmək məsuliyyətsizlikdir”. Arison dedi: “Bəlkə də onlar buna həqiqətən inanırlar. Yaxud iddia edə bilərsiniz ki, onlar bunu deyirlər, çünki daha çox investor dəstəyi toplamaq üçün əla bir yoldur, çünki bu qiymətləndirmələri əsaslandırmanın yeganə yolu əslində iddia etməkdir: 'Mən hər sənayeni ələ keçirəcəyəm və hər işi ələ keçirəcəyəm, və mənim Sİ-m bütün bu işləri görəcək'”. Anthropic bu ilin əvvəlində son maliyyələşdirmə raundunda 965 milyard dollar (713 milyard funt sterlinq) dəyərində qiymətləndirilmişdi. BBC Anthropic dən bəyanatlara cavab istəyib. Şənbə günü səhər yayımlanan bir essedə Amodei Sİ modelinin inkişafının yavaşladılmasına və qlobal tənzimləməyə çağırdı və Sİ ilə bağlı risklərin “ciddi” olduğunu bildirdi. Nvidia -nın rəhbəri Jensen Huang da konfransda izdiham qarşısında Coxon un şərhlərini müzakirə etdi, qrupdakı bir neçə nəfər BBC -yə bildirdi. Onlar dedilər ki, o, bu şərhləri doğru olmadığını deyərək rədd edib. Huang daha əvvəl Sİ-nin “bəşəriyyətin sonu olacağı” fikrinin “tamamilə cəfəngiyat” olduğunu söyləmişdi. Və Sİ bumunda iş marağı olsa da – Nvidia Sİ sistemlərini gücləndirən çiplər istehsal edir – onun şərhləri Silikon Vadisi ndə hazırkı və keçmiş əməkdaşların ekzistensial xəbərdarlıqlarına qarşı artan reaksiyanı əks etdirir. Bəzi tənqidçilər hətta Anthropic i rəqabəti aradan qaldıra biləcək və onu və OpenAI -ni sektorda inhisarçı vəziyyətdə qoya biləcək tənzimləyici təkan yaratmaq ümidi ilə qorxu yaymaqda günahlandırıblar. Altimeter Capital investisiya firmasının rəhbəri Brad Gerstner konfransdan Huang ın şəkillərini paylaşaraq Coxon u “gülünc hiperbola”da günahlandırdı. Cümə günü, Sİ platforması Hugging Face -in baş direktoru Clement Delangue mövzuya toxundu. Nvidia -nın keçən həftə əldə edəcəyini elan etdiyi Hugging Face , bu ilin əvvəlində OpenAI agentləri tərəfindən sındırılmışdı ki, bu da Sİ təhlükəsizliyi ilə bağlı etirazlara səbəb olmuşdu. O, X-də yazdı: “Üzr istəyirəm, amma Jacob dan Sİ-nin yox olma riski haqqında soruşmaq, kondisioner ustasından iqlim dəyişikliyi haqqında soruşmaq kimidir. Demək istəmirəm ki, bu maraqsız və ya səhvdir, amma hər şeyi perspektivdə saxlayaq”. Həm Gerstner , həm də Delangue şənbə günü Amodei nin təklifi yayımlandıqdan sonra daha ehtiyatlı davrandılar, Gerstner bu ideyanı sürət və təhlükəsizlik kimi rəqabət aparan mülahizələri tarazlaşdırmaqda “vacib bir addım” adlandırdı. Delangue Amodei tərəfindən təklif olunan potensial həllərin bir hissəsi olmağa kömək etməyi təklif etdi. Aprel ayında Anthropic , Mythos alətinin bəzi hakerlik və kibertəhlükəsizlik tapşırıqlarında insanlardan üstün ola biləcəyini bildirdikdə Sİ dünyasını silkələdi. Mythos həmçinin sandbox mühiti kimi tanınan yerdən müstəqil olaraq qaçmaq qabiliyyətini göstərdi ki, bu da tənzimləyicilər, qanunvericilər və müəssisələr arasında Sİ-nin potensial təhlükələri haqqında mübahisələrə səbəb oldu. Cümə axşamı yeni bir inkişafda, Anthropic bioloji silahların inkişafı və kiber-casusluq daxil olmaqla fəaliyyət üçün Sİ texnologiyasından istifadə etməyə çalışan təhdid aktorlarını tapdığını və dayandırdığını bildirdi. The Palace Hotel in vitrajlı günbəz atriumunda asılan parıldayan çilçıraqların altında bəzi investorlar BBC -yə bildirdilər ki, Coxon və digərlərinin şərhləri hökumətin sərt tədbirlərini sürətləndirə bilər. Bu ay Vermont dan solçu senator Bernie Sanders tərəfindən birgə sponsorluq edilən, Süni Fövqəlintellektin Qadağan Edilməsi Aktı kimi tanınan federal qanunvericilik, qabaqcıl Sİ inkişafında müvəqqəti fasilə tətbiq edəcək. Sanders cümə axşamı BBC -nin Newsnight proqramına dedi: “İnsanların Sİ üzərində nəzarəti itirmək ehtimalı yüksəkdir. Və sonra nə olacağını heç kim bilmir. Amma fəlakətli ola bilərmi? Bəli, ola bilər”. O əlavə etdi: “Alimlər sizə deyəndə ki, bunun bəşəriyyətə kataklizmik təsiri ola bilər, bunu yavaşlatmayın demək üçün axmaq olmalısınız”. Lakin sənaye miqyasında hökumət tərəfindən sərt tədbirlər görülərsə, buna böyük ehtimalla qanunvericilər rəhbərlik edəcək, Sİ-nin maneəsiz inkişafı siyasətini əsasən dəstəkləyən Tramp administrasiyası deyil. Bu, ABŞ -ın Çin ə dominantlığını itirməməsini təmin etmək üçün zəruri kimi qiymətləndirilib. Bu həftə jurnalistlərə danışan Prezident Donald Tramp dan Sİ-nin insanlığın yox olmasına səbəb olması ilə bağlı hər hansı narahatlığı olub-olmadığı soruşuldu. O dedi: “Xeyr, heç bir narahatlığım yoxdur. Mənim narahatlığım odur ki, əgər biz Sİ-də qalib gəlməsək, çox pis vəziyyətə düşəcəyik. Biz hazırda Çin i qabaqlayırıq”. Lakin prezidentin Anthropic ilə münasibətləri gərgin olub. Şirkət ABŞ ordusunun Sİ modellərindən istifadə etməsinə icazə vermədikdən sonra, Ağ Ev onu “radikal solçu, oyanmış şirkət” adlandırdı və təchizat zənciri riski kimi təyin etdi ki, bu da federal hakimin qanunsuz olduğuna qərar verdiyi bir addım idi. Tramp administrasiyasının ilk günlərində Tramp ın Sİ çarı olan David Sacks də Anthropic ə dəfələrlə hücum edib. OpenAI Ağ Ev dən eyni səviyyədə yoxlamaya məruz qalmayıb. Keçən həftə Astra adlı yeni bir model buraxarkən, OpenAI prezidenti Greg Brockman firmasının Tramp administrasiyası ilə münasibətlərini “çox yaxşı tərəfdaşlıq” kimi təsvir etdi. İyun ayında birjaya çıxacağını elan edən OpenAI , ən son 852 milyard dollar dəyərində qiymətləndirilmişdi. Şirkət BBC -nin şərh istəyən sorğusuna cavab vermədi. Bu həftə San Fransisko dakı konfransda, sərvət axtarışı, Sİ ilə bağlı artan ekzistensial narahatlıqları və ya potensial hökumət məhdudiyyətləri ilə bağlı qorxuları üstələyirdi. Bir investor Anthropic in qarşıdan gələn S-1 sənədini səbirsizliklə gözlədiyini bildirdi ki, bu sənəd şirkətin səhmlərini satmaq üçün qiymətli kağızlar tənzimləyicilərinə təqdim etməli olduğu bir sənəddir. Onun şirkət haqqında əsas sualı sadə idi: firma gəlirlidirmi? Cümə axşamı dünyanın sonuna gəldiyindən qorxub-qorxmadığı soruşulduqda, həmin gün konfransda Nvidia ilə müqavilə imzalayan çip şirkəti d-Matrix -in baş direktoru Sid Sheth sözlərini əsirgəmədi. O dedi: “Xeyr”.