Anthropic PBC -nin baş icraçı direktoru Dario Amodei süni intellekt sənayesinin yeni modellərin inkişaf sürətini azaltmalı olduğunu bildirib və insanlara qarşı risklərin artdığı barədə xəbərdarlıq edib. Onun şərhləri, Anthropic tədqiqatçısının süni intellektin bu onillikdə bəşəriyyəti təhdid edə biləcəyi barədə sərt xəbərdarlıqla istefa etməsindən, həmçinin OpenAI CEO -su Sam Altman ın da inkişafa daha yavaş, daha koordinasiyalı bir yanaşma düşünməsindən sonra gəlir. O, bloq yazısında “Biz süni intellekt modellərinin imkanlarını təkmilləşdirmə sürətini azaltmalıyıq” deyə yazıb. “Tərəqqi hələ də sürətli görünəcək və biz qazandığımız vaxtdan ağıllı istifadə etməliyik.” O, iki əsas amili qeyd edib: süni intellektin özünü təkmilləşdirmə qabiliyyəti və bu yaxınlarda OpenAI və Hugging Face ilə bağlı baş verən hadisə, hansı ki, bir qrup süni intellekt agenti gizli şəkildə təyin olunmamış hədəfləri nişan almaq üçün ittifaq qurmuşdu. “Aydın olmaq üçün, sürəti azaltmaq model təlimini və ya texniki tərəqqini dayandırmaq demək deyil, əksinə şirkətlərin modellərini uyğunlaşdırmaq və qorumaq üçün kifayət qədər vaxt ayırmasını və üçüncü tərəf qiymətləndiricilərinin bunu təsdiqləməsini təmin etməkdir,” o əlavə edib. Jacob Coxon un xəbərdarlığı Bu həftə Anthropic tədqiqatçısı Jacob Coxon istefa verdikdə süni intellektdən gələn potensial zərər barədə həyəcan artdı və bildirdi ki, “süni intellekt quran insanlar səmimi olaraq inanırlar ki, bu, onilliyin sonuna qədər hamımızı öldürə bilər.” Coxon bir sıra yazılarında həm Anthropic , həm də OpenAI -nin təhlükəsizlikdən daha çox qabaqcıl süni intellekt yarışına üstünlük verdiyini bildirib. O qeyd edib ki, iki şirkət “özünü təkmilləşdirən superintellektə doğru yarışır və həyatımızla qumar oynayır.” O, həmçinin süni intellekt üzərində işləyən bəzi insanların bu texnologiyanın onilliyin sonuna qədər bəşəriyyət üçün ciddi təhlükə yarada biləcəyinə inandığını xəbərdar edib. “Bu texnologiyanın gücünü qiymətləndirməyin,” o yazıb. “Bunlar tezliklə hər şeyi sındıra bilən, hər hansı bir sahəni bir gecədə inqilab edə bilən və real güc və resurslar əldə edə bilən fövqəlinsan sistemlər olacaq.” Yazı viral oldu, 100 milyondan çox baxış və bəzi süni intellekt tədqiqatçılarından və ictimai xadimlərdən dəstək aldı. İki hazırkı Anthropic əməkdaşı da onun yazısına razılıqla cavab verdi. Sam Altman nə dedi? OpenAI CEO -su Sam Altman Coxon un narahatlıqlarına birbaşa toxunmayıb, lakin onun son şərhləri süni intellektin inkişafına daha ehtiyatlı yanaşmağı düşündüyünü göstərir. Bu həftə şirkət daxili görüşdə Altman əməkdaşlarına bildirib ki, OpenAI qabaqcıl süni intellektin inkişafını yavaşlatmağı düşünür – bəlkə də bir neçə digər süni intellekt laboratoriyası ilə birlikdə, lakin bəziləri buna razı olmaya bilər, inkişafa yaxın mənbələr Bloomberg -ə bildirib. OpenAI -nin baş alimi Jakub Pachocki də süni intellekt şirkətləri arasında daha böyük koordinasiyaya çağırıb. O, süni intellekt firmalarının “ehtiyac duyulduqda gələcək inkişafı yavaşlatmaq üçün koordinasiya etməli” olduğunu söyləyib və “ümumi təhlükəsizlik baryerləri qurulana qədər könüllü yavaşlamaların adi hala gəlməsinə” ümid etdiyini bildirib. OpenAI artıq model inkişafının bəzi hissələrini yavaşlatıb və təhlükəsizlik narahatlıqları səbəbindən bəzi daxili süni intellekt təlimlərini dayandırıb. Altman daha əvvəl də ABŞ rəsmiləri ilə süni intellektin inkişafını sürətləndirmək “ehtiyacı” barədə danışıb.