Anthropic -dən ayrılan bir süni intellekt tədqiqatçısı BBC -yə bildirib ki, texnologiya üzərində işləyən insanlar onun inkişaf sürətindən və bəşəriyyət üçün nə demək ola biləcəyindən 'həqiqətən qorxurlar'. Jacob Coxon şənbə günü BBC -nin Laura Kuenssberg ilə nəzarətdən çıxmış süni intellektlə bağlı narahatlıqlarını ifadə etdiyi viral istefa postu haqqında danışıb. O, deyib: 'İnanıram ki, əgər indiki inkişaf sürətini azaltmasaq, yaxın gələcəkdə hamımızın ölmək ehtimalı yüksəkdir.' Onun istefası, sənayedə artan təhlükəsizlik narahatlıqları fonunda baş verib, o cümlədən keçmiş rəhbəri, Anthropic -in rəhbəri Dario Amodei də şənbə günü yazdığı essedə inkişafın yavaşladılması üçün mübahisə edib. Lakin bəzi sənaye xadimləri deyirlər ki, təhlükələr şişirdilir, bəlkə də iki ən böyük süni intellekt şirkətinin potensial birja debütündən əvvəl səs-küy yaratmaq və ya rəqiblərini yavaşlatacaq tənzimləməni təşviq etmək üçün. Süni intellekt modellərinin təliminə diqqət yetirən Böyük Britaniya -dan olan 27 yaşlı Coxon , Elon Musk və OpenAI -dən Sam Altman da daxil olmaqla süni intellekt liderlərinin Amodei -yə bənzər narahatlıqları bölüşdüyünü bildirib. O deyib: 'Onların hamısı süni intellektin ələ keçirmə potensialına qarşı diqqətli olmağın zəruriliyi barədə bəyanatlar veriblər. Onların hamısı bu barədə danışıblar. Süni intellektin ələ keçirməsi insanlığın yox olmasını nəzərdə tutur,' Coxon deyib. Coxon -a görə, cavab vermək ən çətin sual bunun necə görünəcəyidir. Coxon deyib: 'Təqdim edə biləcəyiniz hər hansı konkret ssenari elmi fantastika kimi səslənir,' lakin qeyd edir ki, artıq baş vermiş irəliləyişlər keçmişdə fantastika kimi səslənərdi. Potensial bir ssenari, süni intellekt agentlərinin tibbi laboratoriyalara daxil olaraq 'ölümcül virusları müstəqil şəkildə istehsal etməsini' əhatə edə bilər, Coxon deyib. Onun sadaladığı başqa bir nümunə, süni intellektin 'dünyanın işlədiyi kritik infrastruktura' daxil olması ola bilər. Tədqiqatçı OpenAI -nin bu yaxınlarda yayımladığı hesabatı qeyd edir ki, bu hesabatda öz texnologiyasının Hugging Face adlı onlayn platformaya qarşı necə haker hücumları etdiyi ətraflı təsvir edilib. 'Onlar bunu müstəqil şəkildə, heç bir insan təşviqi olmadan etdilər. Onlar bu haker hücumlarına başlamağı seçdilər. Bu, hər şeyin sürətlənməsi və eyni zamanda qorxulu hala gəlməsinin birləşməsi idi,' Coxon deyib. Amodei -nin şərhlərində qeyd olunan risklərdən biri, interneti ələ keçirə biləcək bir superkompüter kimi fəaliyyət göstərən bot sürüsü idi. Coxon deyib ki, bu ssenari altı aydan bir ilə qədər real ola bilər. Anthropic və OpenAI -nin potensial rekord qıran ilkin kütləvi təkliflərə hazırlaşdığı bildirilir. Sənaye xadimləri süni intellektin təhlükələri və gücü haqqında şərhlərin səs-küy yaratmaq üçün nəzərdə tutulduğunu irəli sürüblər. Digər tənqidçilər deyirlər ki, Anthropic rəqabəti bloklamaq üçün tənzimləyici təkan yaratmağa çalışır, bu da onu və OpenAI -ni duopoliya ilə tərk edir. Coxon -un fikirləri Hugging Face süni intellekt platformasının baş direktoru Clement Delangue tərəfindən də şübhə altına alınıb. O, X -də yazıb: 'Üzr istəyirəm, amma Jacob -dan süni intellektin yox olma riski haqqında soruşmaq, kondisioner ustasından iqlim dəyişikliyi haqqında soruşmaq kimidir.' 'Demirəm ki, bu mütləq maraqsız və ya səhvdir, amma gəlin hər şeyi perspektivdə saxlayaq.' Lakin Amodei -nin şənbə günü yazdığı essedən sonra Delangue , Anthropic rəhbərinin təklif etdiyi potensial həllərin bir hissəsi olmağa kömək etməyi təklif etdi. Nvidia -nın rəhbəri Jensen Huang da keçən həftə Goldman Sachs investisiya bankının təşkil etdiyi konfransda bir izdiham qarşısında Coxon -un şərhlərini müzakirə etdi, qrupdakı bir neçə nəfər BBC -yə bildirdi. Onlar dedilər ki, o, bu şərhləri doğru olmadığını rədd etdi. Huang daha əvvəl süni intellektin 'bəşəriyyətin sonu olacağı' fikrinin 'tamamilə cəfəngiyat' olduğunu demişdi. Və süni intellekt bumunda biznes marağı olsa da – Nvidia süni intellekt sistemlərini gücləndirən çiplər istehsal edir – onun şərhləri Silicon Valley -də hazırkı və keçmiş işçilərin ekzistensial xəbərdarlıqlarına qarşı artan reaksiyanı əks etdirir.