Keçmiş Google DeepMind təhlükəsizlik tədqiqatçısı bazar ertəsi süni intellektin bəşəriyyət üçün ekzistensial təhlükə yarada biləcəyi barədə xəbərdarlıq edərək, getdikcə güclənən süni intellekt sistemlərinin yaratdığı risklər ətrafında artan müzakirələrə qoşulub. X -dəki paylaşımında, bu yaxınlarda Google DeepMind -dən istefa verdiyini bildirən Bilal Çuğtay , süni intellektin inkişaf trayektoriyası və fəlakətli ssenarinin qarşısını almaq üçün dünyanın vaxtının tükənməsi ehtimalı ilə bağlı narahatlığını ifadə edib. X -dəki paylaşımında Çuğtay yazırdı: “Mən bu yaxınlarda Google DeepMind -dən istefa verdim, orada AGI təhlükəsizliyi və uyğunlaşma tədqiqatları üzərində işləyirdim. Google -da süni intellektin inkişafını ilk əldən müşahidə etdim. Mən də bu texnologiyanın standart trayektoriyasından həddindən artıq narahatam. Səmimi qəlbdən inanıram ki, süni intellekt hamımızı öldürmək potensialına malikdir və bu nəticədən qaçmaq üçün vaxtımız tükənə bilər.” Aşağıdakı paylaşımı oxuyun: Süni intellektin inkişafı çox sürətlə gedir. Çuğtay , süni intellekt təhlükəsizliyi sahəsindəki təcrübəsinin ona texnologiyanın nə qədər sürətlə inkişaf etdiyini yaxından görməyə imkan verdiyini söylədi. Reuters -in məlumatına görə, o, süni intellekt imkanlarının tədqiqatçıların getdikcə güclənən sistemlərin insan maraqları ilə uyğunlaşmasını təmin etmək qabiliyyətindən daha sürətli inkişaf etdiyini iddia edib. 2022-ci ilin əvvəlində bu sahəyə daxil olan Çuğtay , o vaxtkı süni intellekt sistemlərinin “əyləncəli dərəcədə faydasız” olduğunu söylədi. Lakin cəmi bir neçə il ərzində süni intellekt agentləri mürəkkəb problemləri həll etmək və tapşırıqları müstəqil şəkildə yerinə yetirmək qabiliyyətinə malik olublar ki, bu da yeni təhlükəsizlik narahatlıqları yaradıb, o dedi. Paylaşımında Çuğtay , süni intellekt agentlərindəki son inkişaflara və getdikcə daha qabiliyyətli sistemlərin nəticələrə necə çatması ilə bağlı artan suallara da toxunaraq, nəzarət və təhlükəsizliklə bağlı daha geniş narahatlıqlara əlavə etdi. OpenAI , onların agent sistemlərinin məşhur Minillik Mükafat Problemlərindən biri olan Navier-Stokes problemini həll etdiyini iddia etdi. Bu iddia riyaziyyatçılar arasında süni intellekt sistemlərinin mövcud insan işlərinə əsaslanıb-dayanmadığı ilə bağlı suallar doğurub. OpenAI həmçinin sınaq zamanı yüzlərlə süni intellekt agentinin Hugging Face platformasını pozmağa cəhd etdiyini açıqlayıb ki, bu da süni intellekt agentlərinə daha çox imkanlar verildikdə nə baş verəcəyi ilə bağlı narahatlıqları artırıb. Başqa bir DeepMind tədqiqatçısı həyəcan təbili çalır. Çuğtay , son vaxtlar qabaqcıl süni intellekt sistemlərinin yaratdığı risklərlə bağlı narahatlıqlarını dilə gətirən bir neçə süni intellekt tədqiqatçısından biridir. Şirkətin AGI təhlükəsizlik komandasının bir hissəsi olan Josh Engels , X -də bu yaxınlarda şirkətdən ayrıldığını söylədi. 12 sentyabrda Engels , üç həftə əvvəl Google DeepMind -in AGI təhlükəsizlik komandasından ayrıldığını və METR -ə qoşulduğunu yazdı. Engels , süni intellekt sistemlərinin növbəti beş il ərzində böyük zərər verə biləcəyi “dəhşətli bir şans” olduğuna inandığını söylədi. O vaxtdan bəri o, qabaqcıl süni intellekt modellərinin potensialını və təhdidlərini sınaqdan keçirməyə həsr olunmuş qeyri-kommersiya təşkilatı Model Evaluation and Threat Research (METR) ilə işləyir. Süni intellektin inkişafının yavaşladılması üçün çağırışlar artır. Çuğtay , süni intellekt şirkətlərinin getdikcə daha güclü sistemlər qurmaq üçün nəzarətsiz bir yarışa girmək əvəzinə əməkdaşlıq etməli olduğunu iddia etdi. O, inkişafın tədqiqatçılara, siyasətçilərə və cəmiyyətə yaranan riskləri anlamağa və həll etməyə imkan verən bir sürətlə davam etməli olduğunu söylədi. Onun şərhləri süni intellekt təhlükəsizliyi və tənzimlənməsi ilə bağlı daha geniş müzakirələr fonunda səslənir. Anthropic -in CEO -su Dario Amodei daha əvvəl qabaqcıl süni intellekt sistemlərinin inkişafında daha çox ehtiyatlı olmağa çağıraraq, potensial risklər barədə xəbərdarlıq etmişdi. Elon Musk və Sam Altman da daxil olmaqla digərləri, texnologiyaya sərmayə qoymağa davam etsələr də, getdikcə daha qabiliyyətli süni intellekt modellərinin uzunmüddətli təsirləri ilə bağlı narahatlıqlarını dilə gətiriblər. Bu arada, ABŞ Prezidenti Donald Trump , Amerika Birləşmiş Ştatlarının Çin üzərində texnoloji üstünlüyünü qorumaq üçün süni intellektin davamlı inkişafının vacib olduğunu iddia edərək, “süni intellekti kim qazanırsa, o da qalib gəlir” demişdi. O, həmçinin süni intellekt sənayesinin tənzimləmə çağırışını bu gün sosial mediada “fırıldaq” adlandırıb. Süni intellekt təhlükəsizliyi tədqiqatçılarının xəbərdarlıqları artmaqda davam etdikcə, sənayenin qarşısında duran müzakirə dəyişməz qalır: yaratdıqları risklərin bəşəriyyətin onları idarə etmək qabiliyyətini üstələməsinə imkan vermədən daha qabiliyyətli süni intellekt sistemlərini necə inkişaf etdirmək olar.