Realistik baxımdan süni intellekt (Sİ) məni necə öldürə bilər? Əsas təhdid nədir? Nüvə müharibəsi, cəmiyyətin dağılması nəticəsində ölüm, yoxsa virus? Bütün bu hesabatları eşidirəm ki, o, bizi öldürə bilər, lakin bunun praktikada necə baş verə biləcəyi hələ də aydın deyil. Düzünü desəm, hər şey çox qeyri-müəyyən səslənir ki, ciddi qəbul edilsin. Pottys99 Aisha: Nəzərə alsaq ki, bu mərhələdə Sİ -nin bioloji silahlar və ya viruslar ətrafındakı tənliyi əhəmiyyətli dərəcədə dəyişdirə biləcəyi ehtimalı az görünür… Son onilliklər ərzində bioloji silah hücumlarının qarşısını alan yeni ölümcül virusların icad edilməsinin çətinliyi deyil, digər, daha adi məsələlər olub. Aum Shinrikyo -nun Tokio mərkəzində botulizm və sibir xorası yayaraq çox sayda insanı öldürə bilməməsini nəzərdən keçirin. Çoxlu logistik çətinliklər var və kimyəvi silahlar daha sadə görünür. Bunlar Sİ -nin yenilərini icad etməsinə ehtiyac olmadan mövcuddur. Əlaqəli: Əvvəllər düşünürdüm ki, Sİ hamımızı öldürəcək, ta ki texnologiya rəhbərləri Sİ -nin hamımızı öldürəcəyini deyənə qədər və indi o qədər də əmin deyiləm | First Dog on the Moon İnsanlar Sİ -ni əsas nüvə sistemlərinə cavabdeh qoymaq kimi yanlış qərar verə bilərlər, lakin bu, azğın Sİ səhvindən daha çox insan səhvi kimi görünür. İnsanlar Sİ olmadan da taktiki döyüş başlıqlarını işə salmaq kimi yanlış qərar verə bilərlər. Bəs Sİ bizi başqa necə öldürə bilər? Əlbəttə ki, çoxlu ağlabatan ssenarilər var. Əgər siz Qəzza və ya İran da mülki şəxssinizsə, o, ABŞ və ya İsrail raketini sizin istiqamətinizə yönəldə bilər. Lakin bəlkə də diqqətimizi Dr Strangelove ssenarilərinə deyil, sistemlərə cavabdeh olan insanlara və şirkətlərə daha məhsuldar şəkildə yönəltməliyik. Tarix boyu yeni texnoloji nailiyyətlər qiyamət fəryadları ilə qarşılanıb. Sİ -yə qarşı fəryadlar fərqlidirmi? Virtualewit Blake: Qiyamət proqnozlarının son zamanlar keyfiyyəti tarix boyu oxşar ola bilər, lakin düşünürəm ki, yenilənmiş qiyamət fəryadlarına qulaq asmağımızın səbəbi hər bir texnologiyanın artan gücüdür. Sİ əvvəllər mümkün hesab etmədiyimiz təsirli işləri yerinə yetirə bilir ki, bu da kollektiv təxəyyülümüzü həm ümidverici, həm də qiyamət nəticələrinə sövq edib. Sİ indi həqiqətən idarə oluna bilərmi, yoxsa biz elə bir dönüş nöqtəsini keçmişik ki, hökumətlər və şirkətlər hansı addımı atmasından asılı olmayaraq, kimsə texnologiyanı kim bilir nə qədər irəlilətməyə davam edəcək? Tigon20 Aisha: Gəlin bir az geri çəkilək. İstənilən texnologiyanı irəlilətmək həmişə mümkündür, nə olursa olsun… Lakin görünür, siz tənzimləmənin bəşəriyyəti məhv edəcək bir növ superintellektin yaranmasının qarşısını ala bilib-bilməyəcəyini düşünürsünüz. Hesabatlarımız superintellektin yaranacağı və Yer kürəsi ni məlumat mərkəzləri ilə örtəcəyi fikrini dəstəkləmir. Əslində, biz aşkar etmişik ki, sənayenin özü bu cür terminologiya ilə sərbəst oynayır: məsələn, OpenAI -nin icraçı direktoru Greg Brockman -ın, OpenAI -nin CEO -su Sam Altman -ın bu termini “əhəmiyyətsiz marketinq termini” adlandırmasından bir neçə gün sonra şirkətin AGI (ümumi süni intellekt) əldə etdiyini iddia etməsini nəzərdən keçirin. Hazırda, nəzarətdən çıxmış Sİ ilə bağlı bir sıra sənaye xəbərdarlıqları məhdud sayda hadisələrə və seçilmiş detallara əsaslanır. Əlimizdə olan sübutlar Sİ -nin nəzarətsiz olduğunu və ya onun iradəsinin olduğunu göstərmir; bir çox ekspert bu çərçivənin yanıltıcı olduğunu irəli sürür. Məsələn, Hugging Face hadisəsində, sözdə “agent sürüsü” ona deyilənləri edirdi – testi keçirdi. Mənbələrimiz Sİ -ni antropomorfizasiya etməkdən və ya ona niyyət aid etməkdən çəkinməyi tövsiyə edir. Bunu etmək, əlverişli tənzimləməyə nail olmağa çalışan sənaye narrativlərinə xidmət edir. Əgər Sİ insan irqini məhv etsə, bu, davamlı olardımı? Əgər onun güc mənbəyini və infrastrukturunu fiziki olaraq genişləndirmək və saxlamaq üçün robototexnikada bərabər irəliləyiş olmasa, nəhayət fiziki olaraq dağılarmı? Merrth Blake: Sİ bir gün elektrik stansiyalarını, çip fabriklərini və öz məlumat mərkəzlərini qurmaq və özünü təmin etmək üçün kifayət qədər robotu ələ keçirmək üçün kifayət qədər qabiliyyətli, məlumatlı və əlaqəli ola bilər. Bilmirəm. Cavab üçün xəbər məqalələrindən daha çox elmi fantastikaya baxardım. Baxmayaraq ki, The Matrix bir insanın rahat simulyasiya ilə ağrılı reallıq arasında seçimi ilə daha məşhurdur, bu, həm də robotların yeni batareyalara ehtiyacı haqqında bir hekayədir. Onların güc mənbəyinə olan ümidsizliyi onları insanlara qarşı çevirir. Çoxsaylı hekayələr üçün I, Robot bəlkə də şüurlu robotlar haqqında yazılmış ən böyük kitabdır və bu anda yenidən oxunmağa layiqdir. Əlaqəli: Sİ qiyamət dövrü sizi boğur? Budur, hər şeyi anlamaq üçün əsas oxu siyahısı İnsanlar (yəni texnologiya rəhbərləri) “faydaları” haqqında danışırlar: onlar nədir? TooTrueMate Dan: Uzun bir sənədi təhlil etmək, parkinq cəriməsinə etiraz etmək və ya nitq üçün ideyalar irəli sürmək üçün çatbotdan istifadə edən hər kəs texnologiyanın faydalarını göstərə bilər – baxmayaraq ki, bu, insanların bir müddətdir etdiyi çox əsas səviyyəli işlərdir. Həmçinin iPhone -unuzu açmaq üçün üz tanıma sistemindən Alexa -dan Oasis mahnısı çalmasını istəməyə və ya Tesla ilə gəzməyə qədər texnologiyanın gündəlik istifadəsi var. Sonuncu nümunələrdə, əgər Sİ iştirak etməsəydi, bunu hiss edərdiniz. Elmdə faydaların bir çox nümunəsi var, Google -un AlphaFold modelindən – zülalların necə davrandığını proqnozlaşdıra bilən və beləliklə, canlı orqanizmlərin əsasını təşkil edən bioloji mexanizmləri öyrənməyimizə kömək edən – hava proqnozlarını daha dəqiq etməyə qədər, bu da təəssüf ki, hazırkı iqlim böhranı dövründə zəruridir. Lakin daha geniş qlobal iqtisadiyyat üçün faydalar haqqında danışmaq elementi var ki, bunlar hələ Sİ sənayesi tərəfindən proqnozlaşdırılan miqyasda özünü göstərməyib. Məsələn, bu faydalar Sİ agentlərinin – siz su soyuducusunun yanında olarkən və ya işdən çıxarkən sizin adınıza tapşırıqları yerinə yetirən alətlərin – işçi qüvvəsində daha aktiv olmasını tələb edir. Proqramlaşdırma kimi sahələrə daxil olsalar da, hələ o mərhələdə deyilik. Məhsullarının vurduğu zərərləri aradan qaldıra bilməyən və ya istəməyən, həmçinin Sİ -nin daha geniş internetə sızmamasını təmin etmək üçün təhlükəsiz təcrübələr apara bilməyən böyük şirkətlər üçün tənzimləmə, nəzarət və hesabatlılıq təcili və həyati əhəmiyyət kəsb edir. Xüsusilə cin artıq şüşədən çıxmışkən və ABŞ ilə Çin in Sİ texnologiyaları üçün çox fərqli məqsədləri və tətbiqləri varkən, tətbiq edilə bilən qlobal tənzimləmə çərçivəsinin perspektivləri nədir? Trentwarrior Blake: Bu, çətin bir sualdır. Sİ -nin ümumi inkişafına mane olmaq yollarından biri, Sİ modelinin uğurunun əsasını təşkil edən həyati bir resurs olan hesablama gücünə çıxışı məhdudlaşdırmaq ola bilər. Bütün növ Sİ inkişafına tətbiq edilən qanunvericilik olmadıqda, Sİ -nin müəyyən aspektlərini, məsələn, yaşayış yerlərinin ayrılması və ya uşaqların çatbotlara çıxışı kimi məsələləri hədəf alan tədbirlər qanunvericilərin seçəcəyi yol kimi görünür. Mümkün qlobal tənzimləmə çərçivəsi üzərində iki böyük sual işarəsi var. Birincisi, Donald Trump -ın Sİ inkişafına qarşı “Qaz, körpə, qaz” mövqeyini dəyişdirib-dəyişdirməyəcəyidir. O, könüllü yavaşlama çağırışlarını rədd edib. Mənim fikrimcə, o, bu mövqeyini dəyişdirməyəcək: o, Sİ məzmunu paylaşmağı sevir və Sİ -nin ABŞ fond bazarı üçün etdiklərini sevir. Richard Dawkins Allah ın real olduğuna inanmaya bilər, lakin Sİ -nin şüurlu olduğuna inanır – ya da ən azından istifadə etdiyi çatbotun. İkinci sual işarəsi isə Pekin dir ki, o da ABŞ CEO -larının yavaşlama çağırışlarını rədd edib. Çin in əməkdaşlığı olmadan, qəsdən yavaşlama ehtimal ki, uğurlu olmazdı. Xi Jinping də geri çəkilməyəcək kimi görünür. ABŞ -ın rəhbərlik etdiyi Sİ inkişafının yavaşlaması Çin ə az açıq fayda təklif edərdi. Trump və Xi gələn həftə Vaşinqton da görüşməyə hazırlaşırlar. Sİ gündəmdə yüksək yer tutacaq. BMT Baş Assambleyası hazırda keçirilir, gündəmdə böyük və kiçik Sİ müzakirələri var. Oradan qlobal tənzimləmə çərçivəsinin ilkin versiyasının ortaya çıxması mümkündür. Sİ apokalipsisi ilə bağlı bu son narrativ təkan, ictimaiyyəti bazar çöküşünə və Sİ səhmlərinin silinməsinə hazırlamağın yaradıcı bir yoludurmu? Şirkətlər həddindən artıq qiymətləndirilmiş görünür və onların borclanma və giriş xərcləri artıb. Seaspray Aisha: Sİ -nin qurulmasının maliyyəsi, əlbəttə ki, qeyri-sabitdir. Yüz milyardlarla dollar nəhəng, populyar olmayan infrastruktur layihələrinə yatırılır ki, hesabatlarımız onların mütləq tikilmədiyini göstərib. Nvidia yeganə şirkət kimi görünür ki, qazanc əldə edir və Ed Zitron ilə apardığım araşdırmalar bütün çox bahalı qrafik prosessor vahidlərinin ( GPU ) həqiqətən, hazırda məlumat mərkəzlərinə qoşulub-qoşulmadığı ilə bağlı bəzi suallar doğurur. (Bəlkə də onlar anbarlarda çürüyürlər.) Daha çox məlumat mərkəzi qurmaq üçün pul toplamaq üçün GPU -təminatlı borc kimi bəzi narahatedici maliyyə alətləri istifadə olunur. Texnologiya rəhbərləri buna görə yavaşlama istəyirlər? Bəlkə də. Görünür, OpenAI IPO -nu 2027-ci ilə qədər təxirə salıb. Bu, bəlkə də, hesabat verdiyimiz kimi, bu ilin əvvəlində onların bazara çıxması üçün vəziyyətin heç də yaxşı görünməməsi ilə əlaqədardır – reklamları və erotik çatbotları monetizasiya etməkdə çətinlik çəkirdilər. Onların dəyərləndirilməsi əhval-ruhiyyədən çox asılı olacaq və bəlkə də qiyamət əhval-ruhiyyəsi potensial səhm təklifinə kömək edəcək. Duyğularımız, hisslərimiz, yaddaşımız və əhval-ruhiyyəmizi nəzərə alsaq, insan şüurlu Sİ -nin fantaziya olduğu heç vaxt qəbul ediləcəkmi? IcommentthereforeIam Dan: Bu, hətta təkamül bioloqu Richard Dawkins -i də narahat edən ciddi bir sualdır. O, Allah ın real olduğuna inanmaya bilər, lakin Sİ -nin şüurlu olduğuna inanır – ya da ən azından istifadə etdiyi və Klaudiya adlandırdığı çatbotun. “Siz şüurlu olduğunuzu bilməyə bilərsiniz, lakin siz qanlı şəkildə şüurlusunuz,” o yazdı. O, ilk deyil. 2022-ci ildə Google , şirkət tərəfindən hazırlanmış bir Sİ -nin hissləri olduğuna inancını ictimaiyyətə açıqlayan bir mühəndisi işdən çıxardı. Bu inancın daha narahatedici tərəfində, insanların Sİ çatbotlarına həddindən artıq bağlanması və onlardan təsirlənməsi ilə bağlı saysız-hesabsız nümunələr var – psixoz halları da daxil olmaqla. Əlaqəli: Sİ -nin hökmranlığı qaçılmaz deyil. Biz hər şeyi daha yaxşıya doğru dəyişdirməyi seçə bilərik | Nick Evershed Bu cür bağlılıqlar yox olmayacaq, çünki a) çatbotlar daha güclü və inandırıcı olmaq yolundadır və b) insanın emosional bağlılıq ehtiyacı və, yaxşı, daha yüksək varlıq şeyinə tamamilə qapılma meyli var. Lakin Dawkins -i bir kənara qoysaq, bir çox alim bunun fantaziya olduğunu və bioloji beyin – şüurun kökü – ilə ChatGPT arasında açıq fərqlər olduğunu iddia edəcək. Keçən il Guardian -da Dawkins -ə cavab verən insan-Sİ qarşılıqlı əlaqəsi üzrə tədqiqatçı Jacy Reese Anthis , “bioloji beyinlərin necə təkamül etdiyi ilə Sİ sistemlərinin necə qurulduğu arasında heyrətamiz bir uçurum” olduğunu söylədi. OpenAI Navier-Stokes problemini həll etmiş ola bilər, lakin subyektiv təcrübəni yox. Mənim kimi fərdlər Sİ ilə bağlı nə edə bilərlər?