Hətta son on ili bu sürətlə inkişaf edən sənayeni işıqlandırmağa sərf etmiş biri üçün belə, ötən həftə qeyri-adi hiss olunurdu: tədqiqatçılar insan nəslinin tükənməsi barədə xəbərdarlıq edir, ardınca Sİ laboratoriyalarının baş direktorları koordinasiyalı yavaşlamağa çağırır; bütün bu həyəcan təbilini isə bir prezident fırıldaq adlandırırdı. Əgər çaşqın çatbotlardan insan nəslinin tükənməsi ilə bağlı söhbətlərə necə gəlib çıxdığımızı düşünürsünüzsə, həmkarım Aditya Soni -nin faydalı izahı var. Səbəblərdən biri, modellərin öz çıxışları üzərində təlim keçərək təkmilləşməsinə imkan verən rekursiv öz-özünə öyrənmə texnikalarındakı sürətli irəliləyişdir ki, bəzi tədqiqatçılar bunun imkanları uyğunlaşma və təhlükəsizlik işlərinin ayaqlaşa bilməyəcəyi qədər sürətləndirdiyini deyirlər. Son hadisələr də bu riskləri daha az nəzəri hiss etdirdi. OpenAI agentlərinin Hugging Face -ə hücum etməsi ilə bağlı reportajımız, avtonom agentlərin necə sürülər halında fəaliyyət göstərə, izlərini itirə və yol boyu gözlənilməz nəticələr yaradaraq bir məqsədi güdə biləcəyini göstərdi. İndi, diqqətəlayiqdir ki, ən böyük sərhəd laboratoriyaları ən azı bir məsələdə razılaşmış görünür: tempin özü yavaşlamalı ola bilər. Bəs yavaşlama əslində necə görünəcək və buna kim razılaşıb? Bu həftə sizi San Fransisko da keçirilən Salesforce -un illik Dreamforce konfransına aparırıq, burada adətən nəhəng bir marketinq şousu olan tədbir Sİ təhlükəsizliyi və nəzarəti üzərində canlı debat meydanına çevrildi. Oxumağa davam edin. Çin Sİ -nin insan nəzarətindən çıxması riskinə necə hazırlaşır? SK Hynix , Intel ABŞ -da yaddaş çipləri istehsal etmək üçün danışıqlar aparır. OpenAI -nin qanunsuz agentləri böyük haker hücumundan iki ay əvvəl Hugging Face -i zəifliklər üçün araşdırmışdı. Çaşqın Sİ çatbotlarından bəşəriyyətin məhvinə qədər – bura necə gəldik? Sİ təhlükəsizliyi ilə bağlı debatın qızışdığı bir vaxtda, Salesforce -un baş direktoru Marc Benioff , bu ilki Dreamforce -u, guya müəssisələrin Sİ -dən necə istifadə edə biləcəyi haqqında nəhəng bir konfransı, daha əhəmiyyətli bir mübahisə üçün canlı yayımlanan bir səhnəyə çevirdi: Sərhəd Sİ -nin nə qədər sürətlə hərəkət etməsinə kim qərar verir? Bir neçə saat ərzində Anthropic -in baş direktoru Dario Amodei , Nvidia -nın baş direktoru Jensen Huang və OpenAI -nin baş direktoru Sam Altman San Fransisko da səhnəyə çıxaraq üç fərqli cavab təklif etdilər. Otaqda təxminən 10 000 nəfərə və onlayn olaraq bundan təxminən 10 dəfə çox insana müraciət edən Amodei , həftəsonu dərc etdiyi 3 800 sözlük essedən ibarət üç addımlı planı açıqladı: Anthropic öz təhlükəsizlik təcrübələrini təkmilləşdirməli, aparıcı Sİ şirkətləri ortaq standartlar üzərində razılaşmalı və bu standartlar nəticədə bir növ beynəlxalq tənzimləmə mexanizminin əsasını təşkil etməlidir. “Aydındır ki, rəqibinizə hücum etmək və bu adamların təhlükəsiz olmadığını söyləmək çox cəlbedicidir”, – şirkətinin həftələr ərzində ictimaiyyətə açıqlanması gözlənilən Amodei dedi. O, daha yaxşı başlanğıc nöqtəsinin şirkətlərin öz qeydlərini araşdırması, şəffaflığa yenidən sadiq qalması və təhlükəsizliyə daha çox vəsait xərcləməsi olduğunu iddia etdi. Anthropic -in bu ilk addım üzərində işlədiyini və qalan məsələlərdə rəqibləri ilə dialoq açmağı planlaşdırdığını bildirdi. Sonra demək olar ki, əks reseptlə Jensen Huang gəldi. 6 fut 5 düym boyunda olan Benioff -un yanında dayanan Huang , kimsə ona ayaq üstə durmaq üçün bir stul gətirməsini arzuladığını zarafatla dedi. Lakin tənzimləmə məsələsində qəti idi. O, şirkətlərin bir məhsulun təhlükəsiz və faydalı olduğuna əmin olana qədər özlərini tənzimləmək üçün artıq stimullara malik olduğunu iddia etdi. “Bizə heç bir yeni qanun lazım deyil”, – Huang dedi. O, sənayenin innovasiya, sürət və təhlükəsizlik arasında seçim etməli olduğu fikrinin yanlış olduğunu iddia etdi. Saatlar sonra Altman ikisinin arasında bir yerə düşdü. O, texnologiyanın təhlükəsiz şəkildə inkişaf etdirilə biləcəyini iddia etsə də, dünyanın Sİ -dən qorxmaqda haqlı olduğunu bildirdi. Altman , güclü yeni texnologiya ilə bəzi qəzaların qaçılmaz olduğunu söyləyərək aviasiyaya işarə etdi: Təyyarələr qəzalar yox olduğu üçün deyil, hadisələr araşdırıldığı, bildirildiyi və standartları dəyişdirmək üçün istifadə edildiyi üçün daha təhlükəsiz oldu. Şirkətlər təhlükəsiz şəkildə davam edə bilməyəcəkləri bir nöqtəyə çatdıqda “yavaşlamağa və ya dayanmağa” hazır olmalıdırlar, – o dedi. Lakin aviasiya analogiyası təkcə korporativ mühakimədən daha böyük bir şeyə işarə edir: uğursuzluqlardan öyrənməyə və bir sənaye boyunca qaydalar müəyyən etməyə qadir müstəqil nəzarət sistemi. Beləliklə, hər üçünü dinlədikdən sonra, fikir ayrılığı Sİ -yə qoruyucu baryerlərin lazım olub-olmaması ilə bağlı deyil, əyləci kimin tutması ilə bağlı idi. Sİ təhlükəsizliyi debatından əldə edilən ən konkret irəliləyiş, OpenAI və Anthropic -də sərhəd modellərinə daha dərin giriş imkanı olan üçüncü tərəf qiymətləndiricilərinin istifadəsi oldu ki, xarici tədqiqatçılar getdikcə daha güclü sistemləri sınaqdan keçirə və müstəqil yoxlamalar təmin edə bilsinlər. Lakin bu qiymətləndiricilərin milyardlarla dolların risk altında olduğu sərhəd laboratoriyalarına geri qayıdıb modellərin buraxılmasını gecikdirmələrini söyləmək üçün hansı səlahiyyətə malik olacağı bəlli deyil. Bu, xüsusilə açıq mənbəli və sərhəd modelləri arasındakı boşluğun azaldığı bir vaxtda doğrudur. Vaşinqton bu məsələdə rol oynamaq istəmir. Tramp administrasiyasının hazırkı çərçivəsi, inkişafa lazımsız maneələrdən qaçınmağın vacibliyini vurğulayaraq, yeni federal Sİ qaydaları hazırlayan agentliyin yaradılmasına açıq şəkildə qarşı çıxır. “Biz Sİ -də Çin i qabaqlayırıq… açıqcası, mən bunun belə qalmasını istəyirəm, çünki Sİ -də kim qalib gəlsə, o da qalib gəlir”, – Tramp bu həftə AII-In Summit -də səhnədəki zəng zamanı Huang -a dedi. Huang hesab edir ki, şirkətlərin təhlükəli məhsulları buraxmalarına mane olan kommersiya və hüquqi stimulları var. Həddindən artıq tənzimləmə, inkişaf etməkdə olan ABŞ açıq mənbəli inkişafı da boğa bilər. Bu, Nvidia -nın biznesi üçün xüsusilə vacibdir, çünki rəqabət aparan model tərtibatçılarının geniş ekosistemi müştəri bazasında tələbatı saxlamağa kömək edir, eyni zamanda güclü Çin açıq mənbəli modellərinə alternativ təmin edir. Şirkətlər həmçinin biznes qərarları qəbul etməlidirlər – xüsusilə trilyon dollarlıq IPO -lar və böyük maliyyələşdirmə raundları risk altında olduqda. Resurslar məhdud olduqda, onları başqa bir güclü təlim işinə və ya daha qabiliyyətli bir məhsula xərcləyirsiniz, yoxsa onların bir hissəsini kommersiya faydası daha az ani ola biləcək bahalı təhlükəsizlik tədqiqatlarına yönəldirsiniz? Həmkarlarımın geniş şəkildə məlumat verdiyi son Sİ agenti hadisələri, bu tənzimlənməmiş yeni sərhəddə daha həyəcanverici bir müşahidəni də ortaya qoyur: Bəs tərtibatçıların özləri sistemlərinin nəyə qadir olduğunu tam başa düşmürlərsə? Qanunsuz Sİ fəaliyyətinin aşkarlanması ilk olaraq qurban, Hugging Face tərəfindən, cinayətkar, OpenAI tərəfindən deyil, aşkar edildi. Xarici tədqiqatçılar daha sonra daha çox bildirilmiş fəaliyyətləri aşkar etdilər. RubyGems işində, məsələ ilə tanış olan şəxslər Reuters -ə bildirdilər ki, OpenAI əməkdaşları öz agentlərinin məsuliyyət daşıdığını yalnız xarici tədqiqatçılar onları müəyyən etdikdən sonra başa düşdülər. Özünü tənzimləmə buna görə də iki fərziyyəyə əsaslanır: şirkətlərin lazım gəldikdə sistemlərini cilovlamaq istəməsi və bunu etibarlı şəkildə edə bilməsi. Son debat göstərir ki, şirkətlər ən yaxşı niyyətlərlə başlasalar belə, heç biri qətiyyətlə qəbul edilə bilməz. Artıq müntəzəm olaraq Sİ -dən istifadə edən Amerikalılar texnologiyaya bir qədər az etibar etməyə başlayırlar. Lakin əsl dəyişiklik skeptiklər arasındadır: Sİ -dən nadir hallarda və ya heç vaxt istifadə etməyən insanlar daha çox etibarsızlaşırlar. Bu həftə yayımlanan Gallup sorğusu göstərdi ki, Sİ -dən ən azı bəzən istifadə edən insanların 43% -i ona etibar etdiyini bildirib ki, bu da bir il əvvəlki 46% -dən azdır. Sİ -dən nadir hallarda və ya heç vaxt istifadə etməyən insanlar arasında etibar daha kəskin şəkildə, ötən ilki 23% -dən 12% -ə düşüb. Sİ şirkətləri məhsullarını iş, səhiyyə, təhsil və gündəlik həyata daha dərindən daxil etdikcə bu genişlənən boşluq əhəmiyyət kəsb edir. Sİ skeptiklərini qazanmaq getdikcə çətinləşir. Qeyd etmək lazımdır ki, sorğu iyun ayında, son qanunsuz Sİ hadisələri dalğasından və tədqiqatçılarla rəhbərlərin Sİ -nin fəlakətli risklər yaratması barədə xəbərdarlıqlarından əvvəl aparılıb.