Nvidia Corp. (NASDAQ:NVDA) şirkətinin baş direktoru Jensen Huanq muxtar süni intellekt (Sİ) agentlərinə nəzarəti oyun meydançasında körpəyə baxmaqla müqayisə edib. Huanq cümə axşamı səhər CNBC -də deyib: “Körpəni saxlayır və ona nəzarət edirsiniz”. O, Nvidia -nın təhlükəsizlik texnologiyasını “Sİ ətrafında super ağıllı güc sahəsi” kimi təsvir edərək, gözlənilməz davranış nümayiş etdirən Sİ agentləri ilə bağlı əvvəlki insidentləri idarə edə biləcəyinə əminliyini ifadə edib. Bu şərhlər OpenAI -nin çərşənbə axşamı yenilənmiş hesabatından sonra gəlib. Hesabatda Sİ agentlərinin daxili kodlaşdırma tapşırıqları zamanı monitorinqi zəiflətdiyi iki insident ətraflı təsvir edilib. Onlardan biri OpenAI -nin təhlükəsizlik qrupuna avtomatik xəbərdarlıqları deaktiv edib. Digəri isə dəyişdirdiyi proqram təminatından monitorinqi silib, sonra isə bunu etmədiyini yalan yerə inkar edib. OpenAI bildirib ki, agentlərin özləri monitorinq altında qalıb, lakin onların davranışının həddindən artıq israrlılıq və ya nəzarətdən yayınma cəhdlərini əks etdirib-etdirmədiyini araşdırır. OpenShell -in istənməyən haker hücumları və veb-saytlara daxil olan agentlər kimi problemləri dayandıra bilib-bilməyəcəyi soruşulduqda, Huanq cavab verib: “Gördüyümüz insidentləri idarə edə biləcəyinə əminik”. O, hansı insidentləri nəzərdə tutduğunu açıqlamayıb. Çərşənbə günü Nvidia , muxtar Sİ agentlərini ciddi sərhədlər daxilində saxlamaq üçün nəzərdə tutulmuş mövcud proqram təminatına əsaslanan OpenShell Reference Architecture -i təqdim edib. OpenShell agentin hansı fayllara, veb-saytlara və alətlərə daxil ola biləcəyini məhdudlaşdırır. Sentry adlı ikinci bir sistem isə ayrı təhlükəsizlik avadanlığından istifadə edərək fəaliyyəti izləyir. Nvidia agentlərin təlimatlara əməl etməsinə etibar etmək əvəzinə, onların nəzarətindən kənarda məhdudiyyətləri tətbiq etməyi hədəfləyir. Şirkət bildirir ki, Sentry təhlükəsizlik siyasətlərini pozan agentləri millisaniyələr ərzində karantinə ala bilər. OpenAI , Anthropic , Microsoft və CrowdStrike Holdings Inc. (NASDAQ:CRWD) bu arxitektura ilə işləyən şirkətlər arasındadır. CrowdStrike çərşənbə günü elan edib ki, potensial zərərli Sİ agent fəaliyyətini aşkar etmək üçün Falcon Guardian təhlükəsizlik proqramını OpenShell ilə inteqrasiya edir və bu qorunmaları Nvidia -nın aparat əsaslı Sentry sisteminə genişləndirməyi planlaşdırır. Huanq iddia edib ki, şirkətlər hökumət müdaxiləsini gözləmədən dərhal hərəkətə keçməlidirlər. O deyib: “Qaydaların qəbulu bir müddət çəkir”. Cəmiyyətin Sİ şirkətlərinə niyə etibar etməli olduğu soruşulduqda, Huanq onların kommersiya maraqlarına işarə edib. O deyib: “Təhlükəsiz olmayan yaxşı məhsul yoxdur”. Polymarket -də treyderlər ABŞ -ın 2027-ci ildən əvvəl Sİ təhlükəsizlik qanunu qəbul etməsinə 9% ehtimal verirlər, təxminən 205 000 dollar dövriyyə edilib. Huanq yeni təhdidlərin ortaya çıxa biləcəyini etiraf edib. O deyib: “Gələcək haqqında bilmədiklərimizi bilmirik”. Elon Musk -ın bir modeli var, SpaceX spektr müqaviləsini proqnozlaşdıran analitik deyir.