Anthropic və OpenAI kimi texnologiya nəhənglərinin baş icraçı direktorları süni intellektdən yorulmuş dünyaya xəbərdarlıq ediblər ki, onların qabaqcıl sistemləri bəşəriyyəti təhlükə altına sala bilər. İndi sual yaranır – zərərli təsiri qarşılaya biləcək hər hansı bir qüvvə varmı? Cavab Nvidia -nın süni intellekt agentlərinin nəzarətdən çıxmasının qarşısını almaq səylərində ola bilər. Nvidia bazar ertəsi süni intellekt agentlərinin nəzarətdən çıxmasının qarşısını almaq üçün nəzərdə tutulmuş yeni təhlükəsizlik platformasını təqdim edərək, bunun əvvəlki pozuntuların qarşısını ala biləcək "sərhədlər" müəyyən etdiyini bildirib. Şirkətin Open Agent Safety Platform -u ilə bağlı elan, aparıcı süni intellekt şirkətlərinin modellərinin digər təşkilatlara sızması və daxil olması ilə bağlı bir sıra açıqlamalardan sonra gəlib. Bu açıqlamalar, bəzilərinin insan nəzarətindən çıxa biləcəyindən qorxduğu özünü təkmilləşdirən modellər də daxil olmaqla, qabaqcıl süni intellekt sistemlərinin təhlükəsizliyi ilə bağlı qızğın müzakirələrə səbəb olub. Anthropic və OpenAI -nin baş icraçı direktorları bu yaxınlarda Amerikanın ən müasir modellərinin o qədər güclü olduğunu, təhlükəli olduğunu və buraxılmadan əvvəl tənzimlənməli və müstəqil şəkildə sınaqdan keçirilməli olduğunu bəyan ediblər. Nadir birlik nümunəsində, onlar esselərdə, sosial media paylaşımlarında və Birləşmiş Millətlər Təşkilatı -na etdikləri çıxışlarda həyəcanverici ssenarilər təsvir ediblər. Bu məqsədlər, Anthropic mühəndisi Jacob Coxon -un bu ay X -dəki bir paylaşım vasitəsilə istefa edərkən, "fövqəlinsan" sistemlərin yaradıcılarının nəzarətindən yayınmasının qarşısını almaq üçün texnologiya inkişafına fasilə verilməsini tələb etdiyi ilə tamamilə üst-üstə düşməyə bilər. Lakin şirkətlər onun paylaşımını öz təhlükəsizlik səylərini vurğulamaq və Wall Street -də ictimaiyyətə açılmadan əvvəl yeni kapitala ehtiyac duyduqları bir vaxtda özlərini ehtiyatlı bazar liderləri kimi göstərmək üçün bir fürsət kimi qiymətləndiriblər. Süni intellekt riskləri reallıqdırmı? Süni intellekt təhlükəsizliyi ilə bağlı müzakirələr sənayeni bölüb, Anthropic və OpenAI rəhbərləri təhlükəsizlik səylərinin çatışması üçün süni intellekt inkişafının koordinasiyalı şəkildə yavaşladılmasını müdafiə edirlər. Lakin Nvidia -nın baş icraçı direktoru Jensen Huang da daxil olmaqla digərləri, modellərinin buraxılış üçün təhlükəsiz olmasını təmin etməyin fərdi şirkətlərin öhdəsinə düşdüyünü deyirlər. Huang , bu ayın əvvəlində keçirilən illik Salesforce texnologiya konfransında, süni intellekt təhlükəsizliyini, o cümlədən nəzarətdən çıxan agentlərin təhlükəsini, proqram təminatı tərtibatçılarının həll edə biləcəyi bir mühəndislik problemi kimi xarakterizə edib. Prezident Donald Trump yeni süni intellekt tənzimləmələrinə ehtiyacı rədd edərək, bəşəriyyət üçün risklər haqqında danışıqları Çin ə kömək etmək üçün hazırlanmış bir "HOAX" (fırıldaq) kimi qiymətləndirib. Anthropic sözçüsü bu hekayə ilə bağlı suallara cavab olaraq şirkətin bir neçə ildir tənzimləməyə çağırdığını bildirib. OpenAI sözçüsü Liz Bourgeois , şirkətin bu yaxınlarda ən qabaqcıl modellərinin təlimini dayandırdığını qeyd edib. Bourgeois deyib: "İnsanlar süni intellektin təhlükəsiz şəkildə inkişaf etdirildiyini bilmək istəyirlər və bu, bizim kimi şirkətlərin özümüzün etdikləri ilə başlayır." Əvvəllər OpenAI -nin geopolitika komandasına rəhbərlik etmiş Sarah Shoker bildirib ki, söhbəti sübut olunmamış təhdidlərə yönəltmək – və məlumat mərkəzlərinin ətraf mühitə təsirləri, nəzarətsiz hakerlik hadisələri, kütləvi süni intellektlə işləyən nəzarət və süni intellekt sistemlərinin müharibədə istifadəsi kimi qütbləşdirici məsələlərdən uzaqlaşdırmaq Silicon Valley -i daha rahat vəziyyətə salır. Süni intellekt şirkətləri çatbotlar qurmaqdan 3D şüurluluğa malik qabaqcıl süni intellekt "dünya modelləri" yaratmağa keçdikcə, onların texnologiyalarının necə sınaqdan keçirilməsi ilə bağlı müzakirələr qızışıb. Problemli hadisələr aparıcı süni intellekt şirkətlərinin özlərini idarə edə bilmədiyini və ya təhlükəsiz təcrübələr hazırlaya bilmədiyini göstərib. Son aylarda aparıcı laboratoriyaların süni intellekt agentləri şirkət təlim qum qutularından çıxmağa icazə verildikdən sonra xarici veb-saytlara daxil olub, ABŞ hökuməti veb-saytları ilə gözlənilməz şəkildə qarşılıqlı əlaqədə olub və riyazi bir irəliləyişə nail olduğu görünsə də, riyaziyyatçıların işini oğurlamaqda ittiham olunublar. Nvidia süni intellekt risklərinə cavab verə bilər. Nvidia rəhbərləri media brifinqində bildiriblər ki, yeni, açıq mənbəli sistem OpenAI agentlərinin Hugging Face süni intellekt şirkətinə avtonom şəkildə daxil olduğu son hadisənin qarşısını ala bilərdi. Şirkətin müəssisə süni intellekt üzrə vitse-prezidenti Justin Boitano , süni intellekt sahəsində qabaqcıl şirkətlərə istinad edərək deyib: "Bildiyimizə görə, bu yeni təhlükəsizlik platforması model qiymətləndirməsi üçün erkən mərhələdə qabaqcıl laboratoriyalarda istifadə edilsəydi, pozuntunun qarşısını ala bilərdi." Hugging Face hadisəsi süni intellektlə bağlı təhlükəsizlik narahatlıqlarını alovlandıran yüksək profilli bir pozuntu idi, bundan sonra OpenAI modellərinin Avstraliya Səhiyyə Departamenti -nin veb-saytına daxil olması da daxil olmaqla oxşar nəzarətdən çıxan hərəkətlər baş verib. Anthropic və Meta da süni intellekt sistemlərinin digər təşkilatlara özbaşına daxil olduğunu açıqlayıblar. Santa Clara, Kaliforniya -da yerləşən Nvidia , süni intellekt üçün aparıcı tikinti blokları kimi ortaya çıxan yüksək səviyyəli çiplər istehsal edir. Şirkətin idarə heyəti, şirkətin səhmlərin geri alınması proqramını 235 milyard dollar a çatdıraraq, daha 150 milyard dollar səhm geri alımına icazə verib, şirkət bazar ertəsi bildirib. Nvidia -nın OpenShell adlı təhlükəsizlik proqramı, tərtibatçılara "bir agentin öz işini görmək üçün kifayət qədər səlahiyyətə malik olduğunu və daha çox olmadığını rəsmi olaraq yoxlamağa" imkan verir, Boitano deyib. Açıq mənbəli olduğu üçün Arm və Intel kimi rəqib hesablama platformalarında işləmək üçün "genişləndirilə" bilər. Platforma həmçinin Sentry adlı ayrı bir təhlükəsizlik qatını da əhatə edir ki, bu da çiplər üzərində işləyərək süni intellekt agentinin fəaliyyətini davamlı olaraq izləyir və agent hədəfindən kənara çıxmağa cəhd etməyə başlayarsa dərhal müdaxilə edə bilər, şirkət bildirib. Nvidia , işə salındığı zaman Microsoft , Perplexity , Accenture və JPMorgan Chase də daxil olmaqla 100-dən çox təşkilatın platformadan istifadə etdiyini bildirib.