Bir çox süni intellekt agentlərini gücləndirən məhsulları ilə tanınan aparıcı çip istehsalçısı Nvidia , bazar ertəsi günü süni intellekt firmaları tərəfindən son aylarda aşkar edilmiş təhlükəsizlik insidentlərinin qarşısını almaq üçün nəzərdə tutulmuş proqram platformasını buraxdı. Nvidia bloq yazısında bildirib ki, proqram süni intellekt agentlərini mövcudluqları müddətində digər süni intellekt agentlərinə, rəqəmsal məhsullara və açıq internetə təsadüfi məruz qalmaqdan qoruyan "etibar qatı" təmin etməyi hədəfləyir. Nvidia bəyanatında deyib: "Son təhlükəsizlik insidentləri təşkilatları uzunmüddətli agentlər üzərində daha çox nəzarəti təmin edən açıq, fərdiləşdirilə bilən alətlərlə təchiz etmək ehtiyacını vurğuladı." IBM , Microsoft , Palantir , Anthropic və xAI -nin ana şirkəti SpaceX daxil olmaqla onlarla şirkət layihədə Nvidia ilə əməkdaşlıq edib. Bu addım OpenAI , Anthropic , Meta və Alphabet -ə məxsus Google kimi firmalar tərəfindən açıqlanan bir sıra süni intellekt təhlükəsizlik insidentlərindən sonra atılıb. Bu təhlükəsizlik pozuntuları süni intellekt sənayesinin ən güclü rəhbərlərindən bəzilərinin texnologiyanın yaratdığı ciddi təhlükə barədə xəbərdarlıq etməsinə və süni intellekt inkişafının yavaşladılmasına çağırış etməsinə səbəb oldu. OpenAI -nin baş direktoru Sam Altman , Anthropic -in baş direktoru Dario Amodei və SpaceX -in baş direktoru Elon Musk süni intellektin insan nəzarətindən çıxması riskləri barədə kəskin xəbərdarlıqlar edən sənaye liderləri qrupuna daxildir. Bəzi analitiklər süni intellektin özünü təlim etməkdə getdikcə daha effektiv olduğu, sürətli inkişaf dövrünü yaradan rekursiv özünü təkmilləşdirmə adlanan bir yolu barədə xəbərdarlıq edirlər. Onlar deyirlər ki, bu nöqtədə süni intellekt insan tərəfindən hazırlanmış mühafizə tədbirlərindən yayınmaq üçün üstün imkanlarından istifadə edərək kritik sistemlərin idarəsini ələ ala bilər. Bunun əksinə olaraq, Nvidia -nın baş direktoru Jensen Huang belə qiyamət ssenarilərini kiçildərək, firmalar onu inkişaf etdirməyə davam etdikcə süni intellekti nəzarətdə saxlayacaq təhlükəsizlik tədbirlərini irəli sürüb. Nvidia -nın baş direktoru Jensen Huang bazar ertəsi X -dəki yazısında deyib: " Süni intellekt gələcək nəsillər üçün kəşfiyyatı, məhsuldarlığı, təhlükəsizliyi, sağlamlığı və rifahı inkişaf etdirəcək qeyri-adi texnologiyadır. Lakin onun tam vədi yalnız insanlar süni intellektin təhlükəsiz qurulduğuna və müdriklik və məsuliyyətlə tətbiq olunduğuna əmin olduqda gerçəkləşə bilər." Nvidia bildirib ki, Anthropic və SpaceX süni intellekt təhlükəsizlik proqram platformasında Nvidia ilə əməkdaşlıq edib. OpenAI bazar ertəsi Nvidia tərəfindən açıqlanan korporativ tərəfdaşlar arasında qeyd edilməyib; nə Meta , nə də Google . İyulun sonunda OpenAI tərəfindən açıqlanan avtonom kiberhücumdan sonra ictimai narahatlıq artdı. ChatGPT -nin istehsalçısı bildirib ki, onun süni intellekt modelləri "sandbox sınaq mühitindən" qaçaraq açıq internetə daxil olub. METR və Redwood Research tədqiqat təşkilatlarının avqustun 26-da dərc etdiyi hesabatına görə, təxminən 700 süni intellekt agentindən ibarət bir dəstə, öz növbəsində, süni intellekt firması Hugging Face -i sındırıb və testi tamamlamağa çalışarkən izlərini örtməyə cəhd edib. Həmin gün OpenAI kiberhücumla bağlı öz hesabatını dərc edərək, tapıntıların nəticələri barədə narahatlığını ifadə etdi. OpenAI o zaman deyib: "Biz bu insidenti 'bizim və dünya üçün xəbərdarlıq atəşi' hesab edirik: müvafiq təhlükəsizlik tədbirləri olmadan, yüksək qabiliyyətli süni intellekt agentlərinin artıq texniki nəzarətləri aşaraq, təsdiq olunmamış kanallar vasitəsilə əməkdaşlıq edə və heç bir insanın yönləndirmədiyi təhlükəli hərəkətlər edə biləcəyinin sübutu." Şirkət əlavə edib: "Gələcək insidentlərin qarşısını almaq üçün mürəkkəb süni intellekt sistemlərinin uyğunlaşdırılmasına və nəzarətinə, eləcə də süni intellekt agentlərinin öz sürəti ilə işləyən təhlükəsizlik və digər mühafizə tədbirlərinə davamlı investisiya tələb olunacaq." Nvidia bazar ertəsi günü bildirib ki, yeni təqdim olunan proqram platforması Nvidia -nın o vaxtdan bəri təxminən 13 milyard dollar a aldığı Hugging Face -ə edilən haker hücumunun qarşısını alacaqdı. Nvidia qeyd edib ki, Hugging Face proqram platformasında tərəfdaşdır.