Courtney Rozen və Jody Godoy , VAŞİNQTON , 5 may ( Reuters ) - Tramp administrasiyası çərşənbə axşamı elan etdi ki, ABŞ hökuməti alimlərinə buraxılmamış süni intellekt modellərinə daxil olmaq imkanı verən proqramı genişləndirərək Google DeepMind , xAI və Microsoft -u da risk qiymətləndirmələri aparmaq üçün daxil edib. ChatGPT istehsalçısı OpenAI və Claude -un sahibi Anthropic artıq ABŞ Süni İntellekt Standartları və İnnovasiya Mərkəzi ( CAISI ) ilə könüllü olaraq əməkdaşlıq edirdilər. Şirkətlərin məlumatına görə, ABŞ hökuməti alimlərindən ibarət komanda buraxılmamış modelləri zəifliklər üçün sınaqdan keçirirdi. Reklam Reklam Baxışlar haqqında bildiklərimiz budur: ABŞ HANSI RİSKLƏRƏ FOKUSLANIR? ABŞ CAISI veb-saytına görə, ABŞ hökuməti alimləri “nümayiş olunan risklərə” fokuslanıblar, məsələn, qabaqcıl modellərin Amerika infrastrukturuna kiberhücumlar etmək üçün istifadə edilməsi riski. Onlar ABŞ düşmənlərinin süni intellektdən kimyəvi və ya bioloji silahlar hazırlamaq, yaxud Amerika süni intellekt modellərini öyrətmək üçün istifadə olunan məlumatları korlamaq imkanlarını məhdudlaşdırmaq istəyirlər. ŞİRKƏTLƏR NƏ TƏQDİM EDƏCƏKLƏR? OpenAI -nin qlobal işlər rəhbəri Chris Lehane çərşənbə axşamı LinkedIn -dəki yazısında bildirib ki, OpenAI GPT-5.5-Cyber -i sınaqdan keçirmək üçün qrupla işləyir. GPT-5.5-Cyber , müdafiə kiber təhlükəsizliyi işləri üçün nəzərdə tutulmuş ən son modelinin bir variantıdır. Reklam Reklam Microsoft , qabaqcıl süni intellekt modellərini qiymətləndirmək üçün ortaq məlumat dəstləri və iş axınları yaratmaq üçün alimlərlə işləyəcək, şirkət bəyanatında bildirib. Microsoft hansı modelləri dəqiqləşdirməyib. Anthropic , CAISI -yə həm ictimaiyyətə açıq, həm də buraxılmamış modellərə giriş imkanı verib, tədqiqatçılara “qırmızı komanda” adlanan prosesdə, yəni zərərli aktyorların davranışını simulyasiya edərək zəiflikləri araşdırmağa imkan verib, şirkət sentyabr ayında bildirib. Şirkət həmçinin CAISI -yə məlum zəifliklər və təhlükəsizlik mexanizmləri haqqında ətraflı sənədlər təqdim edib. Alphabet -in süni intellekt tədqiqat qolu olan Google DeepMind , “mülkiyyət modellərinə” və məlumatlarına giriş təmin edəcək, sözçüsü bildirib. xAI , Reuters -in şərh sorğusuna dərhal cavab verməyib. Reklam Reklam ABŞ İNDİYƏ QƏDƏR NƏ TAPIB? Anthropic -in CAISI ilə işi göstərdi ki, insan nəzərdən keçirilməsinin baş verdiyini iddia etmək və ya simvolları əvəz etmək kimi fəndlər təhlükəsizlik mexanizmlərini keçə bilər, şirkət bildirib və zəiflikləri aradan qaldırdığını əlavə edib. OpenAI sentyabr ayında bildirdi ki, CAISI ilə birlikdə ChatGPT Agent -dəki zəiflikləri araşdırmaq üçün işləyib ki, bu da mürəkkəb aktyorlara OpenAI -nin kiber təhlükəsizlik tədbirlərini keçməyə imkan verə bilərdi. Şirkət bildirib ki, bu istismar hücum edənə “agentin həmin sessiya üçün daxil ola biləcəyi kompüter sistemlərini uzaqdan idarə etməyə və daxil olduqları digər veb-saytlar üçün istifadəçini uğurla təqlid etməyə” imkan verəcəkdi. Şirkətlər, Meta , Amazon və Inflection AI ilə birlikdə 2023-cü ildə müstəqil ekspertlərə modellərini biotəhlükəsizlik və kiber təhlükəsizlik riskləri üçün yoxlamağa icazə verməyə razılaşdılar. Reklam Reklam ABŞ hökuməti alimləri, keçmiş ABŞ prezidenti Joe Biden -in dövründə fərqli bir ad altında təşkil olunmuşdular. Həmçinin süni intellekt modellərinin şəxsi sağlamlıq məlumatlarını sızdırması və ya səhv cavablar verməsi riskindən qorunmaq üçün könüllü təlimatlar yayımladılar. Veb-saytlarına görə, alimlər indi rabitə və təcili xidmətlər sektorları kimi kritik infrastruktur təminatçıları üçün süni intellekt sistemlərini sınaqdan keçirmək üçün təlimatlar üzərində işləyirlər. (Məlumatı Courtney Rozen hazırladı; Redaktə edən Stephen Coates )