Çin startapı Moonshot AI şənbə günü bildirdi ki, süni intellektin getdikcə daha avtonom olaraq hakerliyi sürətləndirə biləcəyi ilə bağlı narahatlıqlar artdığı üçün ən yeni modelinin kiber-hücum qabiliyyətlərini azaldıb. Pekin də yerləşən Moonshot , ən qabiliyyətli 3 trilyon parametrlik açıq çəkili modeli kimi təsvir etdiyi Kimi K3.1 Pro -nu təqdim edərkən bu məhdudiyyətləri elan etdi. Şirkət modelin çəkilərini – kənar tərtibatçılara onu öz sistemlərində işlətməyə və dəyişdirməyə imkan verən faylları – 4 noyabr tarixinə qədər dərc etməyi planlaşdırır. Moonshot bildirdi ki, modelin hazırlanmasında istifadə olunan təlim korpusundan və gücləndirici öyrənmə mühitlərindən kiber-əlaqəli məlumatları çıxarıb, ümumi kodlaşdırma bacarıqlarını isə saxlayıb. Şirkət qeyd etdi ki, “biz kiber qabiliyyətin mütləq sərhədlərini genişləndirəcək açıq çəkiləri buraxmamağı hədəfləyirik”. Hökumətlər, texnologiya şirkətləri və təhlükəsizlik tədqiqatçıları süni intellektin mürəkkəb hakerliyi asanlaşdıra və ucuzlaşdıra biləcəyindən getdikcə daha çox narahatdırlar. Kod yaza, proqram təminatı alətlərini idarə edə və uzun, çoxmərhələli tapşırıqları yerinə yetirə bilən modellər istifadəçilərə proqramlardakı zəiflikləri müəyyən etməyə və kiberhücumların bəzi hissələrini avtomatlaşdırmağa kömək edə bilər. Çin keçən həftə süni intellektlə idarə olunan zərərli proqram təminatının yaradılması və mutasiya texnologiyasının ixracını qadağan edən, həmçinin süni intellektlə dəstəklənən zəifliklərin aşkarlanması alətlərini məhdudlaşdıran ixrac nəzarəti təklif etdi. Hələ ictimai müzakirəyə açıq olan layihə tədbirləri, bu cür imkanların kritik infrastruktura, müdafiə-sənaye və əsas hökumət sistemlərinə qarşı istifadə edilməsi və ya təhlükəsizlik mühafizələrini aşmaq riski ilə bağlıdır. Moonshot bildirdi ki, açıq çəkili modellər daha çox təşkilata öz proqram təminatlarını, o cümlədən az diqqət alan köhnə sistemləri yoxlamağa və təmin etməyə kömək etməklə təhlükəsizliyi yaxşılaşdıra bilər. Lakin, mülkiyyətli, qapalı çəkili süni intellekt sistemlərindən fərqli olaraq, açıq çəkili buraxılışlar mərkəzi nəzarəti çətinləşdirir. Fayllar geniş yayıldıqdan sonra, orijinal tərtibatçının hosted xidmətlə müqayisədə girişi məhdudlaşdırmaq, istifadəni izləmək və ya təhlükəsizlik tədbirlərini yeniləmək qabiliyyəti azalır. Şirkət bildirdi ki, K3.1 Pro daxili kiber göstəricisində 81,0% nəticə göstərib, riskin azaldılması tədbirləri olmayan oxşar versiya isə 90,5% nəticə əldə etmişdi. Test nəzarətli mühitdə proqram təminatının zəifliklərini tapmaq və istismar etməkdən ibarət idi. Moonshot qeyd etdi ki, müqayisə kiber-əlaqəli məlumatların filtrlənməsinin modelin hücum kiber performansını azaltdığını göstərdi, baxmayaraq ki, o, hələ də sələfini üstələyirdi. Nəticələr müstəqil şəkildə təsdiqlənməyib. K3.1 Pro 1 milyon tokenlik kontekst pəncərəsinə malikdir ki, bu da ona çox böyük həcmdə mətni eyni anda emal etməyə imkan verir. Moonshot həmçinin daha sürətli versiya olan K3.1 Pro Highspeed -i buraxdı və bildirdi ki, bu versiya standart modeldən iki-üç dəfə sürətlə işləyir.