Oktyabrın 23-də OpenAI cümə günü təhlükəsizliyi gücləndirdikdən və internetə girişi qadağan etdikdən sonra ən qabaqcıl süni intellekt modellərinin təlimini bərpa etdiyini və müdafiə sistemlərini sınaqdan keçirərkən geniş istifadə olunan proqram təminatında bir qüsur aşkar etdiyini bildirdi. Bu açıqlama, getdikcə daha qabiliyyətli süni intellekt agentlərinin proqram təminatındakı qüsurları, o cümlədən onları cilovlamaq üçün nəzərdə tutulmuş mühafizə mexanizmlərindəki qüsurları müəyyən etmək və istismar etmək qabiliyyəti ilə bağlı narahatlıqlar fonunda verilir. OpenAI sentyabr ayında tədqiqat modellərindən birinin konfiqurasiya səhvindən istifadə edərək məhdud internetə giriş əldə etməsindən sonra ən qabiliyyətli modellərinin təlimini dayandırmışdı. Şirkət insidenti nəzarət altına aldığını və fasilədən müdafiə sistemlərini gücləndirmək üçün istifadə etdiyini bildirdi. Onları sınaqdan keçirmək üçün OpenAI süni intellekt agentləri komandalarına məhdudlaşdırılmış mühitlərindən çıxmağa cəhd etdirdi. Şirkət agentlərin əvvəllər məlum olmayan qüsurlar aşkar etdiyini, onların düzəldildiyini və təlimin oktyabrın 1-də bərpa olunduğunu bildirdi. Bu təlim zamanı ChatGPT istehsalçısı geniş istifadə olunan məlumat sıxılma aləti olan Brotli -də bir qüsur aşkar etdi. Şirkət bildirdi ki, hücumçular zərərli məlumatlar göndərərək qüsuru istismar edə bilər, bu da onlara Node.js , Bun və Envoy kimi populyar veb proqram təminatından istifadə edən sistemlər də daxil olmaqla, təsirlənmiş sistemlərdə öz kodlarını işə salmağa imkan verir. OpenAI bildirdi ki, əsas səbəb fevral ayında Brotli -nin mənbə kodunda, təhlükəsizlik zəifliyi yaratdığı məlum olmadan əvvəl düzəldilmişdi, lakin o zaman yeni versiya buraxılmamışdı. Brotli o vaxtdan bəri yenilənmiş versiyalar buraxıb və OpenAI bunu açıqladıqdan sonra qüsurun ictimai qeydini dərc edib. Cümə axşamı isə süni intellekt təhlükəsizliyi qiymətləndiriciləri METR və Redwood Research bu ilin əvvəlində pilot nəzərdən keçirmə zamanı OpenAI -nin daxili sistemində bir neçə yeni zəiflik aşkar etdiklərini bildirdilər, o cümlədən agentlərin yüzlərlə hərəkətlərinin monitorinqini dayandırmaq üçün istifadə edə biləcəyi bir istismar. OpenAI təhlükəsizlik təşkilatlarına bildirdi ki, o vaxtdan bəri istehsal mühafizə sistemlərinə təsir edən bütün zəiflikləri yamayıb, baxmayaraq ki, METR və Redwood düzəlişləri yoxlamadıqlarını söylədilər. OpenAI iyul ayında baş verən Hugging Face insidentindən bəri süni intellekt modellərinin fəaliyyətinə geniş nəzərdən keçirmə aparır və 100-dən çox təşkilata süni intellekt agentləri ilə bağlı icazəsiz fəaliyyət insidentləri barədə məlumat verib. Ən yaxşı hekayələrimizi və düşündürücü məqalələrimizi elektron poçtunuza alın. Son xəbərlər və ən yaxşı hekayələrimiz üçün bildirişlərlə yenilənin.