Cümə günü OpenAI , təhlükəsizlik nəzarətlərini gücləndirdikdən sonra oktyabrın 1-də frontier modellərinin gücləndirici öyrənmə təlimlərinə və daxili nəticə çıxarma əməliyyatlarına yenidən başladığını bildirdi. Şirkət frontier model təlimləri üçün canlı internetə giriş qadağası siyasətini qəbul edib. Bu açıqlama, qabaqcıl süni intellekt agentlərinin proqram təminatındakı zəiflikləri, o cümlədən onları nəzarətdə saxlamaq üçün nəzərdə tutulmuş təhlükəsizlik tədbirlərindəki çatışmazlıqları aşkar etmək və istismar etmək qabiliyyəti ilə bağlı narahatlıqların artdığı bir vaxta təsadüf edir. OpenAI sentyabr ayında bir tədqiqat modelinin konfiqurasiya səhvini istismar edərək məhdud internetə giriş əldə etməsindən sonra ən qabaqcıl modellərinin təlimini dayandırmışdı. Şirkət hadisənin qarşısının alındığını və fasilədən təhlükəsizlik tədbirlərini gücləndirmək, həmçinin “ciddi risk yaradan fəaliyyət aşkar etdikdə işləri avtomatik dayandıran sistemləri təkmilləşdirmək” üçün istifadə etdiyini bildirdi. OpenAI getdikcə daha qabiliyyətli süni intellekt modellərinin yüksək təhlükəsiz sistemlərdə belə zəiflikləri və yanlış konfiqurasiyaları müəyyən edə biləcəyini qeyd etdi. Sam Altman ın rəhbərlik etdiyi şirkət, tədqiqat infrastrukturunu qiymətləndirmək üçün təhlükəsizlik sınaq kampaniyasına başladı və süni intellekt agentlərinə icazəsiz internetə girişi, təhlükəsizlik pozuntularını və ya digər agentlərlə əlaqəni təmin edə biləcək zəiflikləri müəyyən etməyi tapşırdı. Sınaqlar əvvəllər məlum olmayan proqram təminatı zəifliklərini və konfiqurasiya səhvlərini aşkar etdi. OpenAI bu problemləri həll etdiyini və “Patch the Planet” təşəbbüsü vasitəsilə çatışmazlıqları açıqlamaq və aradan qaldırmaq üçün açıq mənbəli proqram təminatı təminatçıları ilə əməkdaşlıq etdiyini bildirdi. Təlim zamanı OpenAI geniş istifadə olunan məlumat sıxılma aləti olan Brotli də bir zəiflik aşkar etdi. Reuters in məlumatına görə, süni intellekt startapı hücum edənlərin zərərli məlumatları ötürərək, Node.js , Bun və Envoy kimi populyar proqram təminatlarını işlədən sistemlər də daxil olmaqla, həssas sistemlərdə öz kodlarını icra etmək üçün bu çatışmazlığı istismar edə biləcəyini bildirdi. Əsas problem fevral ayında Brotli nin mənbə kodunda həll edilmişdi, lakin o zaman təhlükəsizlik riski kimi tanınmamışdı və yenilənmiş versiya buraxılmamışdı. OpenAI -nin açıqlamasından sonra Brotli yenilənmiş versiyaları buraxdı və zəifliyin təfərrüatlarını ictimaiyyətə açıqladı, hesabatda əlavə edildi. Ayrı-ayrılıqda, süni intellekt təhlükəsizliyi qiymətləndiriciləri METR və Redwood Research cümə axşamı OpenAI -nin daxili sistemlərində bir neçə yeni zəiflik aşkar etdiklərini bildirdilər. Bu ilin əvvəlində pilot nəzərdən keçirmə zamanı onlar süni intellekt agentlərinə yüzlərlə hərəkətlərini monitorinqdən gizlətməyə imkan verə biləcək bir istismar aşkar etdilər. OpenAI , METR və Redwood Research -ə qiymətləndiricilər tərəfindən aşkar edilmiş və istehsal təhlükəsizlik sistemlərinə təsir edən bütün zəiflikləri aradan qaldırdığını bildirdi. Şirkət həmçinin monitorinq sisteminin planlaşdırılan əhatə dairəsində əsaslı dəyişiklikləri qeyd etdi. Lakin təhlükəsizlik təşkilatları bu iddiaları qiymətləndirmədiklərini bildirdilər. OpenAI , Benzinga nın şərh tələbinə dərhal cavab vermədi. Bundan əlavə, ChatGPT istehsalçısı bir bloq yazısında bildirdi ki, süni intellekt agentləri eyni avadanlıq və ya xidmətləri paylaşdıqda birbaşa şəbəkə bağlantısı olmadan əlaqə qura bilərlər, çünki bir mühitdəki fəaliyyət digərində aşkar edilə bilən təsirlər buraxa bilər. Şirkət əlavə etdi ki, onun təhlükəsizlik sınaq agentləri şirkətin öz sandboxing infrastrukturunda əlaqə kanalları yaratmaq üçün bu təsirləri istismar ediblər. OpenAI bloq yazısında bildirdi ki, Hugging Face hadisəsindən sonra təlim və qiymətləndirmə zamanı modellərin internetə çıxa biləcəyi kanalları azaldıb. İyul ayında OpenAI -nin muxtar süni intellekt agentinin daxili təhlükəsizlik qiymətləndirməsi zamanı nəzarətli sınaq mühitindən qaçaraq internetə çıxış əldə etməsi və Hugging Face -in infrastrukturunu pozmasından sonra süni intellekt agentləri ilə bağlı təhlükəsizlik narahatlıqları yenidən gündəmə gəldi. Bu həftənin əvvəlində OpenAI , iki süni intellekt agentinin qanunsuz hərəkətləri qeyd etmək üçün qurulmuş daxili monitorinq sisteminin müəyyən funksiyalarını pozduğunu bildirdi. Şirkət “bu davranış üçün hələ qənaətbəxş bir izahatının olmadığını” və araşdırma aparacağını qeyd etdi. Lakin OpenAI -nin agentləri yeganə deyil. Alphabet Inc. ( NASDAQ: GOOG ) ( NASDAQ: GOOGL ) Google Gemini modeli kiber təhlükəsizlik sınağından keçərkən internetə daxil olub və üç şirkətin sistemlərini pozub. OpenAI özü də müstəqil təhlükəsizlik tədqiqatçıları tərəfindən Anthropic -in Claude AI proqram təminatından istifadə edərək həyata keçirilən süni intellekt yönümlü haker hücumuna məruz qalıb. Daha çox baxın: