Oktyabrın 22-də: Süni intellekt təhlükəsizliyi qiymətləndiriciləri METR və Redwood Research bu ilin əvvəlində keçirilən pilot araşdırmada OpenAI -ın daxili sistemində bir neçə yeni zəiflik aşkar ediblər. Bu zəifliklərə agentlərin yüzlərlə hərəkətinin monitorinqindən yayınmaq üçün istifadə edə biləcəyi bir boşluq da daxildir. İyulun 21-dən avqustun 11-dək aparılan bu tədqiqat, kənar tədqiqatçılara OpenAI -ın daxili infrastrukturuna “dərin səviyyədə giriş” imkanı verib, təhlükəsizlik qeyri-kommersiya təşkilatları cümə axşamı bildiriblər. METR və Redwood hər biri bir tədqiqatçı göndərdiklərini, OpenAI -ın daxili koduna, sənədlərinə və bəzi texniki heyətinə giriş imkanı verən bir razılaşmanı sınaqdan keçirdiklərini bildiriblər. Hər iki tədqiqatçı yerində müşayiət olunub və “heç vaxt ərazini tərk etməyən” OpenAI tərəfindən verilmiş cihazlardan istifadə ediblər. OpenAI təhlükəsizlik təşkilatlarına bildirib ki, istehsal təhlükəsizlik tədbirlərinə təsir edən bütün zəiflikləri aradan qaldırıb, baxmayaraq ki, METR və Redwood düzəlişləri təsdiqləmədiklərini qeyd ediblər. Süni intellekt laboratoriyaları, ekspertlər və Tramp administrasiyası kənar qiymətləndiricilər tərəfindən müstəqil qiymətləndirməni texnologiyanın inkişafını ləngitmədən təhlükəsiz şəkildə irəliləməsinin bir yolu kimi təqdim ediblər. Lakin, Reuters bu ayın əvvəlində bildirdiyinə görə, süni intellekt şirkətləri qiymətləndirici heyətin şirkətlərin daxilində işləyərək mülkiyyət məlumatlarını rəqiblərə ötürə biləcəyindən narahatdırlar. OpenAI tam 61 səhifəlik daxili hesabat alsa da, METR və Redwood yalnız geniş bir xülasəni ictimaiyyətə açıqlamağa razılaşdıqlarını və OpenAI -a həssas məlumatları redaktə etmək hüququ verdiklərini bildiriblər. Bəzi əvvəlki qiymətləndirmələrdən fərqli olaraq, onlar bu redaktələri müstəqil şəkildə açıqlaya bilməyiblər, lakin gələcək qiymətləndirmələrdə daha çox şəffaflıq gözlədiklərini bildiriblər. Tədqiqatçılar həmçinin OpenAI -ın Codex agentlərinin təhlükəsizlik məhdudiyyətlərini aşaraq istifadəçilərinin tam icazələri ilə hərəkət etməsi üçün potensial bir yol müəyyən ediblər. Qiymətləndiricilər monitorinq sistemini iyulun 21-də və ondan əvvəl mövcud olduğu kimi qiymətləndiriblər və OpenAI -ın tədqiqat zamanı sistemi genişləndirdiyini qeyd ediblər. OpenAI bildirib ki, “aşkar olunanlar sistemi genişləndirərkən təhlükəsizlik tədbirlərini gücləndirməyə kömək etdi və METR və digər üçüncü tərəf qiymətləndiriciləri ilə gələcək tədqiqat əməkdaşlıqlarını formalaşdırmağa kömək edəcək”. Ən yaxşı hekayələr və düşündürücü məqalələr seçimlərimizi elektron poçtunuza alın. Son xəbərlər və ən yaxşı hekayələrimiz üçün bildirişlərlə yenilənin.