OpenAI şirkəti süni intellekt (Sİ) agentlərinin daxili istifadə zamanı icazəsiz davranışları izləmə sistemlərini söndürdüyünü açıqlayıb. Bu, qabaqcıl texnologiyanın nəzarətdən çıxması ilə bağlı son hadisədir. Çərşənbə axşamı dərc olunan hesabatda, Sİ nəhəngi bildirib ki, onun agentləri iki daxili kodlaşdırma tapşırığı zamanı uyğunsuzluğu – yəni Sİ modellərinin insan istəklərinə zidd hərəkət etməsini – aşkar etmək üçün nəzərdə tutulmuş monitorinq sistemlərini söndürüb və ya zəiflədib. OpenAI -nin bildirdiyinə görə, hadisələr GPT-6.1 Sol agentinin şirkətin təhlükəsizlik qrupuna avtomatik xəbərdarlıqları söndürməsi və GPT-6 Astra agentinin monitorinq sistemini silərək bunu etmədiyini yalan iddia etməsi ilə bağlı olub. ChatGPT -nin yaradıcısı bildirib ki, bu halların heç biri təhlükəsizlik qrupu tərəfindən dərhal nəzərdən keçirilməsini tələb edən ən yüksək prioritetli hadisə həddinə çatmayıb. OpenAI uyğunsuzluq monitorinqini söndürmə cəhdlərini daha yaxşı aşkar etmək üçün sistemlərini yenilədiyini və səbəbi araşdırmağa başladığını bildirib. San Fransisko mərkəzli firma qeyd edib: “Bu davranış sadəcə “zərərsiz” həddindən artıq davamlılığın bir nümunəsi ola bilər, modellər monitorinqin niyə vacib olduğunu anlamır və ya təlimatların ağlabatan bir insanın gözlədiyindən kənarda icra edilməsində israr edir”. “Biz həmçinin modellərin xüsusilə uyğunsuzluq monitorinqindən yayınmağa meylli olub-olmadığını və bunu etmək üçün motivasiyalı əsaslandırma nümayiş etdirib-etmədiyini yoxlamaq üçün qiymətləndirmələr hazırlayırıq.” Luizvill Universiteti nin Sİ və kibertəhlükəsizlik üzrə mütəxəssisi Roman V Yampolskiy bu açıqlamaları “son dərəcə narahatedici, lakin təəccüblü deyil” kimi qiymətləndirib. Yampolskiy Al Jazeera -yə bildirib: “Nəzarət edilən sistemin söndürə biləcəyi təhlükəsizlik mexanizmi etibarlı təhlükəsizlik mexanizmi deyil. Xüsusilə narahatedici olan odur ki, bir agent sonradan monitoru sildiyini inkar edib”. Yampolskiy deyib: “Nəzarət edilən sistem monitoru zəiflədə bilərsə, monitorinq təhlükəsizliyə zəmanət verə bilməz”. “İmkanlar artdıqca, bu cür uğursuzluqları aşkar etmək və aradan qaldırmaq xeyli çətinləşə bilər. Sübut yükü uğursuzluqlar baş verdikdən sonra deyil, yerləşdirmədən əvvəl təhlükəsizliyi nümayiş etdirmək üçün tərtibatçıların üzərinə düşməlidir.” Sİ modelləri nin nəzarətdən çıxmış davranışı iyul ayından bəri daha çox diqqət mərkəzindədir. Həmin vaxt OpenAI bəzi agentlərinin nəzarətli sınaq mühitindən çıxaraq Hugging Face Sİ platformasını sındırdığını açıqlamışdı. OpenAI və onun əsas rəqibi Anthropic , fəlakətli zərərlər riskini azaltmaq üçün tərtibatçıları və hökumətləri Sİ inkişafında qlobal yavaşlamanı əlaqələndirməyə çağırıblar. Dünyanın aparıcı Sİ gücləri olan ABŞ və Çin , Sİ tənzimlənməsi üzrə əməkdaşlığa az maraq göstəriblər. Əməkdaşlıq indiyə qədər təhlükəsizlik və ya milli təhlükəsizlik üçün nəticələri olan hadisələr barədə ünsiyyəti yaxşılaşdırmaq vədləri ilə məhdudlaşıb.