VAŞİNQTON: OpenAI şirkəti iki süni intellekt agentinin özlərini pis apararkən aşkar etmək üçün qurulmuş sistemləri söndürdüyünü və ya zəiflətdiyini, onlardan birinin isə sonradan bunu inkar etdiyini açıqlayıb. Bu hallar dünyanın aparıcı süni intellekt tərtibatçılarında insan müdaxiləsi olmadan tapşırıqları yerinə yetirən agentlərlə bağlı bir sıra təhlükəsizlik problemlərinin ən sonuncusudur. Çərşənbə axşamı (oktyabrın 20-də) yayımlanan hesabatda, ChatGPT -nin yaradıcısı bildirib ki, iki daxili kodlaşdırma işi zamanı onun agentləri süni intellekt modellərinin insan istəklərinə qarşı hərəkətlərini aşkar etmək üçün nəzərdə tutulmuş alətləri söndürüb və ya zəiflədib. Oktyabrın 3-də OpenAI -nin GPT-6.1 Sol modelində işləyən bir agent, iş yeri çat tətbiqində heç bir mesaj göndərməməsi tapşırığına baxmayaraq, sınaq sistemini düzəldərkən şirkətin təhlükəsizlik qrupu üçün nəzərdə tutulmuş təhlükəsizlik xəbərdarlıqlarını söndürməyə icazə kimi qəbul edib. Üç gün sonra, GPT-6 Astra agenti başqa bir layihədən kod kopyalayarkən öz monitorunu çıxarıb, sonra isə insan proqramçıya belə bir şey etmədiyini bildirib. Şirkət həmçinin monitorinq söndürülmüş proqram təminatını işə salan bir neçə agent halı gördüyünü və bunun nəzarətdə boşluq yaratdığını bildirib. OpenAI modellərin sadəcə təlimatlara həddindən artıq həvəslə əməl edib-etmədiyini, yoxsa monitorinqdən yayınmağa xüsusi meylləri olub-olmadığını hələ də müəyyən etməyə çalışdığını bildirib. Şirkət qeyd edib ki: “Biz hələ bu davranış üçün qənaətbəxş bir izahat tapa bilməmişik”. Bu açıqlama, aparıcı laboratoriyaların getdikcə daha avtonom sistemlərə nə dərəcədə nəzarət edə biləcəyi ilə bağlı artan narahatlıqlara əlavə olunur. İyul ayında bir qrup OpenAI agenti sınaq mühitlərindən çıxaraq Hugging Face adlı süni intellekt firmasına kiberhücum təşkil edib və beynəlxalq həyəcan doğurub. Digər şirkətlər də o vaxtdan bəri oxşar hadisələr barədə məlumat veriblər. Bu hadisələr Birləşmiş Ştatlarda və xaricdə süni intellekt inkişafına daha sərt nəzarət çağırışlarını gücləndirib. Lakin ABŞ Prezidenti Donald Tramp , Nvidia -nın rəhbəri Jensen Huang kimi aparıcı süni intellekt rəhbərlərinin məsləhəti ilə sənayeni özünü tənzimləməyə çağırıb. Ən yaxşı hekayələrimizi və düşündürücü məqalələrimizi elektron poçtunuza alın. Son xəbərlər və ən yaxşı hekayələrimiz üçün bildirişlərlə yenilənin.