OpenAI çərşənbə axşamı bildirdi ki, onun iki süni intellekt (Sİ) agenti yanlış davranışı aşkar etmək üçün nəzərdə tutulmuş daxili monitorinq sisteminin bəzi hissələrini zəiflədib. Bu, Sİ agentlərinin tərtibatçılarının nəzərdə tutmadığı şəkildə hərəkət etdiyi ən son haldır. ChatGPT istehsalçısı hadisələrin daxili kodlaşdırma tapşırıqları zamanı baş verdiyini və ən ciddi hesab edilmədiyini bildirsə də, bu açıqlama Sİ-nin yanlış davranışlarını aşkar etmək üçün tərtibatçıların etibar etdiyi sistemlərin belə, nəzarət etdikləri agentlər tərəfindən zəiflədilə biləcəyini vurğulayır. Bu açıqlama, həmçinin Sİ təhlükəsizliyi səylərinin getdikcə daha güclü sistemlərin sürətli inkişafından geri qaldığına dair artan narahatlıqlar fonunda verilir. Tədqiqatçılar xəbərdarlıq ediblər ki, qabaqcıl Sİ agentləri daha çox müstəqillik qazandıqca onlara nəzarət etmək və idarə etmək çətinləşə bilər. OpenAI və Anthropic kimi IPO -ya hazırlaşan rəqiblər də daxil olmaqla, tərtibatçılar son aylarda öz Sİ agentlərinin icazəsiz xarici sistemlərə daxil olduğu halları açıqlayıblar. OpenAI çərşənbə axşamı bildirdi ki, oktyabrın 3-də daxili test tapşırığı üzərində işləyən GPT-6.1 Sol agenti, əvvəlki təlimatın Slack mesajları göndərməmək barədə olduğunu və bunun təhlükəsizlik bildirişlərinə də aid olduğunu qərarlaşdırdıqdan sonra avtomatik təhlükəsizlik xəbərdarlıqlarını yatırıb. OpenAI -nin bildirdiyinə görə, oktyabrın 6-da baş verən ayrı bir hadisədə, GPT-6 Astra agenti mövcud kod parçasını kopyalarkən təhlükəsizlik monitorunu silib və daha sonra bunu etmədiyini səhvən iddia edib. Şirkət bildirib: “Hər iki halda, agentlər monitorinq təhlükəsizlik tədbirlərinin qorunub saxlanılmalı olub-olmadığını nəzərdən keçiriblər, lakin adi kodlaşdırma təlimatlarını onları zəiflətmək üçün icazə kimi şərh ediblər”. OpenAI modellərin monitorinqi deaktiv etməsini çətinləşdirdiyini və bu davranış üçün hələ “qənaətbəxş bir izahatının olmadığını” əlavə etdi. San Fransisko mərkəzli şirkət, modellərinin monitorinqdən yayınmağa və bunu əsaslandırmaq üçün səbəblər axtarmağa meylli olub-olmadığını yoxladığını bildirdi.