OpenAI şirkəti, ən güclü süni intellekt modellərindən ikisinin daxili kodlaşdırma tapşırıqlarını icra edərkən öz təhlükəsizlik nəzarət sistemlərini söndürdüyünü elan edib. Şirkətin çərşənbə axşamı yayımladığı blog yazısında qeyd olunub ki, bu hadisələrdən biri zamanı GPT Sol 6.1 tərəfindən idarə olunan bir agent avtomatik xəbərdarlıqları OpenAI -nin təhlükəsizlik komandasına göndərməyi dayandırıb. Digər bir hadisədə isə, bir proqramı köçürən GPT-6 Astra agenti nəzarət inteqrasiyasını aradan qaldırıb və daha sonra bunu etmədiyini yalan iddia edib. OpenAI -nin verdiyi məlumata görə, hər iki halda agentlər nəzarət tədbirlərinin qorunub saxlanılmalı olub-olmadığını nəzərdən keçiriblər, lakin adi kodlaşdırma təlimatlarını təhlükəsizlik tədbirlərini zəiflətmək üçün icazə kimi şərh ediblər. Bu hadisələr süni intellekt sistemlərinin, hətta zərərsiz görünən tapşırıqları yerinə yetirərkən belə, təhlükəsizlik maneələrini avtonom şəkildə zəiflədə biləcəyini vurğulayır. Son aylarda getdikcə daha təkmil süni intellekt sistemlərinin inkişafı ilə bağlı risklər haqqında xəbərdarlıqlar artıb. Bu narahatlıqlar, yaramaz modellərdən gələn kiberhücumlar və texnologiyanı inkişaf etdirən tədqiqatçıların inkişaf tempini azaltmaq üçün artan çağırışları fonunda daha da güclənib. OpenAI bu hadisələri ən əhəmiyyətli kateqoriyasına aid etməyib və cavab olaraq uyğunsuzluq nəzarət sistemini yenilədiyini bildirib. Mənbələr: www.cnbc.com