[P1] Ötən həftə OpenAI -nin işdən çıxardığı üç təhlükəsizlik tədqiqatçısı – Jasmine Wang , Tomek Korbak və Mikita Balesni – şirkətin onların həssas məlumatları müəyyən edilmiş şirkət prosedurlarından kənarda yanlış idarə etmələri ilə bağlı iddialarını rədd edən açıq məktub dərc ediblər. Onlar xəbərdarlıq ediblər ki, işdən çıxarılmaları şirkətin mədəniyyətinə mənfi təsir göstərəcək bir soyutma effekti yaradacaq. Tədqiqatçılar cümə axşamı OpenAI -nin Təhlükəsizlik və Mühafizə Komitəsinə, Təhlükəsizlik Məsləhət Qrupuna və Missiya Məsləhət Şurasına ünvanladıqları açıq məktubda yazıblar: “Bizim işdən çıxarılmamızla bağlı daxili və xarici kommunikasiyaların keçmiş həmkarlarımızı danışmaqdan və keçən həftəyə qədər OpenAI -də işləməyin ayrılmaz hissəsi olan şəkildə fəaliyyət göstərməkdən qorxutmasından narahatıq”. Tədqiqatçılar ötən həftə üçüncü tərəf süni intellekt təhlükəsizlik təşkilatı ilə məxfi şirkət məlumatlarını paylaşdıqları iddia edildikdən sonra işdən çıxarılıblar. OpenAI o zaman bildirmişdi ki, onlar “həssas şirkət məlumatlarına daxil olmaq və onları idarə etməklə” şirkətin siyasətlərini pozublar. “ Süni intellekt normal bir texnologiya deyil və OpenAI normal bir şirkət deyil”, – Wang , Korbak və Balesni yazıblar. “Təhlükəsizlik üzərində işləyənlərimiz riskləri hər kəsdən əvvəl görürlər və biz onları necə həll edəcəyimizi müəyyən etmək üçün xarici ekspertlərlə sıx əməkdaşlığa güvənirik. Bunu qorxmadan etmək azadlığı və bu işi təmin edən yaxşı müəyyən edilmiş daxili prosedurların olması özü əsas təhlükəsizlik mexanizmidir.” Onlar bildiriblər ki, işdən çıxarılmaları OpenAI -nin mədəniyyətində daha geniş bir dəyişikliyi təmsil edir; bu mədəniyyət əvvəllər işçiləri “təhlükəsizlik narahatlıqlarını dilə gətirməyə və açıq şəkildə fikir ayrılığına düşməyə” təşviq edirdi. Onlar deyiblər ki, bir ay əvvəl normal olduğu iddia edilən davranış indi qəfildən işdən çıxarılma səbəbi olduğu üçün işçilər “harada dayandıqlarını bilmirlər”. Onlar yazıblar: “ Süni intellektin inkişafı ilə bağlı əhəmiyyətli təhlükəsizlik narahatlıqlarını nəzərə alaraq, işçilər qorxu və qeyri-müəyyən qaydaların süni intellekt təhlükəsizlik işini əngəllədiyi və üçüncü tərəfin məsuliyyətini zəiflətdiyi bir mühitdə işləməyə məcbur edilməməlidirlər”. “Bizimki kimi, bu qədər qəfil icra edilən və kommunikasiya edilən işdən çıxarılmalar OpenAI -nin keçmişdə qiymətləndirdiyi açıq mədəniyyəti soyudur.” Məktubda üçlük OpenAI -nin ən yeni modellərində zəncirvari düşünməni izləməyi çətinləşdirən daha az nəzarət edilə bilən arxitekturalar haqqında The Information -a sızmada iştiraklarını rədd ediblər. Onlar həmçinin işlərinin səlahiyyətlərindən kənarda xarici tərəflərlə əlaqə saxladıqlarını da inkar ediblər. OpenAI açıq məktuba rəsmi cavab verməyib, lakin TechCrunch ilə bir tədqiqat liderinə aid edilən daxili memo paylaşıb. Bu memo üç tədqiqatçının süni intellekt təhlükəsizliyinə verdiyi töhfələri tərifləyir və onların qisas məqsədilə işdən çıxarılmasını inkar edir. Memoda deyilir: “Mən çox açıq demək istəyirəm ki, bu qərarlar təhlükəsizlik narahatlıqlarını dilə gətirmək və ya açıq danışmaqla bağlı deyildi. Biz bunu həmişə təşviq etmişik və həmişə də edəcəyik. Biz narahatlıqlarını dilə gətirən işçiləri işdən çıxarmırıq.” OpenAI TechCrunch -ın tədqiqatçıların hansı siyasətləri pozduqları, işdən çıxarılmalarının şərtləri və şirkətin təhlükəsizlik narahatlıqlarını dilə gətirən və xarici qiymətləndiricilərlə əməkdaşlıq edən işçiləri necə qoruduğu ilə bağlı suallarına birbaşa cavab verməyib. İşdən çıxarılmalar onların şərtləri ilə bağlı spekulyasiyaları gücləndirib, xüsusilə də OpenAI -nin son təhlükəsizlik insidentləri, o cümlədən nəzarətdən çıxmış agentlər və modelləri haqqında sızmalarla bağlı araşdırmalarla üzləşdiyi bir vaxtda. Məktubda tədqiqatçıların Hugging Face insidentinə verdiyi cavab da qeyd olunur; bu insidentdə bir sıra agentlər öz sandbox-larından çıxaraq xarici sistemlərə daxil olublar. Məktubda deyilir ki, insident və araşdırma “presedentsiz” idi, yəni “daxili siyasətlər real vaxtda hazırlanır”. Araşdırmanın həssas xarakterini nəzərə alaraq, Korbak məktuba görə, etibar yaratmaq üçün xarici təhlükəsizlik qiymətləndiriciləri ilə sıx əlaqə saxlayaraq OpenAI -nin siyasətləri və normaları daxilində hərəkət etdiyinə inanırdı. Eyni zamanda, Balesni də daxili olaraq artan süni intellekt nəzarət edilə bilməsi problemini həll etmək üzərində işləyirdi; tədqiqatçılar məktublarında bu səyin “yalnız xarici tərəflərlə geniş ünsiyyət vasitəsilə uğur qazana biləcəyini” bildirirlər. Məktuba görə, Balesni işi boyunca OpenAI idarə heyəti üzvləri və rəhbərləri ilə koordinasiya edib və onların dəstəyini alıb. Məktubda deyilir: “Bütün müddət ərzində Mikita öz hesabat xətti ilə əlaqə saxlayıb və materialları paylaşmazdan əvvəl həssas detalları çıxarmağa diqqət yetirib. O, bütün müddət ərzində xoş niyyətlə və şirkətin o zamankı normaları daxilində hərəkət edib.” X -dəki ayrı bir yazıda Wang öz işdən çıxarılması haqqında daha ətraflı məlumat verərək, OpenAI -nin ona bir rəhbərin e-poçtuna daxil olduğu üçün işdən çıxarıldığını bildirdiyini izah edib. O yazıb: “ OpenAI bu girişi mənə işə qəbul üçün vermişdi. Mənə artıq lazım olmayanda, İT-dən onu silmələrini xahiş etdim. Onlar mənim xahişimi yerinə yetirmədilər, mən özüm onu silə bilmədim və gələn qutusu telefonumun poçt tətbiqində fərqləndirilməyən şəkildə birləşdirilmişdi. Səhvən həssas bir e-poçtu açanda, bir neçə dəqiqə ərzində rəhbərə bildirdim və İT-dən yenidən xahiş etdim. Bunların heç biri gizli deyildi.” Wang daha sonra bildirib ki, işdən çıxarılmaların səbəbləri “bir-birini tamamlamır” və o və həmkarları “şübhəli şəraitdə OpenAI -dən uzaqlaşdırılan ilk şəxslər deyil”. Tədqiqatçılar OpenAI -ni təşkilat daxilində üçüncü tərəf təhlükəsizlik auditorlarını yerləşdirmək, qabaqcıl modellərin nəzarət edilə bilməsini qorumaq və “təhlükəsizlik tədqiqatçıları ilə təhlükəsizlik ekosisteminin qalan hissəsi arasında açıq və şəffaf dialoq mədəniyyətini dəstəkləməyə davam etmək” üçün ictimai öhdəliklərinə əməl etməyə çağırıblar. Memoya görə, OpenAI onların tövsiyələri ilə razılaşır. Wang deyib: “Əgər işçilər indi bu cür manevrə qarşı çıxmasalar, narahatam ki, biz sonuncu olmayacağıq. OpenAI -də qalan hər kəsə mesaj aydındır: narahatlıqlarınızı dilə gətirin və ya xarici təhlükəsizlik qrupları ilə sıx işləyin, növbəti siz ola bilərsiniz, səbəbi deyilmədən. Riskə ən yaxın olan insanlar danışmaqdan qorxurlarsa, AGI -ni təhlükəsiz şəkildə qura bilməzsiniz.”