Süni intellekt (Sİ) insanlara kömək etməlidir, lakin onun sürətli inkişafı ciddi risklər də gətirir. OpenAI -nin rəhbəri Sam Altman qarşısı alınmalı olan iki təhlükə barədə xəbərdarlıq edib. O, X -dəki paylaşımında niyə daha güclü təhlükəsizlik yoxlamalarına ehtiyac olduğunu izah edib. Onun ilk narahatlığı insanların güclü Sİ sistemləri üzərində nəzarəti itirə bilməsi ilə bağlıdır. “Bu qəbuledilməzdir; biz qətiyyətlə Bəşəriyyət Komandası ndayıq və Sİ həmişə insanlara xidmət etməlidir,” o yazıb. Sam Altman a görə, bu o deməkdir ki, təhlükəsizlik tədbirləri bu sistemlərin imkanlarından daha sürətli inkişaf etməlidir. Onun ikinci narahatlığı gücün dünyada çox az əldə cəmləşməsidir. Bir şirkət, şəxs və ya ölkə güclü Sİ-dən istifadə edərək öz baxışlarını hər kəsə zorla qəbul etdirə bilər. “Əgər fövqəladə güclü Sİ bir şəxs və ya şirkət tərəfindən öz dünyagörüşünü hər kəsə təlqin etmək üçün istifadə olunarsa, nəticələr son dərəcə distopik ola bilər,” Altman yazıb. OpenAI -nin CEO-suna görə, aparıcı Sİ şirkətləri ictimaiyyətə məsuliyyətlə davrandıqlarını göstərməlidirlər. O, ABŞ hökuməti nin ən qabaqcıl Sİ üçün ümumi təhlükəsizlik qaydalarını alqışlayıb. Şirkətlər etimad qurmalıdırlar. Lakin o, şirkətlərin yeni qanunları gözləmədən ictimai etimadı qurmağa başlamalı olduğunu bildirib. O, həmçinin şirkətlərin riskləri düzgün idarə edib-etmədiyini yoxlamaq üçün müstəqil yoxlamaları dəstəkləyib. Əvvəlki təhlükəsizlik planları əsasən hazır Sİ sistemlərinin ictimaiyyətə təqdim edilməzdən əvvəl yoxlanılmasına yönəlmişdi. İndi isə o, bu sistemlər hələ inkişaf etdirilərkən təhlükəsizliyə diqqət yetirilməli olduğunu iddia edib. Altman a görə, OpenAI imkanları artıracağı gözlənilən müəyyən təlim addımlarından əvvəl təhlükəsizlik arqumentləri hazırlayır. Bu arqumentlər mövcud buraxılış yoxlamaları ilə yanaşı, planlaşdırılan işin niyə təhlükəsiz şəkildə davam edə biləcəyini izah edir. O, həmçinin şirkətləri təhlükəsizlik metodlarını bölüşməyə və birlikdə ümumi standartlar hazırlamağa çağırıb. Altman irəliləyişin sürətinə nəzarət etməyin Sİ inkişafını dayandırmaq demək olmadığını aydınlaşdırıb. Bunun əvəzinə, şirkətlər sınaq, monitorinq və təhlükəsizlik üçün əlavə vaxt və xərcləri qəbul etməlidirlər. Rəqabət təzyiqinin belə güclü texnologiya ilə bağlı ehtiyatsız qərarlara haqq qazandıra bilməyəcəyini söyləyib. “Bu gün təhlükəsiz inkişaf və qiymətləndirməyə yönəlmək yeni alətlər tələb edəcək. Məsələn, OpenAI -də biz model buraxılışlarından əvvəl uzun müddətdir gördüyümüz təhlükəsizlik işlərinə əlavə olaraq, imkanları əhəmiyyətli dərəcədə artıracağını gözlədiyimiz qabaqcıl gücləndirici öyrənmə işlərindən əvvəl açıq təhlükəsizlik halları formalaşdırırıq,” Sam Altman yazıb. “...heç bir Amerika rəqabət təzyiqi ehtiyatsızlığa haqq qazandırmamalı və ya imkanların uyğunlaşma və monitorinqdən irəli keçməsinə imkan verməməlidir,” o əlavə edib. “Hökumətimizin köməyinə ehtiyac duyacağımız yer beynəlxalq koordinasiyadır. Lakin əvvəlcə özümüz edə biləcəyimiz hər şeyi etməliyik,” o yekunlaşdırıb.