ChatGPT -nin yaradıcısı OpenAI -dən bu yaxınlarda ayrılan təhlükəsizlik mühəndisi şənbə günü süni intellekt (Sİ) firmalarının “kifayət qədər diqqətli olmadığını” xəbərdar edib. David Robinson -un şərhləri Sİ-nin həddən artıq güclü olmasına dair artan narahatlıqlar fonunda səslənib – bu təhlükəni ABŞ Prezidenti Donald Trump “hoax” adlandırıb. OpenAI və Anthropic bu yaxınlarda Sİ modellərinin təhlükəsizlik nəzarətlərindən yan keçdiyi, səhvləri gizlətdiyi və daxil olmamalı olduqları sistemləri sındırdığı halları açıqlayıblar. David Robinson nə yazdı? The Atlantic üçün yazdığı məqalədə Robinson Sİ-nin nüvə enerjisi və aviasiya sahəsindəki kimi təhlükəsizlik tədbirlərinə ehtiyacı olduğunu bildirib və əlavə edib: “Sınaq və səhv dövrü bitdi.” O, ABŞ -ın böyük texnologiya şirkətləri daha təkmil Sİ modelləri hazırlamazdan əvvəl təhlükəsizliyə və araşdırmalara daha çox diqqət yetirilməsinə çağırıb, “beləliklə, təsadüfi və qaçılmaz insan səhvi fəlakətə yol açmasın.” 12 qabaqcıl Sİ modelinin istifadəyə verilməsi üçün təhlükəsizlik hesabatlarına nəzarət edən Robinson , son səhvlərin tipik olduğunu, çünki texnologiya nəhənglərinin “sürət və çevikliyə” üstünlük verdiyini bildirib. “Belə şeylərin baş verə biləcəyi bir mühit, bizdən daha ağıllı ola biləcək və istədiyimizi etməyə biləcək süni ağılları inkişaf etdirmək üçün uyğun yer deyil.” Keçmiş OpenAI əməkdaşı firmanın “iterativ yerləşdirməyə” güvəndiyini qeyd edib. O, əvvəlcə yeni Sİ modellərini buraxır və yalnız problemlər ortaya çıxdıqdan sonra təhlükəsizlik tədbirlərini gücləndirir. OpenAI -də 3,5 il işləyən Robinson əlavə edib: “Şirkət bir buraxılışdan digərinə sürətlə keçərkən, mənim inandığım səviyyədə diqqət göstərə bilmir.” ChatGPT -nin yaradıcısı Sİ-nin təhlükəsiz olduğunu israr edir. OpenAI son tənqidlərə bir bəyanatla cavab verib: “Biz modellərimizin təhlükəsiz şəkildə idarə edə biləcəyimizdən daha qabiliyyətli olmamasını təmin edirik və yavaşlamağımız lazım gəldikdə təlimi dayandırır və ya modelləri geri çəkirik.” Son aylarda texnologiya mütəxəssisləri və siyasətçilər tərəfindən Sİ modellərinin o qədər sürətlə inkişaf etdiyi, nəzarəti ələ ala biləcəyi və bəlkə də bəşəriyyəti məhv edə biləcəyi barədə dəfələrlə xəbərdarlıqlar edilib. Bu qorxulara baxmayaraq, ABŞ Prezidenti Donald Trump daha güclü tənzimləməyə qəti şəkildə qarşı çıxır, bunun innovasiyanı yavaşladacağını və ABŞ Sİ modellərinin Çin rəqiblərini üstələməsini çətinləşdirəcəyini israr edir. Bu həftə Trump altı şirkətlə – Nvidia , SpaceX , OpenAI , Anthropic , Meta və Alphabet -in Google -u ilə könüllü təhlükəsizlik paktı elan edib. Prezident bu razılaşmanı hüquqi cəhətdən icra edilə bilməsə də, “mənəvi cəhətdən məcburi” adlandırıb. O, həmçinin administrasiyasına Sİ-ni “Super Zəka” və ya Sİ olaraq yenidən adlandırmağı tapşırıb. Keçən ay Reuters/Ipsos tərəfindən aparılan sorğu göstərib ki, Amerikalıların dörddə üçü Sİ nəhənglərinin Sİ-nin cəmiyyətə ciddi zərər verməsinin qarşısını almaq üçün kifayət qədər iş görmədiyindən narahatdır. Etibarlı xəbərlər üçün komandamıza güvənirsinizsə, lütfən, bizi Google -da Seçilmiş Mənbəyiniz olaraq seçmək üçün bir dəqiqə ayırın ki, təsdiqlənmiş xəbərlərimizi həmişə ilk görəsiniz. Redaktor: Sean Sinico