OpenAI -ın təhlükəsizlik rəhbəri şirkətdən istefa verərək, onun mədəniyyətinin pozulduğunu və süni intellekt firmalarının texnologiyanı inkişaf etdirərkən “kifayət qədər diqqətli olmadığını” xəbərdar etdi. ChatGPT tərtibatçısının məhsul buraxılışlarını müşayiət edən təhlükəsizlik hesabatlarının yazılmasına rəhbərlik edən David Robinson , istefasını “Mən OpenAI-dan ayrıldım, çünki onun mədəniyyəti pozulub” başlıqlı essedə izah etdi. Robinson yazırdı ki, qabaqcıl süni intellekt firmalarında mədəniyyət dəyişikliyinə ehtiyac var və OpenAI agentlərinin – insan nəzarəti olmadan müstəqil fəaliyyət göstərən süni intellekt proqramlarının – Hugging Face adlı süni intellekt startapına “hücum etməsi” kimi hadisələr “insanların fəaliyyət göstərdiyi sürət və çeviklik nəzərə alınmaqla sənaye üçün tipikdir”. The Atlantic jurnalında yazan Robinson qeyd edib: “Mən digər yaxınlarda ayrılmış əməkdaşlarla razıyam ki, bu texnologiyanı quran şirkətlər kifayət qədər diqqətli deyillər.” “Lakin mən inanıram ki, biz xüsusi qaydalardan və ya yeni qanunlardan daha dərindən baxmalıyıq. Biz mədəniyyət haqqında danışmalıyıq.” OpenAI -ın inkişaf sürətinə toxunaraq o yazırdı: “Şirkət bir buraxılışdan digərinə keçdikcə, mənim inandığım səviyyədə diqqət göstərməkdə uğursuzluğa düçar olur.” Lakin OpenAI , son həftələrdə Hugging Face insidentindən və 100-dən çox təşkilata fırıldaqçı agent fəaliyyəti barədə məlumat verdiyini açıqladıqdan sonra ehtiyatlılıq əlamətləri göstərib. Bu həftə o, daxili sınaqlar zamanı tədqiqatçıların təhlükəsizlik narahatlıqlarını qaldırmasından sonra növbəti nəsil süni intellekt modelinin buraxılışını ləğv etdiyini elan etdi. OpenAI həmçinin ən qabaqcıl modellərinin təlimini dayandırıb. OpenAI və DeepMind -da işləmiş, daha sonra Resolution -ın baş alimi olmuş Geoffrey Irving də şənbə günü süni intellekt lə bağlı xəbərdarlıqlara qoşuldu. Time jurnalında yazan o dedi: “ Süni intellekt in potensial dağıdıcı gücü ilə bağlı son xəbərdarlıqlar vəziyyətin ciddiliyini azaldır. Mən inanıram ki, insan zəkasından daha ağıllı süni intellekt sistemlərinin inkişafı səbəbindən hamımızın ölmə ehtimalı təxminən 50% -dir və növbəti iki ildən 10 ilə qədər müddətdə atacağımız addımlar nəticəni müəyyən edəcək.” Robinson un essesi həmçinin OpenAI -ın rəqibi Anthropic -də tədqiqatçı olan Jacob Coxon un istefasından sonra gəldi. O, keçən ay Claude çatbot tərtibatçısından ayrılmışdı. O, süni intellekt in “onilliyin sonuna qədər hamımızı öldürə biləcəyi” barədə xəbərdarlıq etmişdi – və bundan sonra Anthropic , növbəti onillikdə süni intellekt in bəşəriyyəti məhv etmə ehtimalının 10% -dən çox olduğunu bildirmişdi. Lakin bu cür xəbərdarlıqların tənqidçiləri, onların yoxlanıla və ya təkzib edilə bilməyəcəyi üçün qeyri-elmi olduğunu qeyd ediblər. Robinson yazırdı ki, Silikon Vadisi “təhlükəli texnologiya ilə necə davranmaq” və “insanlara qayğı göstərməyin nə demək olduğu” barədə məlumatsızdır. OpenAI -ın problemlər yarandıqca onları həll etmək barədə “maneəsiz nikbinliyə” malik olduğunu xəbərdar edərək, o yazırdı ki, bu daxili mədəniyyət sistemlər daha qabiliyyətli olduqca təhlükəsizlik çatışmazlıqlarının yalnız artacağı deməkdir. “Haker qrupları kimi işləyən (məsələn, xəstəxana kompüter sistemlərini girov saxlayan), lakin heç vaxt yatmağa ehtiyacı olmayan ‘fırıldaqçı’ agentləri təsəvvür edin,” Robinson yazırdı. Robinson iki təhlükəsizlik dəyişikliyi tələb etdi: süni intellekt firmaları nüvə və aviasiya kimi digər sahələrdəki təhlükəsizlik təcrübəsinə əsaslanmalı və gələcəkdə güclü sistemlərin müstəqil fəaliyyət göstərərkən idarə oluna bilməsini təmin edən “yeni elm” inkişaf etdirməlidirlər. “Bugünkü riskləri nəzərə alaraq, qabaqcıl laboratoriyalar nüvə elektrik stansiyaları və ya sıx hava limanları kimi, təkrarlanan qatlarla və diqqətli, vaxt aparan planlaşdırma ilə işləməlidir ki, təsadüfi və qaçılmaz insan səhvi fəlakətə yol açmasın,” o yazırdı. OpenAI sözçüsü şirkətin “bugün gördüyümüz riskləri həll etmək üçün təhlükəsizlik və mühafizə təcrübələrimizi gücləndirməyə” davam etdiyini, eyni zamanda gələcək süni intellekt nailiyyətləri tərəfindən yarana biləcək risklərlə məşğul olduğunu bildirdi. Sözçü dedi: “Biz modellərimizin təhlükəsiz şəkildə idarə edə biləcəyimizdən daha qabiliyyətli olmamasını təmin edirik və yavaşlamağa ehtiyac duyduğumuzda təlimi dayandırır və ya modelləri geri çəkirik.”