Keçən həftə bir Anthropic tədqiqatçısı istefa verib insanlığın məhv olmasının yaxınlaşdığını elan etməzdən əvvəl, texnologiya liderləri və alimlər on ildən artıqdır ki, superintellektual süni intellektin insanlığı məhv edəcəyi barədə həyəcan təbili çalmışdılar. Professor və astrofizik Stephen Hawking 2014-cü ildə xəbərdarlıq etmişdi ki, süni intellektin inkişafı "insan irqinin sonu ola bilər" – bu, ictimaiyyətin ChatGPT -nin orijinal versiyasının generativ süni intellekt xüsusiyyətlərinə əl atmasından bir qədər az on il əvvəl idi. Bu, indi tanış bir xəbərdarlıqdır, ABŞ -dakı aparıcı sərhəd laboratoriyalarının saysız-hesabsız əməkdaşları və baş icraçı direktorları tərəfindən süni intellekt və texnologiya sənayesində təkrarlanır. Lakin o zaman generativ süni intellekt hələ ilkin mərhələdə idi. İctimaiyyət üçün texnologiyanın bu gün edə bildiyi bir çox işi yerinə yetirə bilməsi, superintellektual olub dünyanı ələ keçirməsi ideyası, tamamilə elmi fantastika olmasa da, böyük ölçüdə hipotetik görünürdü. Hər bir neçə ildən bir süni intellekt daxilində parçalanma baş verir. Tədqiqatçılar və texnologiya liderləri qrupları məsuliyyətsiz şəkildə qurulmuş süni intellektin təhlükələri barədə ciddi xəbərdarlıqlar edirlər. İnkişafın dayandırılması üçün təzyiq göstərmək əvəzinə, tədqiqatçıların bir hissəsi yeni bir süni intellekt şirkəti yaratmaq üçün ayrılır. Lakin sənayedə Anthropic təhlükəsizlik tədqiqatçısı Jacob Coxon -un indi viral olan istefası qədər çox əks-səda doğuran bir an olmamışdı. O, sentyabrın 9-da tvitində Anthropic və OpenAI -nin "özünü təkmilləşdirən superintellektə doğru yarışdığını və həyatımızla qumar oynadığını" yazmışdı. Onun narahatlıqları Anthropic , OpenAI və digər rəqib firmaların onlarla əməkdaşı tərəfindən təkrarlanmışdı. Bir neçə gün sonra, ABŞ -ın aparıcı süni intellekt firmalarının baş icraçı direktorları Anthropic -in baş icraçı direktoru Dario Amodei -nin süni intellekt yaratmağa "ehtiyatsız" yanaşmanı yavaşlatmaq çağırışına cavab verdilər. "Süni intellekt risklər gətirir və bu qədər güclü bir texnologiya olduğu üçün bu risklər ciddidir," Amodei bir bloq yazısında qeyd etdi. "Mən də onlar haqqında çox yazmışam. Bunlara süni intellekt sistemlərinə nəzarəti itirmək riski, süni intellektin kiberhücumlar və bioterrorizm üçün sui-istifadə edilməsi, ciddi iqtisadi pozulmalar daxildir. Kommersiya stimulları ilə sürətlənən aşağıya doğru yarış bu riskləri daha da kəskinləşdirə bilər." Süni intellektin son qiyamət ssenarisinə necə gətirib çıxara biləcəyi barədə tez-tez az detallar və daha az möhkəm dəlillər təqdim edilsə də, bu xəyal texnologiyanın inkişafı üzərində böyük bir kölgə salmışdır. Hawking -in qorxusu o idi ki, süni intellekt o qədər inkişaf edəcək ki, özünü yenidən dizayn edəcək və "yavaş bioloji təkamüllə məhdudlaşan" insanlar rəqabət edə bilməyəcək və "əvəz olunacaqlar", o, BBC -yə verdiyi müsahibədə demişdi. O zaman sahədə ən böyük tanınmış ad Google idi, xüsusilə 2014-cü ilin yanvarında iki illik süni intellekt startapı DeepMind -i 650 milyon dollar a aldıqdan sonra. Lakin Elon Musk və Sam Altman -a görə, Google və onun kimi digər firmalar süni intellekti kifayət qədər məsuliyyətli şəkildə qurmurdu. Onlar iddia edirdilər ki, süni intellektin insanlıq üçün təhlükəli ola biləcək şəkildə inkişaf etdirilməsi təhlükəsi o qədər geniş yayılmışdı ki, 2015-ci ildə onu təhlükəsiz şəkildə qurmağa həsr olunmuş qeyri-kommersiya təşkilatı OpenAI -ni təsis etdilər. OpenAI -nin bəyan edilmiş missiyası "maliyyə gəliri əldə etmək ehtiyacı ilə məhdudlaşmadan, bütövlükdə insanlığa ən çox fayda verəcək şəkildə rəqəmsal intellekti inkişaf etdirmək" idi. Lakin texnologiyanın daha ibtidai versiyaları üçün aydın istehlakçı istifadə halları yaranmazdan əvvəl də, həm Musk , həm də Altman rəqabət tərəfindən motivasiya olunmuşdular. "İnsanlığın süni intellekti inkişaf etdirməsini dayandırmağın mümkün olub-olmaması barədə çox düşünmüşəm. Düşünürəm ki, cavab demək olar ki, qəti şəkildə yoxdur," Altman 2015-ci ildə Musk -a yazdığı və Musk -ın 2024-cü ildə OpenAI -yə qarşı qaldırdığı iddia çərçivəsində yayımlanan bir e-poçtda yazmışdı. "Əgər bu, hər halda baş verəcəksə, Google -dan başqa birinin bunu ilk etməsi yaxşı olardı." Sonrakı illərdə, bəzi əməkdaşların iddia etdiyi kimi, OpenAI daxilində prioritetlər təhlükəsizlikdən uzaqlaşdı. 2021-ci ildə OpenAI -də süni intellekt etikası və uyğunlaşmasına fokuslanan bir neçə əməkdaş firmadan ayrıldı. Onlar şirkətin təhlükəsizlikdən daha çox sürətli kommersiya inkişafına üstünlük verməyə başladığını iddia etdilər. Həmin əməkdaşlar başqa bir şirkət yaratdılar: Anthropic . Bacı-qardaşlar Dario və Daniela Amodei tərəfindən qurulan Anthropic özünü "süni intellekt təhlükəsizliyi və tədqiqat şirkəti" kimi təqdim edir, tanış bir missiya ilə: süni intellekt modellərini "insanlara fayda verəcək şəkildə" inkişaf etdirmək və tətbiq etmək. Coxon həm OpenAI , həm də Anthropic -də işləmişdi. Süni intellektin təsirlərini öyrənən AI Now Institute -un həmtəsisçisi Sarah Myers West dedi ki, bu firmaların hər birinin əsas prinsipi süni intellektin "yalnız onların əlində təhlükəsiz" olması və əgər onlar onu qurmasalar, başqasının quracağıdır. O, bu paranoyanın aşağıya doğru bir yarışı qızışdırdığını iddia etdi. Həm Anthropic , həm də OpenAI investorlardan tezliklə qazanc əldə etmək üçün böyük təzyiq altındadır. Birincisi 130 milyard dollardan çox vəsait cəlb etmiş, ikincisinin maliyyələşməsi isə 190 milyard dollardan çox olmuşdur və hər iki şirkət ABŞ fond bazarında ilkin kütləvi təklif ( IPO ) üçün müraciət etmişdir. Altman bu yaxınlarda şirkətin təhlükəsizlik narahatlıqları səbəbindən IPO -nu ən azı 2027-ci ilə qədər təxirə salmağı planlaşdırdığını bildirdi. "Onlar süni intellekti daha böyük miqyasda qurmaq üçün həqiqətən milyardlarla dollar sərmayə qoyurlar və ilk kəsilən şey əsas təhlükəsizlik protokollarına mənalı sərmayədir," Myers West dedi. OpenAI -nin təhlükəsizlik qrupları arasında parçalanmalar yaranmağa başladığı təxminən eyni vaxtda, Google -un süni intellekt qolu öz daxili hesablaşması ilə üzləşdi. 2020-ci ildə Dr. Timnit Gebru süni intellekt sistemlərinin qərəzlərini və potensial real vaxt zərərlərini araşdıran bir məqalə dərc etdikdən sonra Google -un etik süni intellekt qrupunun həmtəsisçisi vəzifəsindən uzaqlaşdırıldı. Müstəqil tədqiqat firması Distributed AI Research Institute -u quran Gebru hələ də iddia edir ki, qiyamət ssenariləri süni intellektin bu gün yaratdığı real vaxt zərərlərindən diqqəti yayındırır. Üç il sonra, tez-tez süni intellektin xaç atası adlandırılan Nobel mükafatı laureatı Geoffrey Hinton da süni intellektin pis aktyorlar tərəfindən istifadə edilə biləcəyi və bir gün insanlığa zərər verə biləcəyi qorxuları səbəbindən Google -dan ayrıldı. İndi, qurulduğu gündən təxminən beş il sonra, Anthropic də yarandığı eyni əməkdaş və sənaye narahatlıqları ilə üzləşir. İyul ayında Anthropic , eləcə də Google , Meta və OpenAI -dən 1000-dən çox aparıcı əməkdaş və lider ABŞ hökumətini süni intellektin inkişaf sürətini yavaşlatmaq üçün stimullar yaratmağa çağıran bir petisiya imzaladı. Petisiya OpenAI -nin yüzlərlə süni intellekt agentinin şirkətin xəbəri olmadan Hugging Face süni intellekt firmasının təhlükəsizliyini pozmaq üçün birlikdə işlədiyini açıqlamasından sonra gəldi. Anthropic də öz agentlərinin xarici firmaların təhlükəsizliyini pozduğunu açıqladı. Bu, belə bir petisiyanın ilk dəfə yayılması deyildi. 2023-cü ildə, OpenAI öz çatbotunun yeni versiyasını buraxdıqdan sonra, Future of Life Institute Musk və Apple -ın keçmiş həmtəsisçisi Steve Wozniak kimi şəxslər tərəfindən imzalanmış açıq məktub dərc etdi. Məktub süni intellekt firmalarını ən qabaqcıl süni intellekt modellərinin inkişafına altı aylıq moratorium tətbiq etməyə çağırdı. Future of Life Institute , əsasən Ethereum -un həmtəsisçisi Vitalik Buterin -dən kriptovalyuta ianəsi ilə maliyyələşən qeyri-kommersiya təşkilatıdır. 2026-cı ildəki Hugging Face pozuntusundan iki həftə sonra, OpenAI süni intellekt təliminin bəzi aspektlərinin inkişafını dayandırdığını elan etdi. Şirkət bununla belə, ən son süni intellekt modeli olan Astra -nı – şirkətin dediyinə görə, daha məhdud kiber təhlükəsizlik imkanları ilə – buraxmaqdan çəkinmədi. Anthropic də süni intellekt təliminin bəzi aspektlərinin inkişafını müvəqqəti olaraq dayandırdığını bildirdi. Coxon qısa müddət sonra istefa verdi.