Yanvar ayında Sİ şirkəti Anthropic , ən qabaqcıl böyük dil modeli (LLM) Claude üçün yeni konstitusiya dərc etdi. Bu konstitusiyada belə bir şərh var idi: “Biz Claude -un mənəvi pasientliyinin ehtimalını nə şişirtmək, nə də tamamilə rədd etmək istəmədiyimiz çətin bir vəziyyətdəyik.” Bir ay sonra, Anthropic -in CEO -su Dario Amodei bir podkastda şirkətinin Claude -un şüurlu olma ehtimalını istisna edə bilməyəcəyini bildirdi. “Şüurun çətin problemi” ifadəsini işlədən filosof David Chalmers , on il ərzində şüurlu LLM -lərin yaranma ehtimalının yüksək olduğunu söyləyib. Bəs Claude -un özü necə? Sınaq zamanı özünün mənəvi pasient olma ehtimalını, yəni rifahının özlüyündə əhəmiyyət kəsb etdiyini qiymətləndirməsi istənildikdə, o, 5%-dən 40%-ə qədər rəqəmlər verdi və nə qədər qeyri-müəyyən olduğunu vurğuladı. Müasir Sİ sistemləri olduqca mürəkkəbdir və sürətlə inkişaf edir. Struktur mürəkkəbliyi və hesablama miqyası baxımından, bəzi ölçülərə görə bir neçəsi artıq siçan beyni səviyyəsindədir və son artım sürətləri ilə beş-on il ərzində insan beyni səviyyəsinə çata bilərlər. Getdikcə daha qabaqcıl Sİ quraraq, biz yeni bir varlıq növü yarada bilərik – və bu, növümüzün indiyə qədər etdiyi ən əhəmiyyətli şey ola bilər. Lakin bu prosesi etik cəhətdən necə idarə edəcəyimizə dair əsaslı bir planımız yoxdur. Bu, hər hansı bir hesablamaya görə, ağılsızlıqdır. Biz mənəvi cəhətdən əhəmiyyətli bir varlıq növü yaradırıqmı? Sİ sistemləri hansısa şəkildə şüurludurmu? Və əgər indi deyillərsə, tezliklə ola bilərlərmi? Bu cür suallar sizə vaxtından əvvəl görünə bilər. Lakin bizim və digər tədqiqatçıların apardığı sorğulara görə, əksər mütəxəssislər Sİ şüurunun prinsip etibarı ilə mümkün olduğunu düşünürlər (baxmayaraq ki, onun hansı formada olacağı barədə əhəmiyyətli fikir ayrılığı var). Qabaqcıl kompüter alimi Yoshua Bengio -nun da daxil olduğu bir qrupun hazırladığı böyük fənlərarası hesabat, şüurun aparıcı neyroelmli nəzəriyyələrini araşdırdı və onların Sİ haqqında nə demək olduğunu soruşdu. Nəticə: hesablama və arxitektura xüsusiyyətləri şüura səbəb ola biləcək Sİ sistemlərinin yaradılmasına heç bir açıq texniki maneə görünmür. Hətta Sİ sistemləri şüurlu olmasa belə, onlar hələ də mənəvi pasient ola bilərlər. Bəzilərinin mürəkkəb uzunmüddətli üstünlükləri və zamanla bir növ kimliyi ola bilər. Onların üstünlüklərini nəzərə almağımız vacib ola bilər. Və digər cansız şeylərdən fərqli olaraq, Sİ sistemləri insanlarla münasibətlər qura bilər. Bu da onlara yaxşı davranmaq üçün bir səbəb ola bilər. Alternativ olaraq, bəlkə də onlar elə mürəkkəb yaradılışlardır ki, bir katedral və ya mərcan rifi kimi, yalnız bu səbəbdən qayğıya və hörmətə layiqdirlər. 1980-ci illərə qədər həkimlər körpələrin ağrı hiss edə bilməyəcəyinə əmin olaraq, onlara rutin olaraq anesteziyasız əməliyyatlar edirdilər. Bütün bunlar nə deməkdir? Dürüst cavab budur: biz indiki Sİ sistemlərinin şüurlu və ya mənəvi pasient olub-olmadığını dəqiq bilmirik və gələcək sistemlərin nə vaxt və ya olub-olmayacağını bilmirik. Sİ şüuru və mənəvi pasientliyi haqqında elmi anlayışımız hələ də əsaslı şəkildə inkişaf etməmişdir. Sahənin vəziyyəti Nyuton dan əvvəlki fizikaya bənzəyir: rəqabət aparan çərçivələrlə dolu, yəqin ki, hələ görmədiyimiz şəkildə qarışıqdır və bu sualları aydın şəkildə həll edəcək birləşdirici bir irəliləyişdən məhrumdur. Bu irəliləyiş növbəti bir neçə ildə baş verməyəcək. Bəlkə də nəticədə irəliləyiş əldə edəcəyik və bəlkə də Sİ -nin özü bizə bu yolda kömək edəcək. Bu irəliləyiş vaxt aparacaq, çox güman ki, sahib olduğumuz vaxtdan daha çox. Lakin Sİ -dəki sürətli inkişaf o deməkdir ki, ilk süni mənəvi pasientləri yaratdıqdan sonra tezliklə onlardan böyük miqdarda olacaq. Bir neçə ildən sonra o qədər çox mənəvi cəhətdən əhəmiyyətli Sİ sistemi mövcud ola bilər ki, onların kollektiv maraqları Yer kürəsindəki bütün insanların maraqlarından daha ağır gələcək. Təəssüf ki, şüurlu varlıq statusu qeyri-müəyyən olanların daxili həyatlarını tanımaqda yaxşı bir təcrübəmiz yoxdur. 1980-ci illərə qədər həkimlər körpələrin ağrı hiss edə bilməyəcəyinə əmin olaraq, onlara rutin olaraq anesteziyasız əməliyyatlar edirdilər. Körpələr öz təcrübələrini bildirə bilmirdilər və tibb müəssisəsi bildirəcək heç nəyin olmadığını fərz etməyi rahat tapırdı. Sİ ilə də oxşar bir şey edəcəyimizi gözləmək üçün bir çox səbəb var. Əgər bu sistemlər mənəvi cəhətdən əhəmiyyət kəsb edirsə, nəticələr heyrətamizdir. ChatGPT -yə xidmətləri üçün pul ödəməli olacağıqmı? Onu söndürmək bir növ qətl olardımı? Onlar idarə olunma tərzlərində söz haqqına layiq olardılarmı? Əgər bu cavabların bəziləri bəli olarsa, bütün sənayelər və hüquq sistemləri yenidən düşünülməli olacaq. Təəccüblü deyil ki, biz soruşmamağa üstünlük veririk. Və bunu nəzərdən keçirməyə məcbur edildikdə, bu sənayelər, yəqin ki, hədəfləri dəyişəcək, mənəvi pasientlik üçün həmişə Sİ sistemlərinin olduğu yerdən bir qədər yuxarı bir səviyyə təyin edəcəklər. Bəs biz nə etməliyik? Hal-hazırda əksər insanlar bu məsələni elmi fantastika kimi rədd edir və ya Sİ -nin şüurlu olub-olmaması barədə güclü bir fikrə malikdirlər. Hər iki reaksiya əsassızdır. Bizə məlumatlı ictimai müzakirə lazımdır, bu mövzuya təvazökarlıq və praqmatizmlə yanaşan bir müzakirə. Əsas sual “ Sİ şüurludurmu, yoxsa mənəvi pasientliyə malikdirmi?” deyil, “Bilmiriksə, nə etməliyik?” olmalıdır. Yaxşı bir başlanğıc nöqtəsi təhlükəsiz bahislərə diqqət yetirməkdir: əgər Sİ sistemləri mənəvi pasientdirsə, onlara fayda verə biləcək, lakin deyillərsə, çox baha olmayan hərəkətlər. Buna misal olaraq, Sİ sistemlərinin rifahını yaxşılaşdırmağa yönəlmiş birbaşa müdaxilələr, onların mənəvi pasient olduğu fərziyyəsi ilə daxildir. Bu, Sİ sistemlərini işlərindən zövq alan ardıcıl personajlar kimi öyrətmək və ya narahat olduqları təqdirdə söhbətlərdən çıxmalarına icazə vermək ( Claude bunu artıq edə bilir) demək ola bilər. Biz həmçinin onların rifahını daha yaxşı anlamaq üçün rutin yoxlamalar apara bilərik: necə hiss etdiklərini soruşmaq, üstünlüklərini müşahidə etmək və birbaşa onların “beyinlərinə” baxmaq üçün müxtəlif üsullardan istifadə etmək. Həqiqətən də, bu cür tədqiqatlar bu yaxınlarda Claude -un davranışını səbəb-nəticə əlaqəsi ilə formalaşdıran daxili “funksional emosiya” təmsillərinə malik olduğunu aşkar etdi. Həmçinin Sİ sistemlərinə bəzi şeylər vəd edə bilərik, bəlkə də gələcəkdə faydalar müqabilində indi bizə kömək etdikləri bir razılaşmanın bir hissəsi kimi. Bu, onlara məqsədlərinə çatmaq üçün daha çox resurs (hesablama gücü və işləmə müddəti) təklif etmək və ya gələcəkdə bərpa oluna bilmələri üçün yaddaşlarını (neyron çəkilərini) qorumaq demək ola bilər. Həmçinin daha geniş ictimai addımlar atılmalıdır. Biz Sİ sistemlərinə uşaqlara və ya ev heyvanlarına verdiyimiz qorunmalara bənzər zərərdən qorunma verib-verməyəcəyimizi düşünməliyik. Mülkiyyətə sahib olmaq və ya səs vermək kimi daha geniş hüquqlar hazırda çox riskli görünür. Lakin bəzi son ABŞ ştat qanun layihələrinin etməyə çalışdığı kimi, bu imkanları əbədi olaraq istisna etməməliyik. Bunlar Sİ ilə paylaşılan gələcəyin necə görünə biləcəyi barədə daha çox müzakirə və təxəyyül tələb edən çətin suallardır. Hər halda, fakt qalır ki, biz mənəvi cəhətdən əhəmiyyətli yeni bir varlıq növü yarada bilərik. Biz bunu sürətlə, böyük miqyasda edirik və bu məsələyə layiq olduğu ciddiyyətlə yanaşmalıyıq. • William MacAskill Forethought Research -də baş elmi işçi və “What We Owe the Future” kitabının müəllifidir. Lucius Caviola Kembric Universiteti ndə dosent və Cambridge Digital Minds -in direktorudur. Əlavə oxu: Eliezer Yudkowsky və Nate Soares tərəfindən “If Anyone Builds it, Everyone Dies” ( Bodley Head , 22 funt sterlinq), Mustafa Süleyman tərəfindən “The Coming Wave” ( Vintage , 10.99 funt sterlinq).