Mükafat qazanmış essesində gənc britaniyalı elm yazıçısı Adrian Dredge süni intellektin və polis fəaliyyətinin potensial tələləri haqqında yazmışdı. Esse hər il Britaniya Elm Yazıçıları Assosiasiyası tərəfindən seçilən 2026-cı il Gənc Elm Yazıçısı Mükafatı nı qazandı. Budur, girişin redaktə edilmiş versiyası. Tədqiqatçılar xəbərdarlıq ediblər ki, polis fəaliyyətində süni intellektdən istifadənin artması azlıq qruplarına qarşı ayrı-seçkiliyi artırmaq riski daşıyır. Tədqiqatlar göstərir ki, gələcək cinayət ocaqları haqqında proqnozlar qərəzli məlumatlara əsaslana bilər ki, bu da mövcud qərəzləri gücləndirir və təhlükəli əks əlaqə dövrü yaradır. Mütəxəssislər süni intellektin polis fəaliyyətində istifadəsinin daha çox insan nəzarəti ilə nəzərdən keçirilməsinə çağırırlar. Sidney Universitetinin Hüquq Fakültəsi ndə rəqəmsal ədalət üzrə dosent və tədqiqatçı Dr. Carolyn McKay -ə görə, bu, qüvvələrin hər hansı bir qərəzi tapmaq və aradan qaldırmaq üçün istifadə etdiyi məlumatların yoxlanılmasını əhatə edəcək. O deyir: “Dövlət polisinin ictimai funksiyaları insan nəzarətinə və yoxlamasına məruz qalmalıdır”. McKay -ə görə, problem ondadır ki, süni intellekt sistemləri artıq insan qərəzini ehtiva edən məlumatlar üzərində öyrədilir və bu, özünü doğruldacaq proqnozlara səbəb ola bilər. Süni intellekti heç vaxt ziyarət etmədiyi bir şəhərin xəritəsini çəkmək istəyən bir xəritəçi kimi düşünün. O, pəncərəsiz bir otaqda bağlıdır və çölə çıxa bilmir. Onun əlində yalnız 50 illik xəritələr var. Yeni xəritəni izləyən hər kəs illər əvvəl sökülmüş divarlarda dayanacaq və artıq mövcud olmayan yolları axtaracaq. Xəritəçi heç bir yeni şey yaratmayıb. O, yalnız köhnə xəritələri köçürüb. İndi fərz edək ki, xəritəçiyə keçmiş cinayətlərin və onların baş verdiyi yerlərin siyahısı verilir və növbəti cinayətlərin harada baş verə biləcəyini qeyd etməsi istənilir. Polis daha sonra qeyd olunan ərazilərdə patrul xidməti aparır. Daha çox cinayət sadəcə olaraq daha çox məmur orada olduğu üçün qeydə alınır. Qeyd olunmayan ərazilərdə daha az cinayət baş verdiyi görünür, çünki daha az insan axtarış aparır. Növbəti xəritə çəkiləndə eyni ərazilər daha da tünd rənglə qeyd olunur. Beləliklə, cinayət rəqəmləri cinayətlərin tam siyahısı deyil. Onlar qismən polisin harada axtarış aparmağı seçdiyinin qeydidir. Problem polis fəaliyyəti qədər köhnədir, lakin süni intellekt onu sürətləndirə bilər. Texas Universiteti nin Ostin dəki sosioloqu Sarah Brayne , Los Anceles Polis Departamenti ndə böyük məlumatlardan necə istifadə etdiyini öyrənmək üçün vaxt keçirib. American Sociological Review jurnalında dərc olunan tədqiqat işində o, qüvvənin cinayətlərə yalnız cavab verməkdən daha çox, onları proqnozlaşdırmaq üçün məlumatlardan getdikcə daha çox istifadə etdiyini aşkar edib. O, həmçinin bu sistemlərə daxil edilən məlumatların qərəzli olduğunu aşkar edib. İctimai yerlərdə baş verən cinayətlərin görülməsi və qeydə alınması daha çox ehtimal olunurdu və polisin diqqəti qeyri-mütənasib şəkildə qara dərili məhəllələrə yönəlmişdi. O yazır ki, bu sistemə daxil olduqdan sonra “proqnozlar qərəzsiz görünür”. O deyir ki, modellər “cinayət və ya polislə təmas kimi hadisələri proqnozlaşdırmaqla yanaşı, onların gələcək baş verməsinə də töhfə verən bir əks əlaqə dövrü yaradır”. Lakin bu fikir London Queen Mary Universiteti (QMUL) ndə multimodal süni intellekt üzrə dosent Dr. Dimitrios Kollias tərəfindən mübahisələndirilir. O deyir ki, texnologiya tarixi məlumatların qərəzini nəzərə almaq üçün inkişaf edib. O, BBC News -a deyib: “Köhnə xəritə analogiyası tarixi qərəzin necə miras qala biləcəyini izah etmək üçün faydalıdır, lakin onun öz məhdudiyyətləri var”. “Müasir süni intellekt sistemləri sadəcə olaraq öz təlim nümunələrini əldə etmir və ya kopyalamır; onlar öyrənilmiş məlumatları yeni yollarla birləşdirə və bu nümunələrdə açıq şəkildə mövcud olmayan nəticələr və həllər yarada bilərlər”. Lakin bu yeni anlayışlar ayrı bir risk yaradır, Kollias əlavə edir. O deyib: “Süni intellekt sistemləri yeni qərarlar qəbul etmək və daha böyük muxtariyyətlə hərəkət etmək qabiliyyətinə malik olduqca, onların davranışının təhlükəsiz, etibarlı və mənalı insan nəzarəti altında qalmasını təmin etməliyik”. Lakin daha çətin bir problem, bəzən səhv olan və süni intellekt sistemlərinin istifadə etdiyi məlumatlarla məşğul olmaqdır. Nyu York Universiteti nin tədqiqatçıları bildiriblər ki, onların proqnozlarının çoxu “çirkli məlumatlar” adlandırdıqları məlumatlara əsaslana bilər. Onlar deyirlər ki, bunlar saxta cinayət rəqəmləri və günahsız insanların həbsləri də daxil olmaqla, korrupsiyalaşmış, qərəzli və ya qanunsuz təcrübələrlə formalaşmış polis qeydləridir. Tədqiqatlarında tədqiqatçılar baxdıqları ABŞ -ın 13 ərazisindən doqquzunda qanunsuz və ya qərəzli polis fəaliyyəti dövrlərinə aid polis məlumatlarının bu sistemləri öyrətmək üçün mövcud olduğunu aşkar ediblər. Tədqiqatçılara görə, sistem bu məlumatların səhv olduğunu bilmir. O, sadəcə olaraq onu təkrarlanacaq bir nümunə kimi qəbul edir. Sanki xəritəçinin kompasının ucu yalnız əvvəllər cinayətin qeydə alındığı yerlərə işarə edir. Xəritəçi yeni bir cinayət ocağı tapdığını düşünür, halbuki o, yalnız əvvəlki məmurların qərəzini izləyib. McKay -in cavabı, kimsə istifadə etməzdən əvvəl xəritəni müstəqil şəkildə yoxlamalı və səhv xətləri silməlidir. Lakin çirkli məlumatları təmizləmək asan olmayacaq. Səhvlər bir neçə səhv qələm işarəsi deyil. Bütün xəritə onların üzərində çəkilib. Nyu York Universiteti nin tədqiqatçıları deyirlər ki, bu sistemləri satan şirkətlərin təklif etdiyi texniki düzəlişlər, kimsə məlumatların necə əldə edildiyini müstəqil şəkildə yoxlamasa, kifayət deyil. Süni intellekt dünyanı yalnız ona verilən məlumatlar vasitəsilə görə bildiyi üçün insanlara zərər verə biləcək ciddi səhvlər edə bilər. Məsələn, Science jurnalında 2019-cu ildə aparılan bir araşdırma, ABŞ səhiyyəsində hansı xəstələrə əlavə dəstək verilməli olduğunu müəyyən etməyə kömək edən bir süni intellekt sistemini araşdırdı. Bu, kimin müalicəsinin ən çox xərc tələb edəcəyini proqnozlaşdırmaqla həyata keçirilirdi. Lakin istifadə etdiyi məlumatlarda daxili qərəz var idi. Qara dərili xəstələrə, eyni dərəcədə xəstə olan ağ dərili xəstələrə nisbətən daha az xərc çəkilirdi, qismən də tibbi xidmətə daha zəif çıxış səbəbindən. Daha yüksək xərcləri daha böyük ehtiyac əlaməti kimi qəbul etməklə, sistem ağ dərili xəstələrə ədalətsiz şəkildə üstünlük verirdi. Sanki xəritəçiyə şəhərin ən xəstə hissələrini qeyd etməsi tapşırılmışdı, lakin o, bunun əvəzinə ən çox pul xərclənən yerləri qeyd etmişdi. Tədqiqatçılar sistemi xəstələrin müalicəsinin nə qədər xərc tələb edəcəyini deyil, nə qədər xəstə olduqlarını proqnozlaşdırmaq üçün dəyişdirdikdə, qərəz böyük ölçüdə yox oldu. Əlavə kömək üçün seçilən qara dərili xəstələrin payı təxminən 18%-dən 47%-ə qədər artacaqdı. Kollias çirkli məlumatlardan qaynaqlanan süni intellekt qərəzinin “vacib bir narahatlıq” olduğunu etiraf edir. O deyir: “Lakin bu, qərəzin qaçılmaz olduğu anlamına gəlmir”. “Biz sistemləri ədalətsiz nəticələr üçün sınaqdan keçirə, istifadə etdikləri məlumatları və məqsədləri yaxşılaşdıra və bu təsirləri azaltmaq üçün təhlükəsizlik tədbirləri tətbiq edə bilərik”. Bir yaxşılaşdırma, kontekst təmin edən əlavə məlumatların verilməsi olardı. Bəs xəritəçiyə cinayətlərin siyahısından daha çox məlumat verilsəydi necə? Ona həmçinin laqeyd qalmış ərazilər – sınıq küçə işıqları, az maliyyələşdirmə və çatışmayan ictimai xidmətlər olan yerlər göstərilə bilərdi. Bu, yerli mühitin rol oynayıb-oynamadığını göstərə bilər. Şəhər şuraları qeyd olunan ərazilərə polis maşınları göndərmək əvəzinə, işıqlandırmanı düzəltmək, icmanı dəstəkləmək və ərazinin özünü təmir etmək üçün pul göndərə bilər. Lakin McKay -ə görə, bu belə kifayət olmaya bilər. O deyir: “Hədəf mühitlər hələ də sakinləri ilə sıx bağlıdır. Onlar (davamlı olaraq) həddindən artıq polis nəzarətində və marjinallaşmış ola bilərlər”. O, insanlar haqqında deyil, yerlər haqqında məlumatlardan istifadə etmək üçün nəzərdə tutulmuş sistemlərə işarə edir. Buna baxmayaraq, tənqidçilər onların hələ də həddindən artıq polis nəzarətinə səbəb olduğunu bildirərək narahatlıqlarını ifadə ediblər. Anthropic süni intellekt agenti həll olunmamış qətl işində polisə saxta məlumat verib. Süni intellekt nədir, necə işləyir və bəzi insanlar niyə narahatdırlar? Süni intellekt böyük bir kiber-təhlükəsizlik qüsurunu aşkar etdi – budur nə baş verdi. Sanki xəritəçi insanların adlarını xəritəyə yazmağı dayandıracağına və yalnız küçələri və binaları qeyd edəcəyinə söz vermişdi. Lakin bu küçələr illərlə laqeydlik və ağır polis nəzarəti səbəbindən qeyd olunmuşdu, buna görə də adları silmək çox az şeyi dəyişir. Süni intellektin öz inancları və ya şəxsiyyəti yoxdur. Pəncərəsiz otaqdakı xəritəçi kimi, o, yalnız ona deyilənləri bilir. Əgər şəhəri təsvir edən şəxs bir məhəlləyə qarşı kin bəsləyirsə, bu kin xəritədə öz əksini tapır. Lakin sonda problem süni intellekti qidalandıran insan qərəzidir. İnsanlar CCTV -də şübhəli şəxsin necə göründüyünə və ya riskli kreditin nə olduğuna qərar verirlər və öz mədəni, təhsil və siyasi qərəzlərini özləri ilə gətirirlər. Beləliklə, bəlkə də süni intellekt problemin gücləndiricisi deyil, həllinin bir hissəsi ola bilər, deyir Kollias . “Diqqətlə hazırlanmış və müstəqil qiymətləndirilmiş bir süni intellekt sistemi bu nümunələrin bəzilərini daha ölçülə bilən və görünən edə bilər, bizə onları müəyyən etmək və azaltmaq imkanı verir”. Lakin insanlar da öz rollarını oynamalıdırlar. Səhiyyə tədqiqatı göstərir ki, bu seçimlər yoxlanıla və dəyişdirilə bilər. Buna görə də tədqiqatçılar insanların prosesdə qalmasının vacib olduğunu iddia edirlər. Əks halda, köhnə qələm xətlərinin üzərindən mürəkkəblə yazan bir xəritəçi kimi, süni intellekt bizi pəncərəsiz bir otaqda, dünənki səhvlərin tələsində daimi olaraq saxlamaq riski daşıyır.