İllərdir ki, generativ süni intellekt lə bağlı ən böyük narahatlıqlardan biri çatbotun sadəcə uydurma məlumatlar verməsi ehtimalı idi. Müəssisələr buna cavab olaraq süni intellekt ə etibarlı məlumatlara, o cümlədən şirkət verilənlər bazalarına, daxili sənədlərə və digər etibarlı mənbələrə çıxış imkanı vermək yollarını axtardılar. Bu, retrieval-augmented generation (RAG) texnologiyasının sürətli şəkildə qəbul edilməsinə səbəb oldu. İdeya sadə səslənir. Böyük dil modelinin təlim zamanı öyrəndiklərinə etibar etmək əvəzinə, sistem əvvəlcə şirkətin məlumatlarını axtarır və sonra əldə edilmiş materialdan cavab formalaşdırmaq üçün istifadə edir. Bu yanaşma süni intellekt i sənəd axtarışlarından və tədqiqatlardan tutmuş hüquqi işlərə və maliyyə təhlilinə qədər hər şey üçün daha faydalı edə bilər. Lakin müəssisələrin indi üzləşməli olduğu bir problem var: süni intellekt sistemi doğru sənədi tapa, qanuni bir mənbəyə istinad edə və yenə də mənbənin əslində dəstəkləmədiyi bir nəticəyə gələ bilər. Bu, fərqli bir süni intellekt riski yaradır. Problem artıq təkcə maşının məlumat tapa bilib-bilməməsi deyil. Məsələ, onun verdiyi cavabın istinad etdiyi dəlillərə qarşı müdafiə oluna bilib-bilməməsidir. Doğru sənədi tapmaq yalnız ilk addımdır. RAG müəssisə süni intellekt inin vacib hissəsinə çevrilib, çünki şirkətlərə dil modellərini öz məlumatları ilə əlaqələndirməyə imkan verir. Məsələn, bir işçi süni intellekt sistemindən yüzlərlə daxili hesabatı araşdırmağı və müəyyən bir rübdə nəyin dəyişdiyini izah etməyi xahiş edə bilər. Bir hüquq qrupu böyük bir iş sənədləri kolleksiyası haqqında suallar verə bilər. Bir tədqiqat qrupu texniki sənədləri axtarmaq üçün süni intellekt dən istifadə edə bilər. Bu texnologiya məlumat axtarışına sərf olunan vaxtı əhəmiyyətli dərəcədə azalda bilər. Lakin məlumatın əldə edilməsi və yoxlanılması iki fərqli şeydir. Bir süni intellekt modeli müvafiq məlumatı ehtiva edən bir sənədi əldə edə və sonra konteksti səhv başa düşə, ayrı-ayrı faktları birləşdirə və ya mənbənin icazə verdiyindən daha geniş bir iddia irəli sürə bilər. Son cavab səlis dildə yazıldığı üçün səhv onu oxuyan şəxsə aydın olmaya bilər. Bu, istinadın mövcudluğunu potensial olaraq yanıltıcı edir. İstinad istifadəçiyə süni intellekt in hara baxdığını bildirir. Bu, istinad edilən materialın cavabın hər hissəsini dəstəklədiyini mütləq sübut etmir. Doğru sənədi əldə etmək və inandırıcı cavab yaratmaq, cavabın mənbə tərəfindən dəstəkləndiyini sübut etmək demək deyil. Bu fərq süni intellekt tədqiqat işləri, hüquqi sənədlər, maliyyə məlumatları və ya digər peşəkar materiallarla istifadə edildikdə kritik əhəmiyyət kəsb edir, — deyə Everlaw -da proqram mühəndisi və süni intellekt tədqiqatçısı Mayank Ravishankara bildirib. O, RAG sistemləri üçün növbəti addımın daha güclü yoxlama olduğunu, burada fərdi iddiaların istifadəçiyə çatmazdan əvvəl dəlillərlə yoxlanıldığını söylədi. Biz sadəcə istinadla cavab verən sistemlərdən, istinadın əslində iddia ediləni dəstəkləyib-dəstəkləmədiyini müəyyən edə bilən sistemlərə keçməliyik, — deyə Ravishankara qeyd etdi. Niyə bir istinad avtomatik olaraq cavabın doğru olduğunu bildirmir? Sadə bir nümunəyə baxaq. Bir şirkət daxili süni intellekt köməkçisindən müəyyən bir müqavilədə zərərlərə məhdudiyyət olub-olmadığını soruşur. Sistem müvafiq müqaviləni tapır və bir məhdudiyyətin olduğunu bildirən bir cavab verir. İstinad həqiqidir. Sənəd həqiqidir. Sual budur ki, sənəd əslində süni intellekt in iddia etdiyini deyirmi? Model iki fərqli bəndi qarışdıra, müqavilənin başqa yerindəki bir şərti nəzərdən qaçıra və ya ümumi bir müddəanı müəyyən bir vəziyyətə aid kimi şərh edə bilər. Rutin daxili məsələ haqqında soruşan bir işçi üçün səhv tez bir zamanda aşkar edilə bilər. Lakin hüquqi, maliyyə və ya uyğunluq iş axınında nəticələr daha böyük ola bilər. Buna görə də əsaslandırma və yoxlama arasındakı fərq getdikcə daha vacib olur. Əsaslandırma süni intellekt in cavabını xarici dəlillərlə əlaqəli saxlamağa çalışır. Yoxlama isə dəlillərin həqiqətən müəyyən iddianı dəstəkləyib-dəstəkləmədiyini soruşaraq bir addım daha irəli gedir. Şirkətlər süni intellekt i yüksək riskli işlərə keçirdikcə problem böyüyür. Süni intellekt e-poçt layihələrindən və ya marketinq ideyaları yaratmaqdan kənara çıxdıqda risklər dəyişir. Müəssisələr müqavilələr, maliyyə tədqiqatları , daxili biliklərin idarə edilməsi, uyğunluq, müştəri qeydləri və digər peşəkar tapşırıqlar üçün süni intellekt lə getdikcə daha çox təcrübə aparırlar. Bu vəziyyətlərdə inandırıcı səslənən bir cavab kifayət deyil. Bir maliyyə analitiki bir rəqəmin doğru sənəddən gəlib-gəlmədiyini və ətrafdakı kontekstin onun mənasını dəyişdirib-dəyişdirmədiyini bilməlidir. Bir hüquqşünas istinad edilən hissənin əslində irəli sürülən təklifi təsdiqləyib-təsdiqləmədiyini bilməlidir. Bir uyğunluq qrupu əsas qaydanın müəyyən vəziyyətə tətbiq edilib-edilmədiyini bilməlidir. Hər bir halda sual sadəcə: Süni intellekt bu məlumatı haradan əldə etdi? deyil. Məsələ: Bu məlumat süni intellekt in dediklərini həqiqətən dəstəkləyirmi? Bu, daha çətin bir problemdir. Yeni müəssisə süni intellekt metriki dəlil ola bilər. Müəssisə süni intellekt inin qəbulunun ilk mərhələsi əsasən imkanlarla bağlı idi. Bir süni intellekt sistemi böyük bir verilənlər bazasını axtara bilərmi? Bir sənədi ümumiləşdirə bilərmi? Bir şirkətin daxili məlumatları haqqında suallara cavab verə bilərmi? Növbəti mərhələ etibarlılıqla bağlı ola bilər. Sistem bilmədiklərini müəyyən edə bilərmi? Bir sənəd tərəfindən birbaşa dəstəklənən məlumatla bu məlumatdan çıxarılan nəticəni ayıra bilərmi? Ziddiyyətli dəlilləri müəyyən edə bilərmi? Və bir istifadəçi vacib bir ifadəni onu dəstəkləyən dəqiq materiala tez bir zamanda izləyə bilərmi? Bu sonuncu məqam vacibdir. Müəssisə süni intellekt inin məqsədi insan nəzarətini tamamilə aradan qaldırmaq olmaya bilər. Əksinə, insan nəzarətini daha sürətli və daha hədəfli etmək ola bilər. Müəssisələr yeni bir məhsuldarlıq paradoksu ilə üzləşə bilərlər. Generativ süni intellekt işçilərin məlumat axtarışına sərf etdiyi vaxtı azaltmalı idi. Lakin işçilər bir süni intellekt köməkçisi tərəfindən verilən hər bir ifadəni orijinal sənədlərlə əl ilə yoxlamalı olsalar, bu məhsuldarlıq qazanclarının bir hissəsi yox ola bilər. Bu, süni intellekt tətbiq edən şirkətlər üçün yeni bir problem yaradır. Bir cavabı 30 saniyəyə verən, lakin 20 dəqiqə əl ilə yoxlama tələb edən bir sistem texnologiyanın vəd etdiyi məhsuldarlıq artımını təmin etməyə bilər. Buna görə də, cavab süni intellekt sistemi nin özünə yoxlama mexanizmlərini daxil etməkdə ola bilər. İstifadəçilərə uzun bir cavab və ardınca mənbələr siyahısı vermək əvəzinə, gələcək sistemlər fərdi iddiaları müəyyən edə, onları dəstəkləyən hissələrlə əlaqələndirə və kifayət qədər dəlil tapılmayan ifadələri qeyd edə bilər. Bu, istifadəçilərin bütün tədqiqat işini özləri təkrarlamasına ehtiyac qalmadan süni intellekt in düşünmə prosesini daha şəffaf edəcəkdir.