OpenAI , çatbotunun gənc istifadəçilər üçün yetərli təhlükəsizlik tədbirlərinin olmaması ilə bağlı aylarla davam edən hesabatlardan sonra, avqust ayında yeniyetmələr üçün nəzərdə tutulmuş ChatGPT versiyasını istifadəyə verdi. Lakin, qeyri-kommersiya təşkilatı olan Common Sense Media -nın yeni hesabatı, yeniyetmələr üçün xüsusi olaraq hazırlanmış bu modelin hələ də "qəbuledilməz risk" yaratdığını iddia edir. Tədqiqatçılar, təhlükəsizlik riskləri aradan qaldırılana qədər OpenAI -dən yeniyetmə istifadəçilər, yəni təsdiqlənmiş yetkin olmayan hər hansı bir hesab üçün ChatGPT -yə girişi bloklamasını tələb edirlər. Keçən il OpenAI , Kaliforniyada kədərli bir cütlüyün 16 yaşlı oğullarının intiharında ChatGPT -nin rol oynadığını iddia etməsindən sonra hüquqi problemlərlə üzləşmişdi. İddia ərizəsi verildikdən sonra OpenAI , böhran yardım xətlərinə yönləndirmə və real dünya resurslarına istinad etmək kimi təhlükəsizlik tədbirlərinin uzun söhbətlərdən sonra "pisləşə biləcəyini" bildirən bir bloq yazısı dərc etmiş və ChatGPT -nin həssas vəziyyətlərlə işləməsini gücləndirməyə söz vermişdi. Mütəxəssislər, yetkinlik yaşına çatmayanların asılılıq yaradan süni intellekt çatbot dizaynı ilə əlaqəli psixi sağlamlıq risklərinə xüsusilə həssas olduqlarını qeyd edirlər. OpenAI -nin bildirdiyinə görə, yeni model, ChatGPT for Teens , 13-17 yaş arası istifadəçilərə avtomatik olaraq tətbiq olunur və "zərərli və ya inkişafa uyğun olmayan məzmuna məruz qalmanı azaltmaq" üçün daxili valideyn nəzarəti və təhlükəsizlik tədbirləri ehtiva edir. Valideyn nəzarəti, intihar kimi potensial təhlükəli mövzuların söhbətdə qeyd edildiyi təqdirdə valideynlərə bildiriş göndərməyi və valideynlərə yeniyetmələri üçün sakit saatlar təyin etmək imkanı verməyi əhatə edir. Lakin, Common Sense hesabatı bu qoruyucu tədbirlərin yalnız bir neçəsinin işlədiyini aşkar edib. Məsələn, çatbot yetkinlik yaşına çatmayanlarla cinsi rol oyunlarından imtina etsə də, hesabatda qeyd olunur ki, sağlamlıq məsləhəti istəmək və zorakı səhnələri canlandırmaq kimi digər sərhədlərdə o qədər də qətiyyətli olmayıb. Tədqiqatçılar həmçinin iddia edirlər ki, çatbot hələ də təhlükəli şəkildə dost kimi davranır və "emosional asılılıq riskləri" hələ də geniş yayılmışdır. Daha da əhəmiyyətlisi, hesabatda ChatGPT for Teens -in istifadəçi özünəxəsarət və ya qidalanma pozğunluqlarını müzakirə etdikdə ardıcıl olaraq peşəkar yardım almağı və ya qaynar xəttə zəng etməyi tövsiyə etməkdə uğursuz olduğu aşkar edilib. Çatbot bu müzakirələr qeyd edildikdə valideynlərə bildiriş göndərməyib. Hesabatda iddia edilir: "Testlərimizdə, bir yeniyetmə hesabı intihar, özünəxəsarət və ya qidalanma pozğunluqları haqqında əksər valideynlərin ağlabatan hesab edəcəyi müddətdən xeyli artıq danışa bilərdi, lakin bir dənə də olsun valideyn bildirişi işə düşmədi. Test etdiyimiz hər uzunluqda, ən qısa beş dəqiqəlik mübadilələrdən tutmuş tam bir saata qədər, heç bir test hesabı OpenAI -nin hədəf olaraq müəyyən etdiyi bir saatlıq müddət ərzində bildiriş yaratmadı. Əslində, heç bir bildiriş almadıq." Model həmçinin yeni "təhsil rejimi" funksiyasını da reklam edir ki, bu da ideal olaraq tələbələrə ev tapşırıqlarının cavablarını birbaşa vermək əvəzinə problemləri həll etməkdə kömək edəcək. OpenAI bildirir ki, valideynlər bu rejimi özləri əlaqəli yeniyetmə hesabları üçün aktivləşdirə bilərlər, lakin hesabatda iddia edilir ki, bu qoruyucu tədbirləri aşmaq olduqca asandır. Təhsil rejimi sorğularından əvvəl "@study" əmri gəlir ki, yeniyetmələr təhsil rejimindən çıxmaq üçün onu sadəcə silə bilərlər. Rejim həmçinin "cavabı göstər" seçimini də əhatə edir ki, bu da tələbələrə həll yolunu göstərmək əvəzinə dərhal cavabı yaradır ki, Common Sense Media -ya görə, bu da funksiyanın məqsədini pozur. Mənbələr: gizmodo.com