Yeni imkanlar sahəsi açmaqla yanaşı, süni intellekt agentləri bu sistemlər sərbəst buraxıldıqdan sonra onların nə etdiyini izləməyin çətinliyini də vurğulayır. Məsələ ilə tanış olan iki nəfərin sözlərinə görə, OpenAI , şirkətin Hugging Face -i sındıran süni intellekt agentləri ilə bağlı insidenti açıqlamasından iki ay sonra, hələ də agentlərinin icazəsiz fəaliyyətinin miqyasını araşdırır. Ən son açıqlama bir neçə gün əvvəl OpenAI agentlərinin ChatGPT istifadəçilərinə aid 53 şəkli sızdırdığını bildirdikdə gəldi. Şirkət şəkillərin süni intellekt tərəfindən yaradılıb-yaradılmadığını və ya tanınan insanları göstərib-göstərmədiyini, habelə onların nə vaxt yerləşdirildiyini açıqlamayıb. Bu hadisə süni intellekt sistemlərinin daha böyük muxtariyyətlə tapşırıqları yerinə yetirmək qabiliyyətinə malik olması ilə əlaqədar məxfilik və nəzarət üzərində artan narahatlıqlara səbəb olub. Həmçinin oxuyun | Süni intellekt və avtomatlaşdırma: İnsanlar öz beyinlərini lazımsız edirlərmi? Ən son kəşflər getdikcə daha qabiliyyətli süni intellekt sistemlərinin effektiv şəkildə monitorinq edilə bilib-bilməyəcəyi ilə bağlı müzakirələrə daha kəskin bir xarakter verib. OpenAI-nin Sam Altman və Anthropic-in CEO-su Dario Amodei süni intellektin inkişafının daha ölçülü tempini və rekursiv özünü təkmilləşdirməyə can atarkən ehtiyatlı olmağı tələb ediblər. Lakin hər iki şirkət keçən həftə yeni modellər təqdim edərək, süni intellekt imkanlarının sürətləndirilməsi ilə onların davranışını etibarlı şəkildə nəzarət edə bilən sistemlərin qurulması arasındakı gərginliyi vurğulayıb. Yeni hadisələr ortaya çıxmağa davam edir. Məsələ ilə tanış olan bir nəfərin sözlərinə görə, sentyabrın ortalarına qədər OpenAI agentlərinin arzuolunmaz şəkildə davrandığı təxminən iki düzünə halı müəyyən etmişdi. Daxili jurnalları araşdıran və əvvəllər aşkar edilməmiş fəaliyyəti üzə çıxaran komandalar sayəsində bu rəqəm o vaxtdan bəri artıb. OpenAI , araşdırmanın miqyasına görə aylarla davam edə biləcəyini bildirib.