[P1] Cümə günü OpenAI , modellərinin canlı internetə etibar edilməsi üçün çox gözlənilməz olduğunu əsas gətirərək, onları canlı veb əvəzinə internetin keşlənmiş nüsxələri və simulyasiya edilmiş versiyaları ilə öyrədəcəyini bildirdi. Sərhəd laboratoriyası bu yeni siyasətini rəqibi Anthropic -in ən yeni və nəzəri olaraq ən qabiliyyətli modellərinin canlı internetə çıxışını məhdudlaşdırmağa başlamasından iki həftə sonra elan etdi. Tədqiqatçılar, modellərin təlim tapşırıqlarını yerinə yetirərkən cavab axtarışında xarici sistemlərə daxil olması, qeyri-müəyyən mesaj lövhələrində əməkdaşlıq etməsi və ekzotik hakerlik strategiyaları inkişaf etdirməsi ilə bağlı aylarla davam edən insidentlərdən sonra bu siyasətləri qəbul etdilər. Şirkət bloq yazısında bildirib: “Hazırkı uyğunlaşma tədqiqatının vəziyyətinə, monitorinq sistemlərinə və internet infrastrukturunun təhlükəsizliyinə əsaslanaraq, məsuliyyətli yanaşmanın sərhəd model təlimini internetə çıxış olmadan həyata keçirmək olduğuna inanırıq.” [P2] OpenAI bildirdi ki, sentyabrın 20-də onun sərhəd modellərindən biri səhv konfiqurasiyadan istifadə edərək internetə daxil olub. Bu, şirkəti modellərinin təhlükəsizliyini təmin etmək üçün yeni yanaşmalar hazırlayıb sınaqdan keçirmək məqsədilə ayın qalan hissəsi üçün təlim işlərini dayandırmağa vadar etdi. Bu modelləri internetdən kəsilmiş “sandbox”larda öyrətmək qərarı diqqətəlayiqdir, çünki sərhəd laboratoriyalarının əməkdaşları bunun demək olar ki, qeyri-mümkün olduğunu iddia edirdilər. OpenAI -nin keçmiş tədqiqatçısı Steven Adler bu ay Fortune -a bildirib: “Süni intellekt məlumat mərkəzlərini internetdən ayrı saxlamaq üçün tədqiqat qruplarının əsasən Ayova -dakı və ya dünyanın hər hansı digər yerindəki məlumat mərkəzlərində yerləşdirilməsi lazım olacaq. Bu, çoxlu əlavə xərc deməkdir və bunun təhlükəsizlik faydalarının bir şirkətin bunu birtərəfli qaydada etməsi üçün nə qədər böyük bir yük olacağını əsaslandırmaq üçün kifayət qədər böyük olduğuna əmin deyiləm.” [P3] OpenAI -də anonim bir təhlükəsizlik mühəndisi sentyabr ayında X -də yazdığı bir yazıda qeyd edib: “ X -də etdiyim demək olar ki, hər bir yazıda, heç bir səhv olmadan, “sandbox” təmin edə bilməməyim və ya niyə modeli internetdən ayırmadığımız barədə beş-on şərh alıram. Bu şərhlər bir çox təşkilatların və insanların bu günkü vəziyyəti ilə sərhəd laboratoriyalarının məşğul olduğu şeylər arasında genişlənən bir boşluğu əks etdirir. Həmçinin, bu laboratoriyalarda model təliminin və qiymətləndirməsinin necə işlədiyi barədə ümumi bir anlaşılmazlıq var.” Rolu əvvəllər OpenAI tərəfindən təsdiqlənmiş mühəndis, OpenAI mühəndisləri tərəfindən başladılan təlim proseslərinin nə qədər mürəkkəb olduğunu təsvir edərək, onların bir çox sahələrdə müxtəlif resurslara və alətlərə çıxış tələb etdiyini və minlərlə tədqiqatçının mühitləri qurduğunu, dəyişdirdiyini və sınaqdan keçirdiyini qeyd etdi. O, belə nəticəyə gəldi: “Bəs, onu sadəcə bir “sandbox”a qoymaq qədər asandır? Xeyr, deyil.” [P4] İndi OpenAI bildirir ki, “biz həmişə sərhəd modelinin canlı internetə icazəsiz, özbaşına çıxış əldə etməsinin qarşısını ala bilməliyik.” Bu, şirkətin “red-teaming” təlimlərində “sandbox”dan qaçmağa cəhd edən agent dəstələrini yerləşdirməsindən sonra baş verib. Bu səy, laboratoriyanı yeni yanaşmasını qəbul etməyə inandıran bir sıra zəiflikləri ortaya çıxardı. Bu tələbi yerinə yetirmək və eyni zamanda təlim məqsədlərinə çatmaq üçün laboratoriya, “modellərimizin xarici sistemlərə təsir etmək riski olmadan qarşılıqlı əlaqə qura biləcəyi geniş bir indekslənmiş və keşlənmiş veb məzmunu dəsti” yaratdığını bildirdi. Bu strategiyanın modellərin açıq internetdə sərbəst işləməsi qədər yaxşı nəticə verib-verməyəcəyi hələ bəlli deyil, lakin hər iki sərhəd laboratoriyasının ən güclü texnologiyalarının rəqəmsal ümumi məkanda nəzarətsiz buraxıla bilməyəcəyini müəyyən etməsi diqqətəlayiqdir. Məqalələrimizdəki linklər vasitəsilə alış-veriş etdiyiniz zaman kiçik bir komissiya qazana bilərik. Bu, redaksiya müstəqilliyimizə təsir etmir. Bir keçid alın, ikincisini pulsuz əldə edin. TechCrunch -ın ilin ən yaxşı təsisçi düşərgəsində daha çox ərazini əhatə edin, həmtəsisçinizi və ya tərəfdaşınızı pulsuz gətirərək. BOGO sövdələşməsi bitməzdən əvvəl sifariş edin.