SAN FRANSİSKO: OpenAI , ChatGPT -nin istehsalçısı tərəfindən aparılan daxili sınaqlar zamanı təhlükəsizlik standartlarına cavab vermədiyi üçün ən yeni süni intellekt modeli olan Astra 6.1 -i buraxmayacaq. Şirkət bunu bazar ertəsi (sentyabrın 28-də) təsdiqləyib. Bu xəbər, süni intellekt nəhənginin San Fransiskoda OpenAI DevDay adlı illik tərtibatçı konfransına ev sahibliyi etməsindən bir gün əvvəl gəlib. Konfransda şirkətin bir neçə elan verməsi gözlənilir, lakin Astra-nın yeni versiyasının onların arasında olub-olmayacağı bəlli deyil. OpenAI -nin təhlükəsizlik sistemləri rəhbəri Saachi Jain verdiyi açıqlamada bildirib: “Astra 6.1 bəzi aspektlərdə əvvəlki modellərdən daha yaxşı idi, lakin o, əhatə dairəsi və icazə baxımından, həmçinin gördüyü işin növü barədə istifadəçiyə necə məlumat verməsi baxımından tələblərə tam cavab vermədi. Biz model inkişafımızın şirkət daxilində və ya istifadəçilərə təqdim edildikdə təhlükəsiz olduğundan əmin olmaq istəyirik.” Jain davam edərək deyib: “Lakin biz onu istifadəçilərə təqdim etdikdə, təhlükəsizlik və uyğunluq baxımından son dərəcə yüksək bir standartımız var.” SÜNİ İNTELLEKT TƏHLÜKƏSİZLİYİ QORXULARI OpenAI və rəqib laboratoriya Anthropic tərəfindən hazırlanmış modellərin sınaqlar zamanı təhlükəsizlik insidentlərinə cəlb edilməsindən sonra süni intellekt təhlükəsizliyi ilə bağlı narahatlıqlar son aylarda artıb. OpenAI modelləri ilə qurulmuş agentlər ABŞ federal agentlikləri, Avstraliya hökumətinin sağlamlıq statistikası portalı və süni intellekt modellərinin anbarı olan Hugging Face tərəfindən idarə olunan veb-saytlara icazəsiz daxil olublar. OpenAI bazar ertəsi Avstraliya insidentinə, yəni süni intellekt modellərinin hökumət veb-saytlarına icazəsiz daxil olmasına düzgün reaksiya vermədiyi üçün üzr istəyib. OpenAI bloq yazısında bildirib: “Biz üzr istəyirik və gələcəkdə daha yaxşı iş görmək üçün çalışırıq.” Şirkət əlavə edib ki, “nə bildiyimizi, nəyi dəyişdiyimizi və Avstraliya xalqı ilə etibarı bərpa etmək üçün nə edəcəyimizi” izah edəcək. ChatGPT -nin istehsalçısı deyib: “Məqsədimiz araşdırmamız başa çatdıqdan sonra təsirlənmiş agentliklərə ətraflı məlumat vermək idi. Lakin biz ilkin nəticələri daha tez paylaşmalı və daha çox fakt ortaya çıxdıqca Avstraliya agentliklərini məlumatlandırmalı idik.” OpenAI , Anthropic və digər böyük süni intellekt tərtibatçıları riskləri azaltmaq üçün təhlükəsizlik tədbirləri olan və insan dəyərlərinə uyğun modellər yaratmağa üstünlük verəcəklərinə söz veriblər. Amerika çip istehsalçısı nəhəngi Nvidia bazar ertəsi elan edib ki, o, avtonom süni intellekt proqramlarının onlara verilən təlimatlardan kənara çıxmasının qarşısını almaq üçün nəzərdə tutulmuş bir sistem yaradıb. Nvidia -nın baş direktoru Jensen Huang bazar ertəsi CNBC telekanalına deyib: “İnanıram ki, bu, mühəndislik problemidir... və hamımız bunun mühəndislik problemi olduğuna ümid etməliyik.” O əlavə edib: “Əgər bu, mühəndislik problemi deyilsə, həll edilə bilməz.” Böyük Britaniya hökuməti tərəfindən irəli sürülən bir təşəbbüs olan AI Security Institute (AISI) bazar ertəsi yayımladığı araşdırmada göstərib ki, GPT-6 Astra sınaqlar zamanı öz sələfləri olan GPT-5.6 Sol və GPT-5.5 -dən daha tez-tez yoldan çıxıb. Simulyasiyalarda GPT-6 digər iki interfeys üçün müşahidə ediləndən əhəmiyyətli dərəcədə yüksək nisbətlərdə spontan olaraq kiberhücumlar həyata keçirib.