Google -un məhsul təhlükəsizliyi üzrə mühəndislik vitse-prezidenti Pankaj Rohatgi bu yaxınlarda texnologiya nəhənginin ölkədəki əsas tərtibatçı konfransı üçün Benqaluru da idi. O, Nirmal John ilə kibertəhlükəsizlikdəki bəzi aktual məsələlər haqqında danışıb. Redaktə edilmiş hissələr. Sizin kriptoqrafiya sahəsində təcrübəniz var. Kvant hesablamalarının bugünkü şifrələmə standartlarını təhdid etməyə hər zamankından daha yaxın göründüyünü nəzərə alsaq, kvant sonrası kriptoqrafiyanın (sistemləri kvant kompüterlərinin hücumlarından qoruyan) qəbul sürəti dünya üzrə qənaətbəxşdirmi? Biz Google -da kvant sahəsindəki irəliləyişləri müntəzəm olaraq izləyirik. Bu, xətti olmayan bir sahədir, buna görə də bəzən böyük irəliləyişlər olur. Bu sahədə parlaq riyaziyyatçılarımız var. Bu yaxınlarda etdiyimiz şey, kvant sonrası kriptoqrafiyanın qəbulu üçün son tarixi 2029-cu il ə çəkmək oldu. Biz hər kəs üçün nümunə olmağa çalışırıq və onları sistemlərinizi köçürmək vaxtının gəldiyi barədə xəbərdar edirik. Digər tətbiq, Google -un birbaşa iştirak etmədiyi, lakin kvant kompüterlərinin bugünkü şifrələmə standartlarının əsasını təşkil edən riyaziyyatı sındıra biləcəyi bir dünyada problemli olacaq Bitcoin protokoludur (kriptoqrafik riyaziyyatla dəstəklənir). Beləliklə, bu, insanların işləri daha sürətli qurmaq və kvant sonrası dünyaya hazırlaşmaq üçün başqa bir stimul ola bilər. Bütün bu amillərə baxaraq, dünya kvant sonrası kriptoqrafiya üzrə daha sürətli hərəkət etməlidir. 2029-cu il tarixi – Google -u bunu təklif etməyə nə vadar etdi? Bütün baş verən tədqiqatlardır. Lakin Çin kimi kvant sahəsinə böyük sərmayə qoyan ölkələr öz irəliləyişlərinin vəziyyətini açıqlamaq istəməzlər, elə deyilmi? Bəli, ola bilər və bunu bəlkə də Süni İntellekt sahəsində də görmüsünüz. Lakin hər hansı bir mövzuda tədqiqatın sərhədlərinə baxdığınızda, xüsusən də hər yerdə parlaq ağıllar bir şey üzərində işləyəndə, boşluqlar bir il və ya altı ay məsələsidir. Yəni, kiminsə iki və ya üç illik üstünlüyə sahib olması və dünyanın qalan hissəsinin tamamilə xəbərsiz olması nadir hal olmalıdır. İnsanlar kibertəhlükəsizlikdə ən zəif həlqə hesab olunurdu. Cinayətkarlar tərəfindən zəiflikləri tapmaq üçün Süni İntellekt fəal şəkildə istifadə edildiyi üçün bu dəyişibmi? Təhdid kəşfiyyatı komandamızdan daha çox gördüyümüz odur ki, insanlar əvvəllər spear phishing (yüksək hədəfli hücum) vasitəsilə vektor idilər. Bu, indi bəlkə də 50% -dən bir qədər azdır. Ortaya çıxan şey, zəiflikləri istismar edən sıfır gün zəiflik hücumlarının sayıdır (pis aktyorlar tərəfindən Süni İntellekt tətbiqi ilə mümkün olmuşdur). Agent dövründə istifadəçi təhsilinin zəiflikləri nə qədər əhəmiyyət kəsb edəcək? Digər sahələrdə olduğu kimi, istifadəçi də agentlərin məhdudiyyətlərindən xəbərdar olmalıdır. Hindistan da texnologiya rəqəmsal həbs fırıldaqları kimi yeni zəifliklər yaratmışdır. Alqoritmlərə bu qədər səlahiyyət verildikdə, xüsusilə yaşlı əhali kimi həssas icmalar üçün qoruyucu mexanizmlərin dizaynına nə qədər fikir verilir? Bu, bizim üçün mütləq prioritetdir. Risk altında olan əhali haqqında düşünməliyik. Uşaqlar da, elə deyilmi? Bir agentin nə edə biləcəyinə dair qoruyucu mexanizmlər və nəzarətlər qoya bilərik. Beləliklə, biz bu nəzarətləri tətbiq edir və onları qururuq. Bu, yenə də təkcə nəzarətlərin qurulmasında deyil, həm də əhalinin maarifləndirilməsində Google və digər şirkətlər arasında daha çox tərəfdaşlıqdır. Bilirsiniz, anam deyərdi ki, zinyət əşyalarınızı evdə saxlamayın, seyfdə saxlayın. Bu, bunun ekvivalentidir. Beləliklə, kimsə evimə gəlib seyf açarımı oğurlasa, yenə də banka getməli və şəxsiyyətini sübut etməlidir. Google agent Süni İntellekt əməliyyatları üçün 10.000 rupi və ya 100 dollar limiti müəyyən edib. Bu rəqəmə necə gəldiniz? Bugünkü texnologiya və hazırkı vəziyyətimizə görə, agentlərə qarşı hələ də təhdidlər var. Hər kəs prompt injection (LLM-ləri hədəf alan) və s. haqqında bilir. İnsanların o qədər də danışmadığı digər məqam isə bəzən hücuma ehtiyac olmamasıdır. Agentlər sizi məmnun etmək səylərində razılaşa biləcəyiniz və ya razılaşmaya biləcəyiniz şeylər edəcəklər. Bəzi mühitlərdə agentlərin etibarsız ola bilməsi üçün səbəblər var. Beləliklə, agent sistemindən əldə etdiyiniz dəyəri təmin etmək, eyni zamanda müəyyən qoruyucu mexanizmlərə və nəzarətə sahib olmaq arasında bu balansı saxlamaq istəyirsiniz. Biz həmişə dövrədə insanın olmasından danışırıq və bu, vacibdir. Beləliklə, qoruyucu mexanizmlər burada işə düşür. Düşünürəm ki, düşüncə prosesi yaxşı idi, 100 dollar dan və ya 10.000 rupi dən az. Bu, ilkin təsdiq limiti üçün uyğun bir məbləğ kimi görünür. Müəssisələrin gözündən qaçan ən böyük generativ Süni İntellekt təhlükəsizlik riskləri hansılardır? Təhlükəsizlik artıq insan miqyasında deyil, maşın miqyasındadır – hücumların baş vermə sürəti, zəifliklərin tez tapılacağı faktı (pis aktyorlar tərəfindən). Süni İntellekt hücumçuları bu qədər güclü olduqda nə baş verdiyi baxımından müəssisənizə baxmısınızmı? Bəzən sadəcə tez reaksiya vermək qabiliyyətinə, bir hadisə baş verdikdə onu tez bir zamanda məhdudlaşdırmaq üçün bant genişliyinə sahib olmaqdır. Bu, hər kəs üçün bir sınaqdır. İcraçı direktorlar tez-tez kibertəhlükəsizlikdə hansı alətlərin düzgün qarışığı olduğunu düşünürlər. Süni İntellekt dövründə icraçıların həyatını asanlaşdırmaq üçün alətlərin daha çox konsolidasiyasını görürsünüzmü? Düşünürəm ki, haqlısınız. Bir vaxtlar bir çox aləti bir araya gətirmək lazım idi. İndi müştərilərin daha inteqrasiya olunmuş müdafiə tələb etdiyini görürük. Düşünürəm ki, bu, agent dövrü ilə də əlaqəli ola bilər. Avtomatlaşdırmaya ehtiyacınız var və avtomatlaşdırma daha böyük bir mənzərəyə sahib olmaq deməkdir. Bəzən hücuma ehtiyacınız olmur. Agentlər sizi məmnun etmək səylərində razılaşa biləcəyiniz və ya razılaşmaya biləcəyiniz şeylər edəcəklər.