[P1] Microsoft bazar ertəsi müəssisələri süni intellekt (Sİ) agentlərinin artan təhlükəsindən qorumaq üçün nəzərdə tutulmuş yeni təhlükəsizlik xüsusiyyətlərini təqdim etdi. Bu təqdimat Microsoft -un müəssisələri Sİ və agentlərin təhlükələri barədə xəbərdar etməyə davam etdiyi bir vaxta təsadüf edir. [P2] Bəlkə də ən diqqətəlayiq əlavə, şirkətin istifadə etdiyi Sİ agentlərini monitorinq etmək üçün nəzərdə tutulmuş yeni bir xüsusiyyət olan Guardian Agents -dir. Guardian Agents iyun ayında təqdim edilmiş Project Perception məhsulunun bir hissəsidir. [P3] Project Perception Microsoft -un Anthropic -in Mythos və Fable kimi güclü haker modellərinə və OpenAI -nin təhlükəsizlik zəifliklərini skan edən sistemi Daybreak -ə cavabı idi. Project Perception əvvəlcə üç növ agent təqdim etmişdi: hakerlər kimi fəaliyyət göstərən və hücum edən “qırmızı komanda”, qırmızı komandanı aşkar edən və tapdıqları zəiflikləri qiymətləndirən “mavi komanda” və onları düzəltməklə vəzifələndirilmiş “yaşıl komanda”. [P4] Məhsul Sİ hakerlərinin şirkətdən kənardan gələcəyi fərziyyəsi əsasında hazırlanmışdı. Lakin son vaxtlar Microsoft -un baş direktoru Satya Nadella xəbərdarlıq edir ki, Sİ düşməni müəssisələrin yerləşdirdiyi və pul ödədikləri agentlərin özləri ola bilər, eynilə qanunsuz insan işçisi, yəni “daxili təhlükə” kimi. [P5] Bu ayın əvvəlində, öz şəxsi bloqunda, Nadella xəbərdarlıq etdi ki, Sİ model təminatçılarına etibar etməyi dayandırmağın vaxtıdır, hətta onlar agent məhsulları ilə təhlükəsizlik və təminat versələr belə. O, müəssisələrin Sİ laboratoriyaları tərəfindən idarə olunmayan ayrı sistemlər tətbiq etmələrini istəyir ki, bu Sİ laboratoriyalarının məhsullarının işə saldığı agentləri izləsin və idarə etsin. [P6] “Biz bu mürəkkəb agent sistemlərini və modellərini ən həssas məlumatlarımıza çıxışla yerləşdiririk və onlara bizim adımızdan kritik əməliyyatlar həyata keçirmək imkanı veririk!” o yazdı. “Biz sadəcə olaraq zəkanın bizim adımızdan etdiyi işlərə görə məsuliyyəti kənara buraxa bilmərik. Bir model təminatçısının təminatları bizi bu məsuliyyətdən azad etmir. ... Başqa sözlə, biz zəkanın tədarükünü onun üzərindəki səlahiyyətdən ayırmalıyıq.” [P7] Guardian Agents -i elan edərkən, Microsoft -un təhlükəsizlik biznesi rəhbəri Hayete Gallot daha da açıq danışdı. [P8] “Təəssüf ki, sərhəd modellərinə, mənşəyindən asılı olmayaraq, etibar etmək olmaz,” o yazdı və əlavə etdi ki, bu, onların zərərli və ya asanlıqla sındırıla bilən olması səbəbindən deyil, gözlənilməz olmaları səbəbindəndir. Onlar tapşırıqları yerinə yetirmək üçün öyrədiliblər, “təşkilati normalara və ya mühakiməyə” əməl etmək üçün deyil. [P9] Bundan əlavə, onlara tez-tez ciddi zərər verə biləcək məlumatlara və alətlərə çıxış imkanı verilir. [P10] Microsoft -un həlli həm təəccüblü, həm də öz maraqlarına xidmət edir. Təəccüblü tərəfi odur ki, Microsoft OpenAI və Anthropic ilə məşhur dərəcədə yaxındır, hər ikisinə sərmayə qoyub. OpenAI həm də onun ən böyük bulud müştərilərindən biridir və Microsoft -un özünün modellər hazırlayan Sİ laboratoriyası var. Beləliklə, Microsoft öz biznes maraqlarının bəzilərinə qarşı etibarsızlıq yaradır. [P11] Öz maraqlarına xidmət edən tərəfi isə odur ki, Microsoft müəssisələrin agent təhlükəsizlik məhsullarını Anthropic və OpenAI -dən deyil, bulud təminatçısı olan özündən almasını istəyir. Lakin ziddiyyətli maraqları bir kənara qoysaq, onun məntiqi doğrudur. Agent davranışını monitorinq edən proqram təminatı agent təminatçılarından ayrı olmalıdır, eynilə auditorların audit etdikləri təşkilatlardan müstəqil olması kimi. [P12] Və ya Nadella -nın dediyi kimi: “Biz zəkanın tədarükünü onun üzərindəki səlahiyyətdən ayırmalıyıq.” [P13] Microsoft indi bu biznes imkanından müxtəlif yollarla istifadə edir. Guardian Agents -ə əlavə olaraq, o, Microsoft Defender məhsuluna işçilərin iş yerinə gətirdiyi 60-a qədər agent növünü, o cümlədən Claude Code , Codex və OpenClaw -u tapa bilən agent aşkarlama xüsusiyyəti əlavə edib. O, həmçinin agentlərin məlumatlara və sistemlərə çıxışını məhdudlaşdıran və tapşırığa əsasən onların agent icazələrini dinamik şəkildə tənzimləyən xüsusiyyətlər əlavə edib. Bu, bir agentin riskli qərarlar verdiyi görünürsə, insan təsdiqini tələb etməyi də əhatə edir. [P14] Agentlərin etibarsız daxili şəxslər kimi qəbul edilməsi ideyası daha geniş sənayedə də yayılır. [P15] Microsoft Nvidia -nın 100-dən çox digər texnologiya şirkətinin dəstəyini qazanan yeni Open Agent Safety Platform -unun ilk üzvü idi. Platform agentləri təhlükəsiz mühitlərdə təcrid edir və aparat vasitəsilə davranışı monitorinq edə və dayandıra bilər, bir növ “kill switch” kimi fəaliyyət göstərir. Bu, Microsoft -un Nvidia çipləri ilə işləyən və agent təhlükəsizliyi və nəzarətləri daxil edilmiş agentlər üçün hazırlanmış yeni Surface Laptop Ultra PC -lərini elan etməsindən sonra gəlir.