Tramp administrasiyası nın Anthropic -ə qarşı dramatik tədbirlərini işə salan və ABŞ -ın süni intellekt tənzimləməsi üçün əsas qaydaları tamamilə yenidən müəyyən edə biləcək an demək olar ki, təsadüfən baş verdi. Və bu, Anthropic -in əsas investorlarından biri olan Amazon tərəfindən tətikləndi. Keçən həftə Amazon -dakı tədqiqatçılar Anthropic -in yeni buraxılmış Fable 5 modelini, Anthropic -in Mythos AI modelinin “təhlükəsiz” versiyasını sınaqdan keçirməklə məşğul idilər. Anthropic dəfələrlə bildirmişdi ki, onun Mythos sinif modelləri ümumi ictimaiyyətə buraxılmaq üçün çox təhlükəli olan fövqəlbəşəri proqram hakerlik bacarıqlarına malikdir. Anthropic -in 9 iyunda istifadəyə verdiyi Fable 5 , kiber təhlükəsizlik risklərinə qarşı möhkəm təhlükəsizlik tədbirləri ilə təchiz edilmişdi. Lakin Fable -i sınaqdan keçirən Amazon tədqiqatçıları, istifadəçilərə təhlükəsizlik maneələrini aşmağa və kiberhücumda istifadə edilə biləcək məlumatlara daxil olmağa imkan verən bir “jailbreak” aşkar etdilər. Amazon dərhal Anthropic -i xəbərdar etdi. Lakin vəziyyət, Amazon -un baş icraçı direktoru Andy Jassy -nin keçən cümə axşamı, 11 iyunda, əlaqəsiz bir mövzu ilə bağlı Ağ Ev rəsmiləri ilə əvvəlcədən planlaşdırılmış bir zəngdə olması ilə qəfildən gərginləşdi. Amazon -a yaxın iki mənbəyə görə, Jassy komandasının tapdığı boşluğu qaldırdı və Ağ Ev rəsmiləri onu bu məsələni birbaşa Xəzinədarlıq Katibi Scott Bessent -ə bildirməyə təşviq etdilər. Jassy həmin gün Bessent ilə danışdı. O, xəzinədarlıq katibinə Fable jailbreak-i haqqında danışdı, lakin həm də digər laboratoriyaların modelləri də daxil olmaqla, bütün qabaqcıl süni intellekt modellərinin kiber imkanlarından narahat olduğunu vurğuladı. Bessent , Mythos -un gücləndirdiyi kiberhücumların qlobal maliyyə sistemi üçün yarada biləcəyi təhlükə səbəbindən administrasiyanın Anthropic -in Mythos modelinə cavabını idarə edirdi. Onun Jassy ilə telefon danışığı tezliklə beynəlxalq xəbərlərə çevrilən hadisələr zəncirini işə saldı. Cümə axşamı axşamına qədər, Fable -in istifadəyə verilməsindən cəmi d dörd gün sonra, ABŞ Ticarət Katibi Howard Lutnick Anthropic -ə görünməmiş ixrac nəzarəti tətbiq etdi və laboratoriyanı ən güclü modellərini geri çəkməyə məcbur etdi. Bu addım, ABŞ hökuməti nin ilk dəfə olaraq qabaqcıl süni intellekt modelinin buraxılmasını açıq şəkildə məhdudlaşdırması ilə yadda qaldı və bütün dünyada texnologiya və siyasi həyəcan dalğasına səbəb oldu. O vaxtdan bəri, kiber təhlükəsizlik mütəxəssisləri, süni intellekt siyasəti mütəfəkkirləri, Amerika rəsmiləri və xarici hökumətlər nəticələri şiddətlə müzakirə edərək, Tramp Administrasiyası nın sərt qərarının təhlükəli bir presedent yaratdığını, yoxsa müdrik ehtiyatlılığı əks etdirdiyini sorğuladılar. Həlledici qərar üçün zəmin aylar əvvəl, Tramp administrasiyası Anthropic ilə Pentaqon ilə müqaviləsi ilə bağlı ayrı bir məsələ üzərində mübarizə apararkən hazırlanmışdı, bu mübarizə Tramp -ın orbitindəki texnologiya siyasəti rəsmiləri dairəsində San Fransisko süni intellekt şirkətinə qarşı artan düşmənçiliyi dərinləşdirdi. Bu, Anthropic -in Mythos -a daha geniş şirkətlər siyahısına girişi genişləndirməyə başlaması ilə milli təhlükəsizlik agentlikləri daxilində artan narahatlıqla daha da gücləndi. Bu yaxınlarda 65 milyard dollar lıq maliyyələşdirmə raundunu 965 milyard dollar dəyərində bağlayan və səhmlərini açıq bazarlarda listələmək üçün sənədlər təqdim edən Anthropic üçün ixrac nəzarəti, rəqibləri OpenAI , SpaceX və Google -un süni intellekt biznesində hökmranlıq etmək üçün aqressiv şəkildə rəqabət apardığı bir vaxtda ekzistensial təhlükə yaradır. Anthropic və Tramp administrasiyası arasında bir həftəlik qarşıdurmanın bir çox təfərrüatları hələ də ortaya çıxır və vəziyyəti həll etmək üçün səylər davam edir. Fortune , vəziyyətin müxtəlif tərəflərində iştirak edən yarım ondan çox insanla danışaraq, bunun necə baş verdiyini və gələcəkdə nə demək ola biləcəyini bir araya gətirdi. Ultimatum və tələsik zənglər Cümə günü, Jassy -nin Bessent ilə telefon danışığından sonra, administrasiya Anthropic və baş icraçı direktor Dario Amodei ilə əlaqə saxlayaraq, ya jailbreak-i düzəltmələrini, ya da modelləri bazardan çıxarmalarını tələb etdi. Anthropic -ə yaxın bir mənbəyə görə, xəbərdarlıq hökumətdən Fable -in ixracını milli təhlükəsizlik təhdidi hesab etdiyinə dair heç bir əvvəlki əlaqə və ya göstəriş olmadan gəldi. Xəbərdarlığın olmamasına baxmayaraq, Ticarət Nazirliyi 90 dəqiqə lik bir müddət təyin etdi, ardınca xarici vətəndaşların proqram təminatından istifadəsini qadağan edən sərt ixrac nəzarəti tətbiq etdi, bu direktiv Anthropic tərəfindən modellərin özlərinə effektiv qadağa kimi şərh edildi. Bunun səbəbi, hökumətin süni intellekt modelinin hər hansı bir xarici vətəndaşa, o cümlədən fiziki olaraq ABŞ -da yerləşənlərə paylanmasını modelin ixracına bərabər tutan “deemed export” standartından istifadə etməsidir. Bu standart hətta Anthropic -in öz qeyri- ABŞ işçilərinə də şamil ediləcəkdi. Üstəlik, Anthropic -in istifadəçilərinin milliyyətini yoxlamaq üçün effektiv bir yolu yox idi. Ultimatum Anthropic və Ağ Ev arasında tələsik zənglər dalğasına səbəb oldu. Anthropic , jailbreak-in nisbətən sadə olduğunu və digər mövcud modellərdən istifadə etməklə asanlıqla əldə edilə biləcəyini bildirdi. Lakin bu arqument, bypass-ın təhlükəli kiber imkanları açdığını iddia edən administrasiya rəsmilərini inandıra bilmədi. Departamenti ixrac nəzarətinə nəzarət edən Lutnick -dən rəsmi məktub cümə günü Şərq Vaxtı ilə saat 5-dən sonra gəldi və şirkətə Fable 5 və Mythos 5 modellərini xaricdəki hər hansı bir istifadəçiyə və ya qlobal olaraq hər hansı bir xarici vətəndaşa təqdim etməzdən əvvəl hökumətin təsdiqini tələb etdiyini bildirdi. Bloomberg News tərəfindən əldə edilən direktivin bir nüsxəsinə görə, Lutnick qaydalara əməl etməməyin cinayət və mülki cəzalara səbəb ola biləcəyi barədə xəbərdarlıq etdi. Həmin axşam saat 10-a qədər Anthropic Fable 5 və Mythos 5 -i oflayn rejimə keçirdi. Şirkət modelləri oflayn rejimə keçirdikdən sonra bloq yazısında yazdı: “Dar bir potensial jailbreak-in tapılmasının yüz milyonlarla insana tətbiq olunan kommersiya modelinin geri çağırılmasına səbəb olması ilə razılaşmırıq.” “Əgər bu standart bütün sənayedə tətbiq edilsəydi, inanırıq ki, bu, bütün qabaqcıl model təminatçıları üçün bütün yeni model tətbiqlərini əsasən dayandırardı.” Anthropic sözçüsü əlavə etdi ki, hər iki tərəf məsələni tez bir zamanda həll etmək üçün çalışır. Ağ Ev nümayəndələri şərh üçün çoxsaylı sorğulara cavab vermədilər. Saga həftə sonu və bu həftə də davam etdi. Bazar gününə qədər, Anthropic -ə yaxın mənbənin bildirdiyinə görə, Anthropic -in yüksək səviyyəli texniki heyəti Vaşinqton -a Ağ Ev rəsmiləri ilə şəxsən görüşmək üçün gəlmişdi. Tramp Administrasiyası nda məsləhətçi rolunda xidmət edən vençur kapitalisti David Sacks həftə sonu X -də yazdı: “Administrasiya Anthropic -in texniki imkanlarını yüksək qiymətləndirir və bu məsələnin, ciddi olsa da, asanlıqla həll edilməli olduğunu düşünür.” “Top Anthropic -in meydançasındadır.” Lakin çərşənbə axşamına qədər, Fortune -un bildirdiyinə görə, bu danışıqlar ixrac nəzarəti hələ də qüvvədə olmaqla başa çatmışdı və növbəti addımlar qeyri-müəyyən idi. İki tərəf çıxılmaz vəziyyətə düşdü. Sənaye reaksiyası Fable -in yaxın gələcəyi qeyri-müəyyən qalsa da, bir çox kiber təhlükəsizlik mütəxəssisləri Anthropic -in müdafiəsinə qalxdılar. Onlar xəbərdarlıq edirlər ki, süni intellekt modellərinin hökumət tərəfindən lisenziyalaşdırılması ABŞ laboratoriyalarını daha az rəqabətqabiliyyətli edəcək və Çin kimi geosiyasi rəqiblərin irəliləməsinə imkan verəcək. Kiber təhlükəsizlik şirkəti ThreatLocker -in baş icraçı direktoru Danny Jenkins Fortune -a dedi: “Texnologiyanın təkamülünü və inkişafını dayandıran hər şey ABŞ -ı geridə qoyacaq.” “Cinayətkarlar ABŞ -dan nəsə ixrac etməyə icazə verilib-verilməməsinə əhəmiyyət vermirlər.” Bu həftəki bir demoda Jenkins , Fable və ya Mythos qədər güclü hesab edilməyən Anthropic -in Claude modelindən istifadə edərək “bir maşını tamamilə ransomware etdiyini” söylədi, modelin özü isə bunu dərslik ransomware kimi müəyyən etdi. Lakin Jenkins dedi ki, boşluqlar sonda, istər insan, istərsə də süni intellekt modeli tərəfindən aşkar ediləcək. Süni intellekt modeli bunu sadəcə daha sürətli edir. O, hökumətin diqqətinin modelin mövcudluğunu nəzarət etməkdən daha çox təhlükəsizliyi gücləndirməyə və “sıfır etibar” mühitləri yaratmağa yönəldilməsini təklif etdi. Hüquq mütəxəssisləri də ixrac nəzarətinin məntiqini şübhə altına aldılar. LawAI -nin ABŞ Hüquq və Siyasət komandasının baş tədqiqatçısı Charlie Bullock Fortune -a dedi ki, Lutnick -in məktubu heç vaxt ictimaiyyətə açıq süni intellekt sistemləri üçün nəzərdə tutulmamış səlahiyyətlərə əsaslanır, xüsusilə də istifadəçilərin model ilə yalnız API (müxtəlif proqramların ünsiyyət qurmasına imkan verən proqram interfeysi) vasitəsilə qarşılıqlı əlaqədə olduğu yerlərdə. Bu fərq, hökumətin qanuni səlahiyyətlərini genişləndirib-genişləndirmədiyi və bu addımın Birinci Düzəliş yoxlamasına tab gətirib-gətirməyəcəyi ilə bağlı suallar doğurur, çünki əvvəlki məhkəmə qərarları dərc edilmiş kompüter kodunu qorunan nitq forması kimi qəbul etmişdir. Bullock dedi: “Düşünürəm ki, əsas nəticə odur ki, ixrac nəzarəti məktubu çox qeyri-sabit hüquqi əsaslara malikdir.” Məsələni ilk dəfə Ağ Ev rəsmilərinə bildirdikdən sonra Amazon Anthropic və ABŞ hökuməti arasındakı danışıqlardan geri çəkildi. Amazon Anthropic -in ən böyük investorlarından biridir, 2023-cü ildən bəri bir sıra sövdələşmələrdə startapa ən azı 13 milyard dollar sərmayə qoymuşdur. Amazon -da bir mühəndis dedi ki, işçilər şirkətlərinin Anthropic -i “satdığı” barədə zarafatlar edirlər, digərləri isə Fable 5 -dən istifadə etmək imkanlarının olmamasından şikayətləndilər. Bir açıqlamada, Amazon sözçüsü dedi ki, dünyanın ən böyük bulud təminatçılarından biri olaraq, “hökumətlərin potensial təhlükəsizlik riskləri ilə bağlı məsləhətimizi axtarması qeyri-adi deyil.” “Onlar baş verdikdə, bu müzakirələrin təfərrüatlarını paylaşmırıq.” Jassy -nin Ağ Ev rəsmilərinə verdiyi şərhlərin ixrac nəzarəti ilə nəticələnəcəyini gözləyib-gözləmədiyi bəlli olmasa da, onun Anthropic və Tramp administrasiyası arasındakı gərginlikdən xəbərdar olduğu demək olar ki, dəqiqdir. Beynəlxalq əks-sədalar Oktyabr ayında, əvvəllər Tramp -ın süni intellekt və kripto çarı kimi xidmət edən Sacks , həm federal, həm də ştat səviyyəsində süni intellekt tənzimləməsini müdafiə etdiyi üçün Anthropic -i tənqid edərək, şirkəti “qorxu yaymağa əsaslanan mürəkkəb tənzimləyici ələ keçirmə strategiyası” yürütməkdə günahlandırdı. O, əvvəllər şirkəti “oyanmış” və “solçularla” işləyən olmaqda günahlandırmışdı. Bunu laboratoriya və Tramp Administrasiyası arasında Müdafiə Nazirliyi nin Anthropic modellərindən istifadəsi ilə bağlı yüksək səviyyəli bir mübahisə izlədi. Pentaqon Anthropic -dən şirkətin modellərini “hər hansı qanuni məqsəd” üçün istifadə edə biləcəyini açıq şəkildə göstərən yeni bir müqaviləyə razılıq verməsini istəyirdi, Anthropic isə modellərinin avtonom silahları idarə etmək və ya daxili kütləvi nəzarət üçün istifadə edilməsini qadağan edən müqaviləyə xüsusi istisnaların daxil edilməsini istəyirdi. İki tərəf razılığa gələ bilmədikdə, Tramp administrasiyası bütün federal agentliklərə Anthropic modellərindən istifadəni dayandırmağı əmr etdi və Anthropic -i “təchizat zənciri riski” kimi etiketlədi, bu təyinat əvvəllər heç bir ABŞ biznesinə tətbiq edilməmişdi. Bu, Anthropic modellərinin ABŞ ordusu nun heç bir hissəsi və ya Pentaqon müqavilələri üzərində işləyən heç bir müdafiə podratçısı tərəfindən istifadə edilə bilməyəcəyi demək idi. Anthropic bu təyinatı məhkəmədə mübahisələndirmişdir. Anthropic aprel ayında Mythos -u buraxdıqda, ABŞ hökuməti ilə münasibətlər daha yaxşı bir zəmində yenidən qurulmuş kimi görünürdü. Mythos əvvəllər naməlum təhlükəsizlik boşluqlarını – o cümlədən onilliklər boyu insan təhlükəsizlik tədqiqatçıları tərəfindən geniş şəkildə araşdırılmış açıq mənbə kod bazalarındakı boşluqları – tapa bildiyi və sonra bu boşluqları avtonom şəkildə birləşdirərək tam istismarları həyata keçirə bildiyi üçün Anthropic ABŞ milli təhlükəsizlik agentlikləri ilə koordinasiya etdi. Anthropic -in Glasswing proqramı ilkin olaraq modeli diqqətlə seçilmiş 12 başlanğıc tərəfdaş qrupuna, hamısı ABŞ -ın kritik infrastrukturunu idarə edən ABŞ texnologiya və ya maliyyə firmalarına buraxdı. Məqsəd, bu şirkətlərin Mythos -dan istifadə edərək öz proqram təminatlarında boşluqları tapmaq və yamamaq idi, çünki hakerlər boşluqları tapmaq və hücumları avtomatlaşdırmaq üçün getdikcə daha çox süni intellektdən istifadə edirlər. Amazon və Microsoft ilkin qrupun bir hissəsi idi, bu qrup daha sonra əlavə 40 ABŞ proqram təminatı şirkətinə genişləndirildi.