Dario Amodei aylarla Anthropic -in ən güclü süni intellektinin təhlükələri barədə həyəcan təbili çalırdı. Sonra Vaşinqton onun demək olar ki, heç vaxt nəzərdə tutmadığı şəkildə qulaq asdı. Anthropic -in baş direktoru Dario Amodei bu ay süni intellektin gücünün “danılmaz hala gəldiyini” xəbərdar edən bir esse dərc edəndə, o, yaxşı qurulmuş bir nümunəni davam etdirirdi. Amodei, axı, süni intellektin məsuliyyətli bir yetkinə ehtiyacı olduğu fərziyyəsi üzərində bütün bir şirkət qurmuşdu. Onun gözləmədiyi isə öz sözlərinin birbaşa məhsullarına tətbiq olunan tənzimləyici təzyiqə töhfə verə bilməsi idi. Cümə günü (12 iyun) Anthropic , Tramp administrasiyası nın direktivindən sonra Mythos 5 və Fable 5 modellərinə xarici girişi kəsdiyini təsdiqlədi. Bu addım Silikon Vadisi ni heyrətə gətirdi, texnologiya sənayesində dalğalar yaratdı və Amodei-nin, əslində, müdaxiləni özünün dəvət edib-etmədiyi barədə dərhal müzakirələrə səbəb oldu. Amodei-nin Vaşinqton un diqqətini çəkən Mythos haqqında dedikləri: İyun ayındakı essesində Amodei Anthropic -in ən son modelini adını çəkərək, onun kiber təhlükəsizlik, maliyyə sektoru, kritik infrastruktur və milli təhlükəsizlik üçün “çox real risklər” yaratdığı barədə xəbərdarlıq etdi. O, bunu uzaq bir nəzəri narahatlıq kimi qələmə vermədi. O, bunu indiki və təcili bir təhlükə kimi təqdim etdi. “ Mythos sinif modellərinin yaratdığı kiber risklər qarşılaşmalı olduğumuz son risklər olmayacaq,” o yazdı. “İnanıram ki, bioloji risklər tezliklə gələ bilər və ciddi süni intellekt muxtariyyəti riskləri də uzaqda deyil.” O, həmçinin qanunvericilərin narahatlıqlarının süni intellektin sürətli inkişafı ilə ayaqlaşmadığını iddia edərək, hökuməti daha çox iş görməyə, daha sürətli hərəkət etməyə və struktur səviyyəsində müdaxilə etməyə çağırdı. Bu ayın əvvəlində Anthropic , bir tədqiqat işində qabaqcıl süni intellekt modellərinin inkişafına müvəqqəti fasilə verilməsini tələb edərək daha da irəli getdi. Sənəddə ən son nəsil modellərinin özlərini təkmilləşdirmə qabiliyyətinə yaxınlaşdığı barədə xəbərdarlıq edildi ki, bu da “insanların süni intellekt sistemləri üzərində nəzarəti itirmə risklərini artıra bilər.” “İnanırıq ki, cəmiyyət strukturlarının və uyğunlaşma tədqiqatlarının texnologiyanın inkişafı ilə ayaqlaşmasını təmin etmək üçün qabaqcıl süni intellekt inkişafını yavaşlatmaq və ya müvəqqəti dayandırmaq imkanının olması dünya üçün yaxşı olardı,” Anthropic yazdı. Bu fasilə cümə günü gəldi. Ən azından Anthropic üçün. Hökumətin Cavabı: Sürətli, Geniş və Üzr İstəməyən Tramp administrasiyası nın Mythos 5 və Fable 5 -ə xarici girişi bloklamaq əmri əvvəlcədən bildirilmişdi. Bu, sənayeni hazırlıqsız yaxaladı. Pentaqon un baş informasiya direktoru X-də bu addımı dəstəkləyərək yazdı: “Bəzi şeylər sadəcə gəlir dövrlərindən, kliklərdən və IPO -dan əvvəlki qiymətləndirmədən daha vacibdir.” Anthropic -in ictimai bazara çıxışa hazırlaşdığı geniş şəkildə anlaşıldığı üçün bu kəskin ifadə diqqətəlayiq idi. Tənqidçilər birbaşa Amodei-ni günahlandırırlar. Süni intellekt tədqiqatçıları və şərhçiləri arasında reaksiya sürətli oldu və bunun çoxu şəxsən Amodei-yə yönəlmişdi. Süni intellekt tədqiqatçısı və texnologiyanın daha möhtəşəm iddialarına qarşı çıxan tanınmış skeptik Gary Marcus , Tramp administrasiyası nın addımını “həddindən artıq dramatik və həm də əks-məhsuldar” adlandırdı. Müasir dərin öyrənmənin qurucu fiqurlarından biri hesab edilən Yann LeCun , günahı daha birbaşa şəkildə təyin etdi. “ Dario Amodei -nin Mythos/Fable (və ümumiyyətlə süni intellekt) haqqında gülünc qorxu yayması nəhayət öz bəhrəsini verir,” o, X-də yazdı. “Nə əkirsənsə, onu biçirsən.” Dario Amodei kimdir və onun mövqeyi niyə vacibdir? Amodei-nin karyera trayektoriyası onun ictimai bəyanatlarına qeyri-adi çəki verir. O, OpenAI -nin baş direktoru Sam Altman -ın sürətli məhsul buraxılışlarına ciddi təhlükəsizlik sınaqlarından daha çox üstünlük verdiyi narahatlıqlarını əsas gətirərək Anthropic -i qurmaq üçün ayrılmadan əvvəl OpenAI -də baş tədqiqatçı idi. Anthropic , qabaqcıl süni intellekt inkişafının daha çox ehtiyat, daha çox nəzarət və risklər haqqında daha çox şəffaflıq tələb etdiyi arqumenti ətrafında qurulmuşdu. Bu qurucu fəlsəfə Amodei-nin ictimaiyyətlə necə ünsiyyət qurduğunu formalaşdırdı. O, digər süni intellekt laboratoriya rəhbərlərinin danışma tərzindən fərqli olaraq, təhlükələri azaltmaq əvəzinə ardıcıl olaraq vurğulamağı seçmişdir. İş yerləri xəbərdarlığı və IPO -dan əvvəl yumşaldılmış ton Amodei-nin dəhşətli proqnozları kiber təhlükəsizlikdən kənara çıxır. O, əvvəllər süni intellektin bütün giriş səviyyəli ağ yaxalı iş yerlərinin yarısını aradan qaldıracağını və işsizliyi COVID-19 pandemiyası ndan, ya da ondan əvvəl, 2008-ci il qlobal maliyyə böhranı ndan bəri görünməyən səviyyələrə çatdıracağını xəbərdar etmişdi. Lakin son həftələrdə müşahidəçilər onun məşğulluqla bağlı dilinin nəzərəçarpacaq dərəcədə daha ölçülü olduğunu qeyd etdilər. Anthropic -in gözlənilən birja debütü, şirkətin özünü investorlara və tənzimləyicilərə necə təqdim etdiyini formalaşdıran bir amil kimi qəbul edilir. Lakin milli təhlükəsizlik və süni intellekt muxtariyyəti mövzusunda nə Amodei, nə də Anthropic geri çəkilməmişdi. Anthropic -in ən güclü modelləri üçün növbəti addımlar nə olacaq? Mythos 5 və Fable 5 -ə xarici girişə qoyulan məhdudiyyət, qlobal səviyyədə fəaliyyət göstərən və süni intellekt üstünlüyü uğrunda gərgin mübarizəyə çevrilmiş bir yarışda OpenAI , Google DeepMind , Meta və Amazon ilə rəqabət aparan bir şirkət üçün əhəmiyyətli kommersiya sualları doğurur. Bu, həm də Amodei-nin özünün başlatdığı daha geniş bir sualı ortaya qoyur: əgər bir şirkətin baş direktoru öz məhsullarının hökumət müdaxiləsinə layiq olacaq qədər təhlükəli olduğunu ictimai və dəfələrlə iddia edirsə, hökumət nə vaxt onun haqlı olduğuna qərar verir? Hələlik, Anthropic öz cavabını aldı.