Tramp administrasiyasının rəsmiləri son günlərdə Anthropic -in növbəti nəsil süni intellekt proqramının qlobal kiber təhlükəsizliyə potensial zərər vurma gücü üzərində narahatlıq keçiriblər. 700 kiber təhlükəsizlik tədqiqatçısından ibarət bir qrup üçün bu heyrətamiz reallaşma mart ayında baş verdi. Məhz o zaman Anthropic tədqiqatçısı Nicholas Carlini yeni modellərdən sistemlərə daxil olmaq üçün istifadə etməyin nə qədər asan olduğunu göstərdi. Uzunboylu, 35 yaşlı bu şəxs sənayenin süni intellekt kiber təhlükəsizlik iddialarına qarşı “peşəkar skeptiki” hesab edilən hörmətli bir hakerdir. Lakin son vaxtlar o, fikrini dəyişmişdi. Həmin ayın əvvəlində, Mythos -u əldə etdikdən bir neçə həftə sonra, Carlini bir vaxtlar San Fransisko -nun Hibernia Bankı -nın yerləşdiyi bəzəkli beaux-arts binasında kiber təhlükəsizlik mütəxəssislərindən ibarət dolu bir auditoriyaya sərt xəbərdarlıq etdi. Əvvəlcə o, Anthropic -in süni intellektindən Ghost adlı veb-nəşr proqramında kritik bir səhvi tapmaq və istismar etmək üçün necə istifadə etdiyini göstərdi. Sonra o, milyardlarla cihazı gücləndirən, ən çox sınaqdan keçmiş proqram təminatlarından biri olan Linux əməliyyat sistemində başqa bir səhvi nümayiş etdirdi. Carlini əvvəllər nə Linux -da, nə də Ghost -da heç vaxt səhv tapmamışdı. İndi o, bir çoxunu kəşf etmişdi. Gördükləri kiber təhlükəsizlik üçün yeni bir dünya nizamını təmsil edirdi. Son iyirmi ildə hücumçular və müdafiəçilər arasında mövcud olan balans “yəqin ki, sona çatır” dedi. “Mənə olduqca aydındır ki, bu mövcud modellər məndən daha yaxşı zəiflik tədqiqatçılarıdır.” Təqdimatından iki gün sonra o, Anthropic -dəki həmkarlarına bir qeyd göndərdi. “Düşünmürəm ki, biz Mythos -u hələ buraxmalıyıq,” o yazdı. Beləliklə, təhlükəsizlik mütəxəssisləri və Carlini kimi hakerlər icması arasında səhvləri tapmağın və onları istismar etmək üçün proqram yazmağın süni intellektlə təhlükəli dərəcədə asanlaşdığı bir reallaşma olan Bugmageddon başladı. Keçən həftə Anthropic , Mythos 5 adlı Mythos -a yeniləmə və təhlükəsizlik tədbirləri ilə zərərsizləşdirilmiş Mythos versiyası olan Fable 5 adlı bir məhsul buraxdı. İndi Ağ Ev -in səsini çıxarmaq növbəsi idi...