Anthropic öz texnologiyasının sivilizasiyanın sonunu gətirə biləcəyi barədə xəbərdarlıq edib. Bunun necə baş verdiyini anlamaq üçün onun ən son iş elanlarına nəzər salın. Niyə vacibdir: Anthropic , insanların süni intellektdən istifadə edərək əl istehsalı partlayıcılardan tutmuş nüvə silahlarına qədər hər şeyi yaratmasının qarşısını almaq üçün nəzərdə tutulmuş 32 çox qorxulu iş yeri açılışına malikdir. Tez bir zamanda məlumatlanın: Anthropic kimyəvi maddələr və partlayıcılar, nüvə silahları, maliyyə fırıldaqları, kiber cinayətlər və daha çox sahələrə fokuslanan analitiklər işə götürür. Bir iş təsvirində deyilir: “Radioloji və Nüvə Zərərlərinə fokuslanan İcra Analitiki olaraq, siz süni intellekt sistemlərinin radioloji və nüvə zərərləri üçün sui-istifadəsinin qarşısını almaqda kritik rol oynayacaqsınız.” Bu vəzifələr üçün maaşlar 200 min dollardan yuxarıdır. Anthropic sözçüsü bildirib: “Modellərimizin potensial zərərli məlumat verməməsini təmin etmək məsuliyyətli inkişafın əsasını təşkil edir. Buna görə də biz müntəzəm olaraq geniş həssas sahələrdə mütəxəssisləri – bu zərərləri və süni intellektin onları necə inkişaf etdirə biləcəyini anlayan insanları – sistemlərimizi sınaqdan keçirmək və model işə düşməzdən əvvəl müdafiəmizi gücləndirmək üçün işə götürürük.” Sözçü əlavə edib ki, iş təsvirlərinin və adlarının spesifikliyi dəqiq zərəri adlandırmaq üçündür ki, bu da doğru namizədləri cəlb etmək üçün zəruridir. Sətirlər arasında: Digər süni intellekt laboratoriyalarından daha çox, Anthropic “qiyamət günü” proqnozları ilə bağlı tənqidlərə məruz qalıb. Lakin şirkət süni intellektin potensial mənfi cəhətlərinin həqiqət olduğuna dair inancına pul qoyur. Keçmişə nəzər salaq: CEO Dario Amodei uzun müddətdir ki, pis niyyətli şəxslərin süni intellektdən zərər vermək üçün necə istifadə edə biləcəyi barədə xəbərdarlıq edib. Yanvar ayında yazdığı bir essedə o, bioloji hücumları bir çox ssenarilər arasında ən narahatedici ssenari adlandırıb. Amodei yazıb: “Mən bioloji hücumların geniş şəkildə mümkün olduğu anda mütləq həyata keçiriləcəyini düşünmürəm – əslində, buna qarşı mərc edərdim. Lakin milyonlarla insan və bir neçə il ərzində cəmləşdirildikdə, mən milyonlarla və ya daha çox itki ilə ciddi bir hücum riskinin olduğunu düşünürəm.” Bu ilin əvvəlində Anthropic , kütləvi nəzarət və avtonom silahlar üçün texnologiyasının potensial istifadəsi ilə bağlı Müdafiə Nazirliyi ilə fikir ayrılığına düşdü. Necə işləyir: Modellər daha güclü olduqca, süni intellekt laboratoriyaları təhlükəsizlik qruplarını gücləndirməyə çalışır. OpenAI , illik baza maaşı 295 min dollardan 445 min dollara qədər olan bioloji və kimyəvi risklər üzrə ixtisaslaşmış tədqiqatçı işə götürür. Anthropic -də təhlükəsizlik analitiki vəzifələri, şirkətin dediyinə görə, aşkarlanmaqdan yayınmağa çalışan biri kimi düşünməyi tələb edir və əlavə edir ki, onlar təhlükəsizliyə həsr olunmuş yüzlərlə insanı işə götürürlər. Onlar modelləri müvafiq olaraq sınaqdan keçirir, zəiflikləri aradan qaldırırlar. Bu işlər yalnız back-end kodlaşdırmadan daha çoxunu tələb edir. İnsanlara biologiya, partlayıcı maddələr və ya digər təhlükələr sahəsində real dünya təcrübəsi lazımdır. Nəticə: İstedad hökumət sektoruna deyil, özəl sektora axın edir. Bu, vahid tənzimləmə rejiminin olmaması ilə birlikdə, şirkətlərin getdikcə daha güclü süni intellekt üzərində qoruyucu tədbirlərin tətbiqində liderlik etməsi deməkdir.