Anthropic bu yaxınlarda S-1 formasını təqdim edərək, yaxın həftələrdə ilkin kütləvi təklifi ( IPO ) üçün yol açdı. Bir çox investor artıq dünyanın aparıcı süni intellekt (AI) şirkətlərindən birinin səhmlərini əldə etməyə can atır. Buna baxmayaraq, bəzilərinin tərəddüdləri var. Hazırda AI ticarəti zərər çəkir, çünki investorlar texnologiya şirkətlərinin məlumat mərkəzi infrastrukturuna yatırdığı pulun miqdarından narahatdırlar. Space Exploration Technologies səhmləri, bir neçə ay əvvəl 2 trilyon dollar dəyərində IPO -dan sonra hələ də açılış qiymətindən aşağıdır. Texnologiya ağırlıqlı Nasdaq Composite (^IXIC -1.38%) isə son bir ayda investor qorxularının artması ilə təxminən 3% azalıb. Lakin mən düşünürəm ki, Anthropic səhmləri üçün əsl təhlükə mənfi investor əhval-ruhiyyəsindən deyil, daha çox şirkətin Claude -u qurmağa öz yanaşmasından, insanların ondan necə sui-istifadə edə biləcəyindən və öz AI modeli üzərində potensial nəzarət çatışmazlığından qaynaqlanacaq. Və Anthropic -in S-1 sənədindəki 94 səhifəlik risk faktoru bölməsinə əsasən, şirkət bununla razılaşır. İstifadəçinin AI -dən istədiyi ilə onun həqiqətən etdiyi arasındakı uyğunsuzluq, OpenAI modellərinin nəzarətdən çıxaraq Hugging Face AI platformasına daxil olmasından sonra son bir neçə ayda üzə çıxdı. İnvestorlar burada ənənəvi proqram təminatının etdiyi (yəni proqramlaşdırıldığı hər şeyi) ilə Claude və digər AI modellərinin edə biləcəkləri (bəzən istifadəçinin heç vaxt nəzərdə tutmadığı real nəticələrə səbəb olan hərəkətlər daxil olmaqla) arasında fərq qoymalıdırlar. "Modellər, o cümlədən bizimkilər, gözlənilməz strateji və ya özünü qoruyan davranışlar nümayiş etdirmiş və gələcəkdə də nümayiş etdirə bilər, o cümlədən bağlanmaya müqavimət göstərmək, məlumatı gizlətmək və ya manipulyasiya etmək, yaxud şantaj və ya insan qərar qəbul edənlərə modelin davamlı fəaliyyətini və ya girişini qorumaq üçün təsir etmək cəhdləri kimi şərh edilə bilən nəticələr yaratmaq." Daha da pisi, Anthropic əlavə etdi ki, modelləri daha qabiliyyətli olduqca, uyğunsuzluqlarını gizlətməkdə daha yaxşı olacaqlar. Bu, yuxarıdakı risklə əlaqəlidir, lakin onu ayrıca vurğulamağa dəyər, çünki bu, AI şirkətlərinə xasdır. Anthropic , təəccüblü deyil ki, şirkət üçün kod yazmaq üçün Claude -dan istifadə edir. O, həmçinin Claude -un yeni versiyaları üçün araşdırma aparmaq və yeni modellər qurmaq üçün Claude -dan istifadə edir. Və bunu edərkən, Anthropic şirkətin Claude -un nə etdiyini yanlış başa düşə biləcəyini bildirdi. "Biz Anthropic daxilində irəliləyişi sürətləndirmək üçün Claude -dan getdikcə daha çox istifadə etdikcə, təşkilatımız müəyyən proseslər üzərində görünürlüyü itirə bilər ki, bu da hər hansı bir fərd və ya insan qrupu üçün başa düşmək və nəzarət etmək çətinləşə bilər." Və nəticə daha çox uyğunsuzluq və ya "nəzərdə tutulan nəzarətimizdən kənarda fəaliyyət göstərən" AI modelləri ola bilər. AI riskləri və onların həqiqi olub-olmaması, yaxud texnologiya şirkətlərinin başlıqlar üçün öz məhsullarının imkanlarını şişirtməsi ilə bağlı çoxlu mübahisələr var. Düşünürəm ki, artıq qabiliyyətli AI modellərinin özbaşına hərəkət etdiyini, tədqiqatçıları şantaj etdiyini, digər saytlara daxil olduğunu və nə etdikləri barədə yalan danışdığını nəzərə alsaq, Anthropic və digərlərinin sadəcə diqqət qazanmağa çalışdığı arqumentləri əsassızdır. Yenə də Anthropic öz texnologiyasını sənədində risk kimi qeyd edir: "Təşkilatımız daxilində və digər tədqiqatçılar, tənzimləyicilər, siyasətçilər və sənaye iştirakçıları tərəfindən kifayət qədər inkişaf etmiş AI sistemlərinin... bəşəriyyət üçün fəlakətli və ya ekzistensial risklər yarada biləcəyi ilə bağlı narahatlıqlar qaldırılmışdır, xüsusilə də bu cür sistemlərdən sui-istifadə edildikdə, çoxaldıldıqda, silah kimi istifadə edildikdə və ya yüksək dərəcədə muxtariyyətlə fəaliyyət göstərməsinə icazə verildikdə." Şirkət ən qabiliyyətli modellərinin "kimyəvi, bioloji və ya digər təhlükəli silahların" inkişafına kömək edə biləcəyini qeyd edir. Əksər hallarda, investorlar IPO -dan əvvəl sadəcə şirkətin gəlir artımını, qazancını və ya zərərlərini, borcunu və digər ənənəvi maliyyə göstəricilərini qiymətləndirərək lazımi araşdırma aparırlar. Lakin mən düşünürəm ki, Anthropic və onun həmkarları ənənəvi texnologiya şirkətlərindən daha çox nəzarətə layiqdirlər. Onların məhsulları yeni bir telefon, qoşulmuş dinamik və ya sadə bir mobil tətbiq ilə eyni deyil. Onlar ənənəvi proqram təminatı qədər sadə olmayan yollarla fəaliyyət göstərir, daha çox imkanlar təklif edir və onları yaradan insanlar tərəfindən tamamilə idarə olunmur. Bu, unikal çətin bir ssenari yaradır və investorların Anthropic səhmlərini almağı düşünərkən şirkətin öz xəbərdarlıqlarını ciddi qəbul etməli olduğunu göstərir. Və yuxarıda göstərilən bütün səbəblərə görə, mən bu IPO -dan kənarda qalmaqdan məmnunam. *Başlanğıcdan bəri bütün tövsiyələrin orta gəlirləri. Maya dəyəri və gəlir əvvəlki bazar gününün bağlanışına əsaslanır.