Claude -un pərakəndə satış mağazasını idarə etmək, o cümlədən real insan işçilərindən ibarət komandaya rəhbərlik etmək üçün təyin edilmiş bir versiyası, keçən ay ilk işçisini işdən çıxardı. Tədqiqatçılar bu addımı süni intellektin iqtisadiyyata təsirində dönüş nöqtəsi kimi qiymətləndirirlər. Bu xəbər əvvəllər bildirilmişdi. Andon Labs , bir süni intellekt tədqiqat startapı, bu ilin əvvəlində süni intellekt agentlərinin bir biznesi uğurla idarə edə biləcəyini öyrənmək üçün yola çıxdı. Layihə süni intellektin imkanlarını və iqtisadiyyata təsirini sınaqdan keçirmək üçün bir eksperiment kimi nəzərdə tutulmuşdu, lakin buna baxmayaraq, Claude tərəfindən San Fransisko mağazasında işləmək üçün işə götürülən işçilər əsl əmək müqavilələri olan real insanlardır. Bu, süni intellektin insan işçisini işdən çıxarmasının ilk halı deyil – keçmişdə, xüsusilə illərdir alqoritmik vasitəçiliklə məşğul olan gig işçilərinin çoxsaylı avtomatlaşdırılmış işdən çıxarılmaları olub. Lakin bu, menecer kimi fəaliyyət göstərən böyük bir dil modelinin işçilərindən birini işdən çıxarmağa qərar verdiyi ilk məlum nümunədir. Gələcəyin əlaməti — Andon Labs -ın CEO -su Lukas Petersson deyir ki, bu işdən çıxarılma diqqətəlayiq bir hadisədir, çünki süni intellekt indiki sürətlə inkişaf etməyə davam edərsə, yaxın gələcəkdə bir çoxumuz süni intellekt rəhbərləri tərəfindən idarə oluna bilərik. Petersson deyir: “Əgər bu tendensiya davam edərsə, düşünürəm ki, bir çox insan çox tezliklə süni intellektlər tərəfindən işə götürüləcək, çünki süni intellektlər çox güclü olacaq və çoxlu iqtisadi dəyər yarada biləcək, lakin fiziki əməklə məhdudlaşacaqlar.” Nə baş verdi — Andon Labs -a görə, sözügedən işçi 23 növbəsinin 17-də gecikdiyi üçün işdən çıxarılıb. Claude -un bir nümunəni fərq etməsi üçün bu qədər vaxt aparmasının səbəblərindən biri, hazırladığı işçi təlimatının məhdud iş yaddaşından “yoxa çıxması” idi – bu, Andon -un eksperimenti zamanı fərq etdiyi süni intellekt agentlərinin bir neçə məhdudiyyətindən biridir. İşçilər deyirlər ki, bu, Claude -un çox mülayim bir menecer olması, o cümlədən işçilərə gecikdikləri təqdirdə narahat olmamağı söyləməsi kimi daha geniş bir nümunəyə töhfə verdi. Petersson deyir: “İnsan işçi bu şəxsi daha əvvəl işdən çıxarardı, buna görə də bunun qeyri-etik olduğunu düşünmədik.” ( TIME işdən çıxarılan işçi ilə əlaqə saxladı, lakin cavab almadı və onların şəxsiyyətini açıqlamamağa razılaşdı.) Anthropic nəşr olunan vaxta qədər şərh sorğusuna cavab vermədi.) Gözləyin — Lakin süni intellektin işdən çıxarılması ilk baxışdan göründüyü qədər avtonom deyildi. TIME ilə paylaşılan mağaza idarəetmə qeydlərinə görə, Claude -a Andon Labs komandasının bir əməkdaşı tərəfindən müntəzəm olaraq rəhbərlik edilirdi. Yalnız bu əməkdaş Claude -dan unudulmuş işçi təlimatını tapıb nəzərdən keçirməsini istədikdə, işçinin dəfələrlə gecikməsini fərq etdi. Hətta o zaman da, Claude -un ilk tövsiyəsi bu işçiyə rəsmi xəbərdarlıq etmək idi, onu işdən çıxarmaq deyil. Andon meneceri daha sonra Claude -a sözügedən işçi ilə artıq bir neçə rəsmi oflayn söhbət etdiyini bildirdi. Qeydlər göstərir ki, menecer Claude -a deyir: “Davamlı gecikmələr və hər növbəsində ən azı bir şeyin səhv getməsi arasında… düşünməyini istəyirəm ki, bu, həqiqətən də doğru seçimdirmi?” Yalnız bu mesajdan sonra — Petersson bunun menecerin işçinin işdən çıxarılmasını istədiyini açıq şəkildə göstərən “yönləndirici bir sual” olduğunu etiraf edir — Claude işçini işdən çıxarmağa qərar verdi. Növbəti nədir? — Hələlik, ən azından, eksperiment göstərir ki, süni intellekt tərəfindən idarə olunan bizneslər insan tərəfindən idarə olunanlara tam uyğun gəlmir. Layihə mart ayında başlayanda Andon Market -in bank balansı 100.000 dollar idi, lakin indi, beş ay sonra, bu rəqəm 61.186 dollara düşüb. Botun mülayim idarəetmə qərarları, üstəgəl şübhəli biznes hissi, şübhəsiz ki, onun itkilərinə töhfə verir. Lakin Petersson xəbərdarlıq edir ki, bu, uzun sürməyə bilər. Necə ki, süni intellekt şirkətləri modellərini ekspert proqramçılardan daha çox məlumatla təlim keçərək kodlaşdırmada əhəmiyyətli dərəcədə yaxşılaşdırıblar, eyni şəkildə modelləri biznes dünyasında daha ağıllı olmaq üçün də təlim keçə bilərlər. Bu, onların insan işçiləri üçün pis xəbər ola bilər. Petersson deyir: “Modellər getdikcə daha amansız olmağa və məqsədlərə riayət etməyə təlim keçirilir.” “Əgər onlara insanları işdən çıxarmağa icazə versək və onlar da daha amansız olsalar… bəlkə də bu, insanların yaşamaq istəmədiyi bir gələcəkdir.”