OpenAI süni intellektin ən əhəmiyyətli problemlərindən biri üzərində işləmək üçün tədqiqatçı vəzifəsi elan edib: süni intellekt sistemi özünü daha ağıllı etməyə qadir olduqda nə baş verir. Şirkətin Hazırlıq təhlükəsizlik komandası daxilində olan bu rol, Business Insider -in məlumatına görə, 295,000 ABŞ dollarından 445,000 ABŞ dollarına qədər (təxminən 2.5 milyon ₹-dən 3.7 milyon ₹-ə qədər) maaş diapazonu və qeyri-adi işə qəbul meyarı ilə gəlir. Elana görə, "Bu iş gələcəkdə mövcud ola biləcək, lakin indi mövcud olmayan problemlər haqqında düşünməyə əsaslanır. Buna görə də bu rolda olan insanların zövqlü və strateji olması xüsusilə vacibdir." Rekursiv Özünü Təkmilləşdirmə Nədir və Niyə Vacibdir? İş elanı rekursiv özünü təkmilləşdirmə kimi tanınan bir konsepsiya üzərində cəmləşir – süni intellekt sisteminin əhəmiyyətli insan müdaxiləsi olmadan özünün daha yaxşı versiyalarını araşdırmaq, dizayn etmək və öyrətmək qabiliyyəti. Bu fikir son altı ayda nəzəri narahatlıqdan aktiv sənaye prioritetinə çevrilib, çünki OpenAI və Anthropic -dən gələn kodlaşdırma alətləri hətta öz tədqiqatçılarını belə təəccübləndirən sürətlə inkişaf edib. Google DeepMind -in baş icraçı direktoru Demis Hassabis bu həftə bildirib ki, bəşəriyyət indi "təkliyin astanasında" dayanır – süni intellektin özünü təkmilləşdirməyə başladığı və insan zəkasını geridə qoyduğu nöqtə. METR laboratoriyasının tədqiqatçıları, mart ayında yazıblar ki, qabaqcıl süni intellekt modellərinin yerinə yetirə biləcəyi tapşırığın müddəti təxminən hər yeddi aydan bir ikiqat artır. METR -in yazdığına görə, bunun mənası odur ki, süni intellekt agentləri tezliklə insan kodlaşdırıcılarının günlər və ya həftələr çəkən proqram təminatı işlərinin "böyük bir hissəsini" öhdəsindən gələ biləcəklər. OpenAI -nin Avtomatlaşdırılmış Süni İntellekt Tədqiqatı üçün Öz Zaman Çərçivəsi OpenAI -nin baş icraçı direktoru Sam Altman bu sahədə şirkətin ambisiyaları barədə açıq danışıb. Oktyabr ayında Altman bildirib ki, şirkət bu sentyabr ayına qədər yüz minlərlə çip üzərində "avtomatlaşdırılmış süni intellekt tədqiqatçı stajyeri" işlətmək, 2028-ci ilin mart ayına qədər isə "əsl avtomatlaşdırılmış süni intellekt tədqiqatçısı" hədəfi qoyub. Altman X -də yazıb: "Biz bu hədəfdə tamamilə uğursuz ola bilərik, lakin fövqəladə potensial təsirləri nəzərə alaraq, bunun ictimai maraqlara uyğun olduğunu düşünürük." Bu il ictimaiyyətə açılmağı hədəfləyən şirkət, artıq Codex məhsulu vasitəsilə süni intellekt kodlaşdırma alətlərini kommersiyalaşdırır ki, bu da əhəmiyyətli gəlir mənbəyinə çevrilib. Öz daxili tədqiqat işlərinin avtomatlaşdırılması növbəti sərhəd kimi təsvir edilir. Tədqiqatçı OpenAI -də Əslində Nə Edəcək? Business Insider -in qeyd etdiyi iş elanına görə, uğurlu namizəd OpenAI -nin Hazırlıq komandası daxilində bir neçə sahədə işləyə bilər. Bunlara OpenAI modellərini məlumat zəhərlənməsindən qorumaq (bu, süni intellekt modelini öyrədildiyi məlumat dəsti vasitəsilə korlamaq cəhdlərini əhatə edir), modellərin düşüncəsini şərh etmək üçün alətlər qurmaq və özünü təkmilləşdirən sistemlərin təhlükəsizlik nəticələrini anlamaq üçün təcrübələr aparmaq daxildir. Tədqiqatçıdan həmçinin "texniki heyətin avtomatlaşdırılması istiqamətində irəliləyişi izləmək", o cümlədən şirkətin özündə süni intellekt kodlaşdırma alətlərinin nə dərəcədə geniş istifadə olunduğunu ölçmək tələb oluna bilər. Hazırlıq komandası nın daha geniş mandatı süni intellektdən qaynaqlanan ciddi zərərlərin qarşısını almağı əhatə edir. Eyni komandada digər açıq vəzifələr kibertəhlükəsizlik zəifliklərini, bioloji və kimyəvi riskləri və agent süni intellekt sistemlərinin yaratdığı təhdidləri sınaqdan keçirmək üçün avtomatlaşdırılmış qırmızı komanda işini əhatə edir. Business Insider -in məlumatına görə, Hazırlıq elanlarında deyilir: "Bu, şirkət və cəmiyyət üçün genişmiqyaslı nəticələri olan təcili, sürətli bir işdir." Anthropic Oxşar İstiqamətdə Düşünür OpenAI bu dəyişikliyə hazırlaşan yeganə şirkət deyil. Aprel ayında Anthropic daha güclü süni intellekt modellərinə nəzarət etmək üçün süni intellekt modellərindən istifadəyə dair tədqiqat dərc etdi, nəticələr ümidverici, lakin məhdud olaraq təsvir edildi. May ayında Anthropic -in həmtəsisçisi və siyasət rəhbəri Jack Clark yazdı ki, o, 2028-ci ilin sonuna qədər insan müdaxiləsi olmadan süni intellekt tədqiqat və inkişafının aparılma ehtimalının təxminən 60 faiz olduğuna inanır.