İnvestorların təhlükəsizlik tələblərinin sərtləşdirilməsinin avadanlıq tələbatını boğacağı qorxularının əksinə olaraq, AI Infra Summit -də aparıcı model tərtibatçıları süni intellektin təhlükəsizliyi və uyğunlaşdırılmasının yüksək hesablama gücü tələb edən proseslər olduğunu və infrastruktur xərclərini artıracağını açıqlayıblar. Bu nəticə Santa Clara konfransının birinci günündə ortaya çıxıb. Analitiklər qeyd ediblər ki, model arxitekturası innovasiyası deyil, böyük hesablama, enerji və obyekt tutumunun təmin edilməsi sənaye üçün əsas maneəyə çevrilib. Yeni nəsil məlumat mərkəzləri 30%-dən 40%-ə qədər daha çox GPU yerləşdirmək üçün nəzərdə tutulur, Astra kimi proqram təminatı orkestrasiya platformaları və Nvidia -nın Vera Rubin platforması kimi avadanlıq təkmilləşdirmələri isə sistemin ümumi məhsuldarlığını optimallaşdırmağı hədəfləyir. Nvidia agent tipli süni intellektdən 100 dəfə tələbat artımını vurğulayır. Sammitdə çıxış edən Nvidia Corp. -un Hipermiqyas və HPC üzrə vitse-prezidenti Ian Buck , söhbət botlarından avtonom "agent tipli süni intellektə" keçidin avadanlıq tələblərini necə artırdığını izah edib. Buck qeyd edib ki, agent tipli iş yükləri 2023-cü ilin çat tətbiqlərindən təxminən 100 dəfə daha çox tələbkar olub, giriş ardıcıllığı uzunluqlarında, KV keş ölçülərində, çoxdönüşlü qarşılıqlı əlaqələrdə və alt-agentlərin yaranmasında eksponensial genişlənmələri misal gətirib. Intel -in yenidən mövqelənməsi və Meta -nın 5GW vizyonu. Intel Corp. -un baş direktoru Lip-Bu Tan sammitdə çip istehsalçısının ənənəvi CPU təchizatçısından tam-stack süni intellekt infrastruktur təminatçısına doğru strateji dönüşünü izah edib. Tan vurğulayıb ki, rəqabət xam GPU gücündən sistem səviyyəli optimallaşdırmaya keçdikcə, CPU -lar gücləndirici öyrənmə, orkestrasiya qatları və agent tipli iş axınları üçün həyati əhəmiyyət kəsb edəcək. Qərar qəbulunu sürətləndirmək üçün Tan Intel -in idarəetmə strukturunu düzəldərək, iyerarxiyanı 10-12 qatdan 4-5 qata endirib. İstehsalatla bağlı Tan , Intel -in 18A proses düyününün kütləvi istehsalda olduğunu, qabaqcıl 14A düyününün isə oktyabrda gözlənilən 0.9 PDK buraxılışı və növbəti rübdə 1.0 PDK ilə dəstəklənərək istifadəyə yaxınlaşdığını təsdiqləyib. Eyni zamanda, Meta Platforms Inc. -in İnfrastruktur rəhbəri Santosh Janardhan şirkətin böyük təlim infrastrukturunu genişləndirmə təcrübəsini ətraflı şəkildə izah edib. Meta yaxın illərdə 1 giqavatdan çox " Prometheus " klasterindən 5 giqavatlıq " Hyperion " izinə doğru irəlilədikcə, Janardhan çoxregionlu, itkisiz şəbəkələşməni ən böyük əməliyyat maneəsi kimi müəyyən edib. Hər 8 000 GPU üçün gündə cəmi iki GPU klaster kəsilməsi hədəfinə çatmaq üçün Meta xüsusi Back-End Aggregation (BAG) şəbəkə arxitekturasını tətbiq edib.