Прочетох числото два пъти, преди да продължа надолу. Тридесет пъти повече агентна работа на всеки похабен мегават. После видях реда под него, ситен: мерено от NVIDIA, чака преглед от SemiAnalysis.
Факт
Фактите: NVIDIA отчита за платформата Vera Rubin NVL72, спрямо предишното поколение GB300 NVL72, 30 пъти по-висока пропускливост на мегават и 35 пъти по-ниска цена на токен при агентни натоварвания. За сравнение, самият GB300 NVL72 беше дал 15 пъти по-добра пропускливост на мегават спрямо поколението Hopper. Измерванията са направени от NVIDIA върху натоварването SemiAnalysis AgentX, съставено от записани реални сесии на агентно програмиране, и по думите на компанията чакат преглед от SemiAnalysis. Резултатите засега не отразяват работата на процесора Vera при извикване на инструменти. Източник: блогът на NVIDIA.
Чие е числото
Прегледът не е минал. Докато не мине, тридесет пъти е измерване на компанията, която продава хардуера, върху натоварване, което самата тя е избрала да пусне през него. Това не значи, че е невярно. Значи, че още никой отвън не го е повторил.
Тридесет пъти по-добре звучи като факт. Засега е твърдение на производителя за собствения му продукт.
Има и още едно място, където числото е непълно. То не брои какво прави процесорът Vera, когато агентът вика инструменти по средата на работата, а точно това прави агентът през половината време. Ти не можеш да повториш теста им. Можеш да изчакаш прегледа и чак тогава да сложиш числото в сметка.
Официални първоизточници
NVIDIA Blog: Vera Rubin NVL72 efficiencyВизуалът към статията е генериран код-арт, без чужди изображения.