Хиляда чипа тренират един и същ модел и през цялото време си казват какво са смятали. Изгуби се един пакет от този разговор и стандартният протокол спира да бърза.
MetaRoCE е отговорът на Meta. Не кръпка върху стария RoCE, а протокол, писан от чист лист, специално за колективните операции между хиляди ускорители, тоест разговорите, в които всеки чака всички.
Факт
Фактите: MetaRoCE е нов транспортен протокол за директен трансфер между памети, писан от нулата за AI натоварвания върху обикновен Ethernet. По данни на Meta пази около 86 процента от пропускателната способност при 1 процент загуба на пакети, с по-висока пропускливост и по-кратко време за завършване на потока в сравнение с RoCEv2. Мащабира се линейно при многоплоскостни мрежи, тествано на 4 и на 8 плоскости с 4000 едновременни връзки. Отваря се през Open Compute Project с пълна спецификация, софтуерна референтна реализация с име libsoftmetaroce и тестов пакет за съвместимост. Сред обявените партньори по внедряването е AMD Pensando. Източник: инженерният блог на Meta.
Защо го пускат навън
Мрежов протокол, писан вътре в една компания, обикновено си остава там. Meta прави обратното и слага спецификацията, кода и теста в Open Compute Project, откъдето всеки производител може да провери своя чип срещу тях.
При един процент загубени пакети повечето протоколи се задъхват. Този, по данни на Meta, пази около 86 процента от скоростта.
Сметката е проста. Отворен протокол печели само ако достатъчно чипове го говорят. AMD Pensando е първият партньор, обявен по име. Ако до година го говорят трима големи производители, Meta е спечелила стандарт. Ако не, е дала безплатно добра работа.
Официални първоизточници
Meta Engineering: MetaRoCEВизуалът към статията е генериран код-арт, без чужди изображения.