Стартап Upscale AI, основанный в 2024 году, получил финансирование в размере 100 млн долл. от Mayfield, Maverick Silicon и ряда других компаний. Его бизнес-инкубатором стала быстрорастущая компания Auradine, специализирующаяся на инфраструктуре блокчейна и вычислениях для ИИ, которую возглавляют ветераны сетевого бизнеса. В Upscale AI намерены создать на этой базе открытое и основанное на стандартах решение в области сетевой инфраструктуры для ИИ, конкурирующее с «фирменной» технологией Nvidia NVLink.

Такое решение с высокой пропускной способностью и предсказуемой сверхнизкой задержкой предназначено для взаимодействия графических процессоров. Оно должно позволить любому поставщику вычислительных средств или гиперскейлеру легко подключать собственные вычислительные мощности или ускорители к размещаемому в стойках оборудованию, пояснили в Upscale AI.

Стратегия Upscale AI основана на использовании множества открытых стандартов, а не на создании собственных частных протоколов. Технологический стек компании базируется на сетевой операционной системе SONiC (Software for Open Networking in the Cloud), спецификациях Ultra Ethernet Consortium (UEC), стандартах Ultra Accelerator Link (UALink) и едином интерфейсе для программирования и конфигурирования сетевого оборудования, который формируется стандартизованным набором интерфейсов API на языке Си — Switch Abstraction Interface (SAI).

Основанная на Linux сетевая операционная система SONiC с открытым исходным кодом предназначена для управления коммутаторами и другим сетевым оборудованием в дата-центрах и облачной инфраструктуре. SONiC, благодаря SAI, работает на различных аппаратных платформах, что позволяет использовать ее в устройствах различных производителей.

Спецификации UEC, разработанные для решения проблем в сетях ИИ, содержат функции управления перегрузками, расширенную телеметрию и обеспечивают предсказуемую задержку, чего нет в традиционной технологии Ethernet. Открытая спецификация высокоскоростного межсоединения с малыми задержками UALink, предоставляя стандартизированные интерфейсы для соединения ИИ-ускорителей, устраняет зависимость от таких «фирменных» решений, как Nvidia NVLink.

Стандарты станут основой решений Upscale AI, но там намерены модернизировать стек в части SAI и SONiC, чтобы обеспечить масштабирование, подчеркнули разработчики. В Upscale AI разрабатывают специализированные чипы ASIC для масштабируемых приложений, а также применяют опыт терморегулирования в системах майнинга криптовалют. Сначала планируется создать продукты с горизонтальным масштабированием на основе коммерчески доступных микросхем и с управлением через независимый канал (out-of-band management), затем — перейти к вертикальному масштабированию с применением специализированных интегральных схем и полнофункциональных стоек.