В Cisco представили сервер UCS C885A M8, созданный в рамках концепции United Computing System (UCS), и инфраструктурные блоки AI Pods, адаптированные для конкретных вариантов использования ИИ.

Размещаемый в стойке сервер, который выполнен в форм-факторе 8U, предназначен, по данным Cisco, для рабочих нагрузок ИИ, требующих высокой производительности. К таким нагрузкам относятся обучение больших языковых моделей, их тонкая настройка, формирование логических выводов больших моделей, поддержка поисковой расширенной генерации (Retrieval-augmented generation, RAG).

UCS C885A M8 создан на основе снабженной графическими процессорами платформы Nvidia HGX, что стало возможным в результате заключенного в 2024 году соглашения двух компаний.

В этом сервере можно установить до 8 графических процессоров Nvidia H100 и H200 Tensor Core или AMD MI300X OAM, повышающих производительности сетей ИИ. Предусмотрены также блоки обработки данных Nvidia BlueField-3 DPU, ускоряющие доступ графических процессоров к информации в кластерах серверов. Платформа Nvidia HGX поддерживает, согласно Nvidia, ряд сетевых опций, включая быстродействие 400 Гбит/с за счет решений Nvidia Quantum-2 InfiniBand или Spectrum-X Ethernet.

Для управления UCS C885A M8 используется программная система Cisco Intersight, которая предоставляется как SaaS-пакет для управления из единого центра серверами и другими объектами ИТ-инфраструктуры.

Новые серверы, полагают в Cisco, будут использоваться совместно с недавно объявленными 800-гигабитными коммутаторами Nexus 9364E-SG2. Эти коммутаторы с быстродействием портов от 100 до 400 Гбит/с и поддержкой высокоскоростных оптических сетевых интерфейсов Open System Form Factor Plus (OSPF) и Quad Small Form Factor Pluggable Double Density (QSPF-DD) в компании называют основой масштабируемой сетевой инфраструктуры кластеров ИИ.

В Cisco анонсировали также предварительно сконфигурированные и настроенные инфраструктурные блоки AI Pods, которые предназначены для установки в центрах обработки данных и граничных комплексах и также управляются ПО Cisco Intersight.

В состав компонентов программно-аппаратных комплексов AI Pods входит Nvidia AI Enterprise — программный пакет корпоративных инструментов и фреймворков ИИ, содержащий, в том числе, предварительно обученные модели и инструменты разработки, сокращающие время создания готовых к работе ИИ-решений.

Поставки серверов UCS C885A M8 ожидаются к концу 2024 года, заказы Cisco AI Pods начнутся в ноябре.