Выставка потребительской электроники Consumer Electronics Show – наверное, не то место, где можно ожидать дебюта каких-то корпоративных продуктов, но среди множества центральных и графических процессоров потребительского класса, продемонстрированных в Лас-Вегасе, компания AMD представила и новый серверный ускоритель Instinct MI300.

Гибридный процессор (accelerated processing unit, APU) представляет собой объединение 13 чиплетов, в которых размещаются ядра центрального и графического процессоров, а также память HBM (high bandwidth memory). В общей сложности в ускорителе AMD Instinct MI300 насчитывается 146 млрд транзисторов. Для сравнения, в весьма амбициозном процессоре Intel Ponte Vecchio будет присутствовать около 100 млрд транзисторов, а в графическом процессоре Nvidia Hopper H100 – только 80 млрд транзисторов.

Instinct MI300 имеет в своем составе 24 процессорных ядра Zen 4 и шесть чиплетов CDNA. По сути, CDNA представляет собой адаптированную для ЦОД версию потребительской графической технологии AMD RDNA. Сколько графических ядер размещено в каждом чиплете, в AMD не сообщают. И, наконец, Instinct MI300 имеет 128 Мбайт памяти HBM3 с 3D-архитектурой.

Трехмерная архитектура позволяет существенно увеличить пропускную способность передачи данных между кристаллами процессора, графического процессора и памяти. При этом данные из центрального или графического процессора попадают в стек HBM, минуя оперативную память, что приводит к значительному сокращению задержек. Кроме того, центральный и графический процессоры обращаются к одним и тем же данным в памяти одновременно, обеспечивая ускорение их обработки.

Генеральный директор AMD Лиза Су анонсировала новый продукт в самом конце своего полуторачасового выступления на CES, заявив, что MI300 – «первый чип, который объединяет центральный процессор, графический процессор и память в единую интегрированную структуру. Это позволяет совместно использовать системные ресурсы памяти и ввода-вывода, добиваясь значительного прироста производительности, повышения экономичности и упрощения программирования».

По сравнению с Instinct MI 250 производительность систем искусственного интеллекта на базе MI300 выросла в восемь раз, а производительность в пересчете на ватт потребляемой мощности – в пять раз. Возьмем, к примеру, широко разрекламированный чат-бот ChatGPT, построенный на основе искусственного интеллекта. Сегодня на обучение моделей уходят месяцы. А MI300 позволяет сократить время обучения с нескольких месяцев до нескольких недель, сэкономив тем самым миллионы долларов только на электроэнергии.

Стоит напомнить, что ускоритель AMD MI250 использовался в первом суперкомпьютере эксамасштаба Frontier, развернутом в Национальной лаборатории США в Окридже.

Чип AMD похож на Falcon Shores, разработку которого Intel планирует завершить в 2024 году, а также на суперчип Nvidia Grace Hopper, который должен появиться в этом году. По словам Су, в настоящее время MI300 проходит лабораторные испытания и тестирование избранными партнерами, а его промышленный выпуск должен начаться во второй половине нынешнего года.

Instinct – не единственная корпоративная новинка, которую можно было наблюдать на CES. Компания AMD представила также ускоритель искусственного интеллекта Alveo V70, входящий в состав приобретенного AMD в прошлом году семейства FPGA Xilinx. Используемая в нем технология AMD XDNA позволяет выполнять до 400 млн операций искусственного интеллекта в секунду на различных моделях, в том числе в сфере видеоаналитики и выдачи рекомендаций клиентам.

И все это при энергопотреблении в пределах 75 ватт и довольно небольшом формфакторе. Прием заказов на платы V70 в AMD планируют организовать уже в ближайшее время, а поставки их начнутся весной.