Выставка Consumer Electronics Show — не то место, где можно ожидать дебюта каких-то корпоративных продуктов, однако среди множества центральных и графических процессоров потребительского класса, продемонстрированных в Лас-Вегасе, компания AMD представила и новый серверный ускоритель Instinct MI300. Гибридный процессор (accelerated processing unit, APU) представляет собой объединение 13 чиплетов, в которых размещаются ядра центрального и графического процессоров, а также 128 Мбайт памяти HBM (high bandwidth memory). В общей сложности в ускорителе AMD Instinct MI300 насчитывается 146 млрд транзисторов. Для сравнения, в амбициозном процессоре Intel Ponte Vecchio лишь 100 млрд транзисторов, а в графическом процессоре Nvidia Hopper H100 — 80 млрд.
Instinct MI300 имеет в своем составе 24 процессорных ядра Zen 4 и шесть чиплетов CDNA. По сути, CDNA представляет собой адаптированную для ЦОДов версию потребительской графической технологии AMD RDNA. И, наконец, Instinct MI300 память HBM3 с 3D-архитектурой, позволяющей существенно увеличить пропускную способность передачи данных между кристаллами процессора, графического процессора и памяти. При этом данные из центрального или графического процессора попадают в стек HBM, минуя оперативную память, что приводит к сокращению задержек. Кроме того, центральный и графический процессоры обращаются к одним и тем же данным в памяти одновременно, обеспечивая ускорение их обработки. По сравнению с Instinct MI 250 производительность систем искусственного интеллекта на базе MI300 выросла в восемь раз, а производительность в пересчете на ватт потребляемой мощности — в пять раз. Чип AMD похож на Falcon Shores, разработку которого Intel планирует завершить в 2024 году, а также на суперчип Nvidia Grace Hopper.