На выставке Computex 2024 компания AMD представила новые ИИ-ускорители вычислений Instinct MI325X в которых, по сравнению с ранее выпущенными MI300X или ускорителями Nvidia на основе графических процессоров с архитектурой Blackwell, используются более быстрые процессоры и значительно больший объем памяти HBM (High Bandwidth Memory) с высокой пропускной способностью.
В MI325X устанавливается память HBM3e емкостью 288 Гбайт с пропускной способностью 6,0 Тбайт/с, в то время как в MI300X параметры памяти HBM3 — 192 Гбайт и 5,3 Тбайт/с.
MI325X, как и MI300X, используют архитектуру AMD CDNA 3, которая основана на оптимизированной для игровых приложений архитектуре AMD RDNA, но разработана для ускорения таких приложений центров обработки данных, как задачи генеративного искусственного интеллекта и высокопроизводительные вычисления.
В 2025 году в AMD планируют выпустить новую архитектуру AMD CDNA 4 и ускорители Instinct MI350 на ее основе. По данным AMD, это обеспечит 35-кратное увеличение производительности вывода ИИ по сравнению с моделями серии AMD Instinct MI300. В 2026 году ожидается появление серии ускорителей AMD Instinct MI400, на базе архитектуры AMD CDNA Next.
Сообщается, что ускорители MI350X будут поставляться, как и MI325X, памятью HBM3e объемом 288 Гбайт. В них будут чипы с 3-нанометровой нормой проектирования, что значительно уменьшит размеры транзисторов по сравнению с 6-нанометровыми узлами MI300. Ожидается также поддержка форматов данных с плавающей запятой FP4 и FP6. Формат FP6 является новым и уникальным для AMD. Компании Intel и Nvidia поддерживают FP4 и FP8, но не 6-битную версию.
Ускорители Instinct, полагают некоторые эксперты, возможно, еще уступают Nvidia Hopper. Однако они довольно быстро становятся популярными и востребованными, благодаря укреплению отношений с ведущими партнерами. В AMD отмечают рост спроса Microsoft на эти модели для развития сервисов Azure OpenAI, Dell Technologies для корпоративных рабочих нагрузок искусственного интеллекта, Supermicro, предлагающей несколько решений на основе AMD Instinct, Lenovo, устанавливающую Instinct в серверах ThinkSystem, и HPE, использующую их в серверах HPE Cray.