AMD lance les GPU Instinct MI350 pour accélérer les modèles d'IA génératifs

Nouveaux GPU d'AMD pour les charges de travail d'IA

Lors de l'événement Advancing AI 2025, AMD a présenté la série de processeurs graphiques Instinct MI350.

Cette nouvelle génération, basée sur l'architecture CDNA 4 et un nœud de processus de 3 nanomètres, se compose des modèles MI350X et MI355X.

Les deux modèles intègrent 288 Go de mémoire HBM3E et une bande passante de 8 To/s, permettant de traiter des modèles contenant jusqu'à 520 milliards de paramètres sur un seul GPU. Le MI355X atteint jusqu'à 20 PFLOP en précision FP4 et FP6, avec une consommation électrique allant jusqu'à 1 400 W.

Par rapport au modèle MI300X, la nouvelle série offre jusqu'à 4 fois plus de performances sur les tâches d'inférence et jusqu'à 3,5 fois plus de performances sur les modèles de formation tels que Llama 3.1 et DeepSeek R1.

Cela est rendu possible par les améliorations apportées aux unités de calcul, à la bande passante mémoire accrue et aux nouveaux types de données tels que FP4, FP6 et FP8.

Architecture optimisée pour l'efficacité et l'évolutivité

Les MI350 sont construits avec une architecture chiplet composée d'une matrice de calcul de 3 nm (XCD) et de deux matrices d'entrée/sortie de 6 nm (IOD), connectées grâce à une technologie de packaging 3D hybride. Ils intègrent également la quatrième génération d'Infinity Fabric et 256 unités de calcul.

La conception prend en charge le partitionnement GPU pour plusieurs charges et est prête à fonctionner sur des infrastructures avec jusqu'à huit instances simultanées.