Advanced Vector Extensions

Advanced Vector Extensions (AVX) est un jeu d'instructions de l'architecture x86 d'Intel et AMD, proposé par Intel en . Il est supporté par les processeurs Intel Sandy Bridge et par les processeurs AMD Bulldozer en 2011. AVX offre de nouvelles fonctionnalités, de nouvelles instructions et un nouveau schéma de codage « VEX ».

AVX2 élargit la plupart des commandes SSE et AVX 128 bits en 256 bits[1]. Il est supporté par les processeurs Intel Haswell en 2013 et par les processeurs AMD Excavator en 2015.

AVX-512 étend le nombre de registres SIMD à 32 et les élargit à 512 bits. Il utilise un nouveau codage utilisant le préfixe EVEX proposé par Intel en . Les premiers processeurs le supportant sont les Knights Landing[2].

Advanced Vector Extensions

Schéma d'extension des registres AVX-512 (ZMM0-ZMM31) à partir des registres AVX (YMM0-YMM15) et SSE (XMM0-XMM15)
511 256 255 128 127 0
ZMM0 YMM0 XMM0
ZMM1 YMM1 XMM1
ZMM2 YMM2 XMM2
ZMM3 YMM3 XMM3
ZMM4 YMM4 XMM4
ZMM5 YMM5 XMM5
ZMM6 YMM6 XMM6
ZMM7 YMM7 XMM7
ZMM8 YMM8 XMM8
ZMM9 YMM9 XMM9
ZMM10 YMM10 XMM10
ZMM11 YMM11 XMM11
ZMM12 YMM12 XMM12
ZMM13 YMM13 XMM13
ZMM14 YMM14 XMM14
ZMM15 YMM15 XMM15
ZMM16 YMM16 XMM16
ZMM17 YMM17 XMM17
ZMM18 YMM18 XMM18
ZMM19 YMM19 XMM19
ZMM20 YMM20 XMM20
ZMM21 YMM21 XMM21
ZMM22 YMM22 XMM22
ZMM23 YMM23 XMM23
ZMM24 YMM24 XMM24
ZMM25 YMM25 XMM25
ZMM26 YMM26 XMM26
ZMM27 YMM27 XMM27
ZMM28 YMM28 XMM28
ZMM29 YMM29 XMM29
ZMM30 YMM30 XMM30
ZMM31 YMM31 XMM31

La largeur des registres SIMD est passée de 128 bits à 256 bits, renommant les registres XMM0-XMM7 en YMM0-YMM7 en mode 32 bits et ajoutant 8 registres YMM8-YMM15 en mode 64 bits. Sur les processeurs supportant AVX, les instructions SSE (qui opéraient auparavant sur les registres XMM de 128 bits) peuvent être étendues en utilisant le préfixe VEX pour fonctionner sur les 128 bits de poids faibles des registres YMM.

AVX introduit un format d'instruction SIMD à trois opérandes, dans lequel le registre de destination est distinct des deux opérandes source. Par exemple, une instruction SSE classique à deux opérandes sous la forme A = A + B devra écrire par-dessus l'opérande A pour stocker le résultat. AVX est capable de préserver les opérandes source en utilisant un opérande destination différent, par le biais de la forme C = A + B. Le format SIMD à trois opérandes de AVX est limité aux registres YMM, et ne comprend pas d'instruction avec les registres d'usage général (par exemple EAX)[1].

Le nouveau schéma de codage VEX introduit une nouvelle série de préfixes de code qui étend l'espace d'opcode, permettant d'avoir des instructions ayant plus de deux opérandes, et permet aux registres SIMD d'utiliser des vecteurs à plus de 128 bits. Le préfixe VEX peut également être utilisé sur les anciennes instructions SSE en leur donnant une forme à trois opérandes, et leur permettre d’interagir plus efficacement avec des instructions AVX sans utiliser nécessairement VZEROUPPER et VZEROALL.

Les instructions AVX supportent des valeurs à la fois 128 bits et 256 bits. Les versions 128 bits peuvent être utiles pour améliorer d'anciens codes sans avoir besoin d'accroître la vectorisation et pour éviter la pénalité du passage de SSE à AVX, Ce mode est parfois connu comme AVX-128[3].

Applications

  • Convient pour les calculs intensifs à virgule flottante dans le multimédia, les applications scientifiques et financières (les opérations entières sont attendues dans une extension ultérieure).
  • Augmentation du parallélisme et le débit dans les calculs SIMD en virgule flottante.
  • Réduction de charge du registre due aux instructions non destructives.
  • Améliore les performances du RAID logiciel sous Linux (AVX2 nécessaire, AVX ne suffit pas)[4].
  • Prime95 / MPrime, et le logiciel GIMPS ayant permis de trouver le plus grand nombre premier à ce jour, utilisent les instructions AVX depuis la version 27.x.

Nouvelles instructions

Instruction Description
VBROADCASTSS,
VBROADCASTSD,
VBROADCASTF128
Copie un nombre flottant 32 bits (simple précision), 64 bits (double précision) ou 128 bits d'un opérande mémoire dans tous les éléments d'un registre vectoriel XMM (128 bits) ou YMM (256 bits).
VINSERTI128 Remplace la moitié inférieure ou la moitié supérieure d'un registre de 256 bits YMM, avec la valeur d'un opérande source de 128 bits. L'autre moitié du registre de 256 bits YMM, considérée, est inchangée.
VEXTRACTF128 Extrait la moitié inférieure ou la moitié supérieure d'un registre de 256 bits YMM et copie cette valeur dans un opérande de destination de 128 bits.
VMASKMOVPS,
VMASKMOVPD
Lit conditionnellement un nombre quelconque d'éléments d'un opérande de mémoire vectorielle SIMD dans un registre de destination, laissant les éléments vectoriels restants typés "non lus" et mettant les éléments correspondants dans le registre de destination à zéro. Alternativement, écriture conditionnelle d'un nombre quelconque d'éléments d'un opérande de registre vectoriel SIMD vers un opérande de mémoire vectorielle, laisse inchangés les éléments restants de l'opérande de mémoire.

Sur l'architecture du processeur AMD Jaguar, cette instruction avec un opérande source de mémoire prend plus de 300 cycles d'horloge lorsque le masque est à zéro, auquel cas l'instruction ne devrait rien faire. Cela semble être un défaut de conception[5].

VPERMILPS,
VPERMILPD
Permute en ligne et assemble les éléments vectoriels d'un opérande d'entrée de 32 bits ou 64 bits. Ces instructions en ligne de 256 bits, fonctionnent sur l'intégralité des 256 bits mais sont constituées de deux blocs distincts de 128 bits, de sorte qu'il ne peut y avoir de mélange entre ces deux blocs[6].
VPERM2F128 Permute les quatre éléments vectoriels 128 bits de deux opérandes sources de 256 bits en un opérande destination de 256 bits, avec une constante immédiate comme sélecteur.
VZEROALL Met à zéro l'ensemble des registres YMM et les marque « inutilisés ». Cette instruction est utilisée lors de la commutation entre les modes 128 bits et 256 bits.
VZEROUPPER Met à zéro la moitié supérieure de l'ensemble des registres YMM (bits de poids forts). Cette instruction est utilisée lors de la commutation entre les modes 128 bits et 256 bits.

Processeurs supportant AVX

Les questions relatives à la compatibilité entre les futurs processeurs Intel et AMD sont examinées vis-à-vis du jeu d'instructions XOP proposé par AMD sur Bulldozer mais retiré à partir de l'architecture Zen.[pas clair]

Support des compilateurs et assembleurs

Le compilateur GCC intègre le support AVX à partir de la version 4.6 (même si la version 4.3 intégrait partiellement AVX), Intel Suite l'intègre à partir de la version 11.1, le compilateur Visual Studio l'intègre à partir de la version 2010/2012, La version du compilateur d'Open64 4.5.1 le prend en charge si le flag -mavx est activé, PathScale supporte lui aussi AVX si le flag -mavx ainsi que Vector Pascal via le flag -cpuAVX32.

Free Pascal supporte AVX et AVX2 depuis la version 2.7.1 avec les paramètres -CfAVX et -CfAVX2.

D'autres assembleurs tels que NASM, MASM VS2010, Yasm[10], FASM, MSNA et JWASM supportent AVX.

Système d'exploitation

La version des systèmes d'exploitation à partir duquel le jeu d'instructions AVX est pris en charge.

  • Apple OS X : 10.6.8 (Snow Leopard) mise à jour[11] publié le .
  • Linux : supporté depuis la version du noyau 2.6.30[12], publié le [13].
  • Windows : Windows 7 SP1 et Windows Server 2008 R2 SP1[14], Windows 8, Windows Server 2008 R2 SP1 avec Hyper-V nécessite un correctif pour soutenir AMD AVX (Opteron 6200 et série 4200), KB2568088[15].
  • FreeBSD dans un patch présenté le [16], qui a été inclus dans la version stable 9.1[17].
  • DragonFly BSD supporté au début 2013.
  • OpenBSD ajouté le [18].
  • Solaris 10 Mise à jour 10 et Solaris 11.

Advanced Vector Extensions 2

Advanced Vector Extensions 2 (AVX2), aussi connues sous le nom nouvelles instructions Haswell[1], sont une extension du jeu d'instructions AVX introduite dans l'architecture Haswell. AVX2 supporte notamment[19] :

  • l'extension de la plupart des instructions AVX sur 128 bits sur les entiers à 256 bits,
  • la récupération de données 32 ou 64 bits en mémoire non contiguës,
  • la diffusion ou la permutation de données entre plusieurs mots de 128 bits,
  • le décalage à gauche ou à droite d'éléments avec une valeur de décalage par élément.

Nouvelles instructions

Instruction Description
VBROADCASTSS, VBROADCASTSD Copie un opérande de registre 32 bits ou 64 bits dans tous les éléments d’un registre vectoriel XMM ou YMM. Il s’agit de versions pour registre des mêmes instructions dans AVX1. Il n’existe cependant pas de version 128 bits, mais le même effet peut être simplement obtenu en utilisant VINSERTF128.
VPBROADCASTB, VPBROADCASTW, VPBROADCASTD, VPBROADCASTQ Copie un registre entier de 8, 16, 32 ou 64 bits ou un opérande mémoire dans tous les éléments d’un registre vectoriel XMM ou YMM.
VBROADCASTI128 Copie un opérande de mémoire 128 bits dans tous les éléments d’un registre vectoriel YMM.
VINSERTI128 Remplace la moitié inférieure ou la moitié supérieure d’un registre YMM de 256 bits par la valeur d’un opérande source de 128 bits. L’autre moitié de la destination est inchangée.
VEXTRACTI128 Extrait la moitié inférieure ou la moitié supérieure d’un registre YMM de 256 bits et copie la valeur dans un opérande de destination de 128 bits.
VGATHERDPD, VGATHERQPD, VGATHERDPS, VGATHERQPS Collecte/diffuse des valeurs en virgule flottante simple ou double précision à l’aide d’indices 32 ou 64 bits et d’une échelle.
VPGATHERDD, VPGATHERDQ, VPGATHERQD, VPGATHERQQ Rassemble/diffuse des valeurs entières de 32 ou 64 bits à l’aide d’indices 32 ou 64 bits et d'une échelle.
VPMASKMOVD, VPMASKMOVQ Lit conditionnellement n’importe quel nombre d’éléments d’un opérande de mémoire vectorielle SIMD dans un registre de destination, en laissant les éléments vectoriels restants non lus et en mettant à zéro les éléments correspondants dans le registre de destination. Alternativement, écrit conditionnellement n’importe quel nombre d’éléments d’un opérande de registre vectoriel SIMD dans un opérande de mémoire vectorielle, en laissant les éléments restants de l’opérande de mémoire inchangés.
VPERMPS, VPERMD Permute les huit éléments vectoriels 32 bits d’un opérande source 256 bits dans un opérande de destination 256 bits, avec un opérande de registre ou de mémoire comme sélecteur.
VPERMPD, VPERMQ Permute les quatre éléments vectoriels 64 bits d’un opérande source 256 bits dans un opérande de destination 256 bits, avec un opérande de registre ou de mémoire comme sélecteur.
VPERM2I128 Permute (deux des) quatre éléments vectoriels 128 bits de deux opérandes sources 256 bits dans un opérande de destination 256 bits, avec une constante immédiate comme sélecteur.
VPBLENDD Version immédiate double mot des instructions PBLEND de SSE4.
VPSLLVD, VPSLLVQ Décalage logique vers la gauche. Permet des décalages variables où chaque élément est décalé en fonction de l’entrée compressée.
VPSRLVD, VPSRLVQ Décalage logique vers la droite. Permet des décalages variables où chaque élément est décalé en fonction de l’entrée compressée.
VPSRAVD Décalage arithmétique vers la droite. Permet des décalages variables où chaque élément est décalé en fonction de l’entrée compressée.

CPU supportant AVX2

  • Intel
    • Processeurs Haswell (Q2 2013) et plus récents, à l'exception des modèles de marques Celeron et Pentium.
    • Processeurs de marques Celeron et Pentium à partir de Tiger Lake (Q3 2020) et plus récents[8]
  • AMD
    • Processeurs Excavator (Q2 2015) et plus récents.

AVX-512

AVX-512 désigne des extensions 512 bits des instructions SIMD 256 bits Advanced Vector Extensions pour l’architecture du jeu d’instructions x86 proposées par Intel en juillet 2013, et sont prises en charge par le processeur Knights Landing d’Intel[20].

Les instructions d’AVX-512 sont encodées avec le nouveau préfixe EVEX . Il permet 4 opérandes, 8 nouveaux registres opmask 64 bits, un mode de mémoire scalaire avec diffusion automatique, un contrôle d’arrondi explicite et un mode d'adressage de mémoire à déplacement compressé. La largeur du fichier de registre est augmentée à 512 bits et le nombre total de registres est porté à 32 (registres ZMM0-ZMM31) en mode x86-64.

AVX-512 se compose de plusieurs sous-ensembles d’instructions, qui ne sont pas tous destinés à être pris en charge par tous les processeurs qui les implémentent. Le jeu d’instructions se compose des éléments suivants :

  • AVX-512 Foundation (F) – ajoute plusieurs nouvelles instructions et étend la plupart des instructions SSE-SSE4.1 et AVX/AVX2 en virgule flottante 32 bits et 64 bits avec le schéma de codage EVEX pour prendre en charge les registres 512 bits, les opmasks, la diffusion des paramètres et le contrôle intégré des arrondis et des exceptions
  • AVX-512 Conflict Detection Instructions (CD) – détection de conflit efficace pour permettre la vectorisation d’un plus grand nombre de boucles, supportées par Knights Landing[20]
  • AVX-512 Exponential and Reciprocal Instructions (ER) – fonctions exponentielles et réciproques conçues pour aider à mettre en œuvre des fonctions transcendantes, supportées par Knights Landing[20]
  • AVX-512 Prefetch Instructions (PF) – nouvelles capacités de précharge, supportées par Knights Landing[20]
  • AVX-512 Vector Length Extensions (VL) – étend la plupart des AVX-512 pour fonctionner également sur les registres XMM (128 bits) et YMM (256 bits) (dont XMM16-XMM31 et YMM16-YMM31 en mode x86-64)[21]
  • AVX-512 Byte and Word Instructions (BW) – étend AVX-512 pour couvrir les opérations sur entiers 8 bits et 16 bits[21]
  • AVX-512 Doubleword and Quadword Instructions (DQ) – opérations améliorées sur les entiers 32 bits et 64 bits[21]
  • AVX-512 Integer Fused Multiply Add (IFMA) – multiplication-addition fusionnée pour les entiers 512 bits[22]:746
  • AVX-512 Vector Byte Manipulation Instructions (VBMI) ajoute des instructions vectorielles de permutation d’octets qui ne sont pas présentes dans AVX-512BW
  • AVX-512 Vector Neural Network Instructions Word variable precision (4VNNIW) – instructions vectorielles pour l'apprentissage profond.
  • AVX-512 Fused Multiply Accumulation Packed Single precision (4FMAPS) – instructions vectorielles pour l'apprentissage profond.
  • VPOPCNTDQ – compte du nombre de bits valant 1[23]
  • VPCLMULQDQ – multiplication sans retenue de quadruples mots[23]
  • AVX-512 Vector Neural Network Instructions (VNNI) – instructions vectorielles pour l'apprentissage profond[23]
  • AVX-512 Galois Field New Instructions (GFNI) – instructions vectorielles por le calcul du champ de Galois[23]
  • AVX-512 Vector AES instructions (VAES) – instructions vectorielles pour le codage AES[23]
  • AVX-512 Vector Byte Manipulation Instructions 2 (VBMI2) – chargement, stockage et concaténation d’octets/mots avec décalage[23]
  • AVX-512 Bit Algorithms (BITALG) – instructions de manipulation de bits sur octet/mot étendant VPOPCNTDQ[23]
  • AVX-512 Bfloat16 Floating-Point Instructions (BF16) – instructions vectorielles pour l'accélération IA.
  • AVX-512 Half-Precision Floating-Point Instructions (FP16) – instructions vectorielles opérant sur des nombres en virgule flottante et complexes en précision réduite.

Seule l’extension de base AVX-512F (AVX-512 Foundation) est requise par toutes les implémentations, bien que toutes les implémentations actuelles prennent également en charge le CD (détection de conflit). Tous les CPU avec AVX-512 prennent également en charge VL, DQ et BW. Les extensions de jeu d’instructions ER, PF, 4VNNIW et 4FMAPS ne sont actuellement implémentées que dans les coprocesseurs de calcul Intel.

Les instructions SSE/AVX mises à jour dans AVX-512F utilisent les mêmes mnémoniques que les versions AVX ; elles peuvent fonctionner sur des registres ZMM 512 bits, et prendront également en charge les registres XMM/YMM 128/256 bits (avec AVX-512VL) et les opérandes entiers sur octets, mots, doubles mots et de quadruples mots (avec AVX-512BW/DQ et VBMI)[22]:23.

Tableau de compatibilité des CPU aux instructions AVX-512[24]

Sous-ensemble
AVX-512
F CD ER PF 4FMAPS 4VNNIW VPOPCNTDQ VL DQ BW IFMA VBMI VBMI2 BITALG VNNI BF16 VPCLMULQDQ GFNI VAES VP2INTERSECT FP16
Intel Knights Landing (2016) Oui Oui Non
Intel Knights Mill (2017) Oui Non
Intel Skylake-SP, Skylake-X (2017) Non Non Oui Non
Intel Cannon Lake  (2018) Oui Non
Intel Cascade Lake-SP (2019) Non Oui Non
Intel Cooper Lake (2020) Non Oui Non
Intel Ice Lake (2019) Oui Non Oui Non
Intel Tiger Lake (2020) Oui Non
Intel Rocket Lake (2021) Non
Intel Alder Lake (2021) Non officiellement supporté, mais peut être activé sur certaines cartes mères avec certaines versions du BIOS[note 1]
AMD Zen 4 (2022) Oui Oui Non
Intel Sapphire Rapids  (2023) Non Oui
AMD Zen 5 (2024) Oui Non
  1.  : AVX-512 est désactivé par défaut sur les processeurs Alder Lake. Sur certaines cartes mères avec certaines versions de microcode CPU et de BIOS, AVX-512 peut être activé dans le BIOS, mais cela nécessite de désactiver les E-cores[25]. Cependant, Intel a commencé à supprimer AVX-512 des processeurs Alder Lake produits après le début 2022[26].

AVX-VNNI, AVX-IFMA

AVX-VNNI est une variante codée VEX de l’extension du jeu d’instructions AVX512-VNNI. De même, AVX-IFMA est une variante codée VEX du jeu d'instructions AVX512-IFMA. Ces extensions fournissent les mêmes ensembles d’opérations que leurs homologues AVX-512, mais sont limitées aux vecteurs 256 bits et ne prennent pas en charge les fonctionnalités supplémentaires de l’encodage EVEX, telles que la diffusion, les registres opmask ou l’accès à plus de 16 registres vectoriels. Ces extensions permettent la prise en charge des opérations VNNI et IFMA même lorsque la prise en charge complète d’AVX-512 n’est pas implémentée dans le processeur.

Processeurs avec AVX-VNNI

  • Intel
    • Processeurs Alder Lake (T4 2021) et plus récents.
  • AMD
    • Processeurs Zen 5 (S2 2024) et plus récents[27].

Processeurs avec AVX-IFMA

  • Intel
    • Processeurs Xeon Sierra Forest à E-core uniquement (S2 2024) et plus récents.
    • Processeurs à usage spécial Grand Ridge et plus récents.
    • Processeurs pour PC portables Meteor Lake (4e trimestre 2023) et versions ultérieures.
    • Processeurs pour PC de bureau Arrow Lake et plus récents.

Références

  1. a b et c (en) « Haswell New Instruction Descriptions Now Available! | Intel® Developer Zone », sur software.intel.com, (consulté le )
  2. (en) « AVX-512 instructions | Intel® Developer Zone », (consulté le )
  3. « i386 and x86-64 Options - Using the GNU Compiler Collection (GCC) », sur gcc.gnu.org (consulté le )
  4. « Kernel/git/torvalds/linux.git », sur kernel.org (consulté le ).
  5. (en) Agner Fog, « The microarchitecture of Intel, AMD and VIA CPUs — An optimization guide for assembly programmers and compiler makers » [PDF], (consulté le )
  6. « Chessprogramming - AVX2 », sur wikispaces.com via Wikiwix (consulté le ).
  7. (en) « Intel Offers Peek at Nehalem and Larrabee - ExtremeTech », sur ExtremeTech, (consulté le ).
  8. a et b (en) « Intel® Celeron® 6305 Processor (4M Cache, 1.80 GHz, with IPU) Product Specifications », sur ark.intel.com (consulté le )
  9. http://developer.amd.com/community/blog/2009/05/06/striking-a-balance/
  10. (en) « Yasm 0.7.0 - The Yasm Modular Assembler Project », sur tortall.net (consulté le ).
  11. « Comex on Twitter », sur Twitter (consulté le ).
  12. « Kernel/git/torvalds/linux.git », sur kernel.org (consulté le ).
  13. « Linux_2_6_30 », sur kernelnewbies.org (consulté le ).
  14. (en) « Using extended processor features in Windows drivers », sur microsoft.com (consulté le ).
  15. « https://support.microsoft.com/en-us/help/2568088/virtual-machine-does-not-start-on-a-computer-that-has-an-amd-cpu-that », sur support.microsoft.com (consulté le )
  16. (en) « Revision 230426 », sur freebsd.org (consulté le ).
  17. (en) « FreeBSD 9.1-RELEASE Announcement », sur The FreeBSD Project (consulté le ).
  18. « 'CVS : cvs.openbsd.org : src' », sur marc.info (consulté le ).
  19. (en) Intel® 64 and IA-32 Architectures Software Developer’s Manual, vol. 1 : Basic Architecture, Intel Corporation, , 460 p. (lire en ligne [PDF]), chap. 14, p. 350 (14-26 Vol.1)
  20. a b c et d (en-US) James Reinders, « AVX-512 Instructions », Intel, (consulté le )
  21. a b et c (en-US) James Reinders, « Additional AVX-512 instructions », Intel, (consulté le )
  22. a et b (en-US) « Intel Architecture Instruction Set Extensions Programming Reference » [PDF], Intel (consulté le )
  23. a b c d e f et g (en-US) « Intel® Architecture Instruction Set Extensions and Future Features Programming Reference », Intel (consulté le )
  24. (en-US) « Intel® Software Development Emulator | Intel® Software », sur software.intel.com (consulté le )
  25. (en) Ian Cutress et Andrei Frumusanu, « The Intel 12th Gen Core i9-12900K Review: Hybrid Performance Brings Hybrid Complexity », sur AnandTech (consulté le )
  26. (en-US) Paul Alcorn, « Intel Nukes Alder Lake's AVX-512 Support, Now Fuses It Off in Silicon », sur Tom's Hardware, (consulté le )
  27. (en) « AMD Zen 5 Compiler Support Posted For GCC - Confirms New AVX Features & More », sur www.phoronix.com (consulté le )