Matériel pour rigs IA

Choisir une carte

Choisir par mémoire, pas par nom

Pour les modèles locaux, le chiffre qui compte est la mémoire, pas la fréquence. Règle approximative : les poids prennent environ un octet par paramètre en 4 bits et deux octets en 8 bits, et le cache de contexte s’ajoute. Un modèle 70B en 4 bits fait environ 40 Go de poids ; avec 48 Go il tient à l’aise, avec 64 Go vous gardez aussi un long contexte.

Mémoire nécessaire selon le modèle

Modèle	Précision	Poids	Tient sur
7–8B	8 bits	~8 Go	carte 12–16 Go
13–14B	8 bits	~14 Go	carte 24 Go
30–32B	4 bits	~18–20 Go	24 Go juste, 32 Go bien
30–32B	8 bits	~32–34 Go	carte 48 Go
70B	4 bits	~40 Go	48 Go à l’aise, 64 Go confortable
70B	8 bits	~72 Go	deux cartes 48 ou 64 Go
120B MoE	4 bits	~65–75 Go	64 Go juste, 128 Go bien

Ce sont les poids seulement. Ajoutez 1 à 8 Go pour le cache de contexte selon la fenêtre et la concurrence, et laissez un gigaoctet au pilote. Une quantification sous 4 bits libère de la mémoire mais coûte en qualité ; un modèle trop gros reste utilisable — il déborde en RAM système et devient plusieurs fois plus lent, d’où l’intérêt d’une machine à 512 Go de RAM pour un modèle MoE.

Nos cartes et leur usage

Carte	Mémoire	Prix	Pour
NVIDIA Tesla V100 32GB HBM2 PCIe	32 GB HBM2	820,00 €	Occasion, refroidie par ventilateur — GPU pour IA / LLM locaux
AMD Instinct MI50 32GB HBM2	32 GB HBM2	639,00 €	Carte de calcul 32 Go HBM2 — LLM locaux
NVIDIA Tesla V100 16GB HBM2 PCIe	16 GB HBM2	289,00 €	Occasion, refroidie par ventilateur — GPU pour IA / LLM locaux
NVIDIA GeForce RTX 2080 Ti 22GB	22 Go GDDR6 (portée de 11 Go)	629,00 €	Mémoire portée à 22 Go, refroidissement turbine — IA et jeu
NVIDIA GeForce RTX 3080 20GB	20 Go (portée de 10 Go)	749,00 €	Mémoire portée à 20 Go, refroidissement turbine — IA et jeu
AMD Radeon Pro V620 32GB	32 GB GDDR6	939,00 €	32 Go GDDR6, prise en charge officielle par ROCm — LLM locaux
ASUS PRO WS WRX80E-SAGE SE WIFI II	8 × DDR4 DIMM, max. 2048 Go, 8 canaux, ECC R-DIMM / LR-DIMM	1 299,00 €	Carte workstation sWRX8 — 7 × PCIe 4.0 x16, DDR4 8 canaux
AMD Instinct MI210 64GB / Infinity Fabric bridge	64 GB HBM2e	789,00 €	64 Go HBM2e · 104 CU · PCIe 4.0 x16 — ou le pont Infinity Fabric
AMD Radeon PRO W7900 48GB	48 GB GDDR6 with ECC	4 499,00 €	48 Go GDDR6 ECC · 96 CU · entre dans un boîtier normal
Micron 64GB DDR4-3200 ECC RDIMM	—	599,00 €	MTA36ASF8G72PZ-3G2E1 · 2Rx4 · pour sWRX8 et serveurs DDR4
HPE 128GB DDR4 ECC LRDIMM (4Rx4)	—	1 599,00 €	1 × 128 Go · PC4-25600 · le plus gros module possible en DDR4

La mémoire de la machine, pas seulement de la carte

Huit slots DIMM sur la carte WRX80 donnent 512 Go avec des modules de 64 Go, ou 1 To avec des 128 Go. Cette mémoire système ne chôme pas : elle tient les fichiers de modèles, l’OS, et pour les modèles mixture-of-experts les parties qui ne rentrent pas en VRAM — souvent la différence entre un 120B utilisable et un 120B qui ne tourne pas. Pour remplir tous les canaux, prenez des kits plutôt que des modules isolés : des modules appariés gardent 3200 MT/s stable.

Quelle mémoire pour quelle carte

Module	Compatible	Quand l’utiliser
DDR4 UDIMM	Cartes de bureau (Ryzen, Core)	Le moins cher, sans ECC, 4 slots en général
DDR4 ECC RDIMM 2Rx4	Serveurs et stations, dont WRX80	64 Go par module, 512 Go sur 8 slots
DDR4 ECC LRDIMM 4Rx4	Cartes qui indiquent la prise en charge LRDIMM	128 Go par module, 1 To sur 8 slots
DDR5 RDIMM	Plateformes récentes seulement (Genoa, Sapphire Rapids)	Pas pour les cartes DDR4 — l’encoche diffère

Pour quatre ou huit ? Une seule série

Mélanger marques ou dates de production dans une machine à huit canaux est la raison habituelle pour laquelle un kit ne tient pas 3200 MT/s et retombe à 2933 ou 2666. Nos modules de 64 Go se vendent aussi à l’unité, mais un lot de 4 ou 8 d’une même série est plus sûr pour une station de travail, et c’est ce que nous conseillons pour la carte WRX80.