Serveur IA local, partie 2 : choisir sa carte graphique

Mémoire (VRAM) et bande passante : les deux chiffres à lire sur une fiche

• La capacité de la mémoire de la carte, en Go (la VRAM, voir la partie 1). Elle fixe la taille du modèle qui tient sur la carte.
• La bande passante, en Go par seconde. C'est le débit entre la mémoire et la puce de calcul. Pour répondre, un modèle de texte relit toute sa mémoire à chaque mot produit : à capacité égale, une bande passante double donne à peu près des réponses deux fois plus rapides.

Une carte plus rapide n'ouvre donc pas plus de modèles qu'une carte plus lente de même capacité. Elle les fait répondre plus vite.

Comment lire le nom d'une carte (60, 70, 80, 90, Ti)

Le nom d'une carte NVIDIA se lit en quatre parties. Prenons « RTX 5080 Ti » :

• RTX : la famille des cartes grand public avec les circuits d'IA.
• 50 : la génération. 30, 40, 50 : chaque génération est plus récente que la précédente. La RTX 3090, sortie en 2020, est de la génération 30.
• 80 : la gamme, c'est-à-dire le niveau dans la génération. 60 et 70 sont les gammes d'entrée et du milieu, 80 est la gamme haute, 90 est le sommet. Une gamme plus haute est en général plus rapide et plus chère.
• Ti (ou « Super ») : une version renforcée de la même gamme, un cran au-dessus.

Le chiffre de la gamme ne dit pas la mémoire. Une RTX 5070 a 12 Go, une 5060 Ti en a 16. La 5070 Ti et la 5080 ont chacune 16 Go, comme la 5060 Ti : elles vont plus vite, elles ne portent pas de modèle plus gros. Seule la 5090 monte à 32 Go. Et une 3090, pourtant d'une génération antérieure, a 24 Go : davantage que toute la gamme 80 de la génération 50.

Pour l'IA, lisez donc le nom dans cet ordre : d'abord la mémoire en Go, ensuite la bande passante, et seulement après la gamme et la génération.

Chez AMD, « RX 9060 XT » se lit de la même façon : 9 pour la génération, 060 pour la gamme, XT pour la version renforcée.

Sur un portable, le même nom désigne une puce moins puissante et souvent moins dotée en mémoire : une 5090 de portable a 24 Go au lieu de 32, une 5070 de portable 8 Go au lieu de 12.

Les cartes NVIDIA neuves, de la plus modeste à la plus puissante

• RTX 5060 Ti, 16 Go. La plus raisonnable en neuf pour l'image, la vidéo et le texte moyen. Avec un budget serré, commencez par celle-ci.
• RTX 5070, 12 Go. À éviter : plus chère que la 5060 Ti et dotée de moins de mémoire.
• RTX 5070 Ti et RTX 5080, 16 Go. Plus rapides, mais sans un Go de plus que la 5060 Ti. Vous achetez de la vitesse, pas de la capacité. Pour du neuf rapide, la 5080 reste le bon choix.
• RTX 5090, 32 Go. La meilleure carte grand public, et la seule à dépasser 24 Go. Son prix dépasse nettement le prix conseillé en novembre 2026 : à réserver à un besoin de vitesse que quelqu'un finance.

RTX 3090 d'occasion ou Radeon : quand sortir du neuf

• RTX 3090 d'occasion, 24 Go. Sortie en 2020, avec une bande passante de 936 Go/s, plus du double de la 5060 Ti. C'est souvent le meilleur rapport pour un modèle de 27 milliards de paramètres. Trois précautions : elle consomme 350 W et demande une alimentation de 750 W ; la version de référence mesure 31 cm et occupe trois emplacements, donc vérifiez le boîtier ; ses puces de mémoire chauffent, et on remplace souvent les pâtes thermiques (les « pads ») à l'achat.
• Radeon RX 9060 XT, 16 Go (AMD). Correcte pour le texte. Pour l'image et la vidéo, l'écart de prix avec la 5060 Ti évite les problèmes de compatibilité avec CUDA, la technologie de NVIDIA sur laquelle presque tous les outils sont écrits. Si vous avez déjà une Radeon bien dotée en mémoire, gardez-la.

Mac mini, Mac Studio, DGX Spark : la mémoire unifiée

Pour du texte seul avec de gros modèles, plusieurs machines mettent 64 à 128 Go de mémoire à disposition du modèle :

• Mac mini avec puce M5 Pro, 64 Go (307 Go/s) : la plus simple et silencieuse. Mémoire soudée : on choisit la quantité le jour de l'achat.
• Mac Studio avec puce M5 Max, 128 Go (614 Go/s avec la version à 40 cœurs graphiques, 460 Go/s avec celle à 32 cœurs).
• Framework Desktop (puce Ryzen AI Max+ 395), 128 Go (256 Go/s) : lent sur les gros modèles classiques, à l'aise sur les modèles dits « MoE » (qui n'activent qu'une partie de leurs paramètres à chaque mot).
• DGX Spark (NVIDIA), 128 Go (273 Go/s) : avec CUDA, mais sous Linux uniquement, donc plutôt pour un développeur.
• PC « RTX Spark » (NVIDIA) : mémoire unifiée et CUDA, sous Windows pour processeurs ARM. Les premières machines sont annoncées pour l'automne 2026 : attendez les premiers comparatifs.