MoE ou dense ? Le choix d'IA locale que la plupart des gens font à l'envers
Un argument architectural silencieux traverse le monde de l'IA locale : modèles denses contre mixture-of-experts. L'un est un cheval de trait fiable, l'autre une équipe de spécialistes. Chacun a sa place — mais un seul des deux convient à une machine donnée, et la raison n'est pas celle que la plupart des gens attendent.
La distinction
Un modèle dense est une entreprise où chaque collaborateur assiste à chaque réunion. Stratégie mondiale ou dernière part de yaourt, tout le personnel est mobilisé. Chaque paramètre est utilisé pour chaque jeton généré.
Un modèle mixture-of-experts est un conglomérat aux départements spécialisés. Un aiguilleur à l'accueil lit la tâche et l'envoie à quelques départements pertinents ; les autres restent inactifs. Bien moins de paramètres actifs par jeton — seule une fraction du réseau se réveille.
La conséquence, c'est la vitesse. Moins d'arithmétique par jeton signifie un débit élevé, et sur le bon matériel, MoE paraît spectaculairement plus rapide.
Le hic qui fait trébucher tout le monde
Voici l'idée fausse qui motive la plupart des mauvaises décisions matérielles :
Le bâtiment ne rétrécit pas parce que la plupart des collaborateurs sont inactifs.
Même quand seuls quelques experts sont actifs, le modèle entier doit toujours tenir en mémoire. MoE économise des cycles de calcul. Il n'économise ni stockage ni RAM. Ce fichier de modèle entier doit rester en permanence dans votre VRAM ou votre mémoire système — et si la place manque, les spécialistes ne se présentent jamais au travail.
Donc : MoE sert à économiser de la puissance de calcul, pas de l'empreinte mémoire. Toutes les autres décisions découlent du maintien de cette distinction.
Ce que cela signifie pour votre machine
Cela fait des modèles denses le choix le plus sûr sur les ordinateurs portables à mémoire limitée. Ils sont simples et prévisibles, sans la logique d'aiguillage qui peut introduire de la surcharge.
Cela rend MoE attrayant sur les Mac et stations de travail à grande mémoire — des machines dotées d'une mémoire abondante et d'un besoin de débit. Si vous faites tourner des agents de codage ou un travail qui repose sur le raisonnement approfondi, MoE est fréquemment le plus performant.
Le schéma qui rend MoE convaincant en haut de gamme, c'est un modèle au nombre total de paramètres très élevé qui n'active qu'une petite fraction par jeton — Qwen3.8-2.4T-A95B est l'exemple de la vidéo : une capacité de niveau serveur à des vitesses de génération de bureau, pourvu que vous ayez la mémoire pour contenir l'ensemble. Et certains modèles sont tout simplement à l'échelle serveur quelle que soit l'architecture — aucune quantification n'en fait une option de bureau, et les y forcer est un effort perdu.
Comme pour l'escalier de quantification, les noms de modèles précis dans la vidéo sont un instantané daté. La règle de sélection, elle, ne l'est pas : il n'existe pas de meilleur modèle universel, seulement le meilleur modèle pour votre matériel précis.
Les réglages qui valent la peine d'être changés (et ceux à laisser tranquilles)
Les valeurs par défaut dans des outils comme LM Studio sont des points de départ sûrs. Elles ne sont pas automatiquement optimales pour chaque modèle, machine ou tâche.
Laisser tranquilles : le gabarit de conversation en automatique, le déchargement GPU et la flash attention en automatique. Ils évitent des problèmes de compatibilité, et les outrepasser coûte généralement plus que cela ne rapporte.
Choisir délibérément :
- Les builds Instruct ou Chat, jamais les modèles de base — les modèles de base servent à la recherche, pas à la conversation.
- Q4 comme quantification par défaut, Q5 si ça tient. Évitez Q2 et Q3 ; ils perdent trop de nuance.
- Un contexte de 8 à 16K pour l'usage quotidien, 32K uniquement pour les longs documents. Un contexte élevé consomme la VRAM à toute vitesse, et le surallouer est le problème de mémoire auto-infligé le plus courant.
- Un cache KV 8 bits quand la mémoire se fait rare pendant les longues conversations.
- Une température de 0,2 à 0,5 pour le travail factuel et le code, de 0,6 à 0,8 pour la conversation naturelle — mais suivez d'abord la fiche du modèle.
- Un effort de raisonnement bas pour les résumés simples, moyen ou élevé pour le code difficile, la planification ou les mathématiques. Ne dépensez pas de calcul pour des tâches faciles.
- Des limites de sortie calibrées sur la tâche, pour empêcher le modèle de délayer.
Et une règle qui compte plus que n'importe quel réglage pris isolément : changez exactement une chose à la fois, puis testez qualité et vitesse. Sinon, vous n'apprenez rien sur ce qui a aidé.
Si vous travaillez sur Apple Silicon, chargez les valeurs par défaut de génération du modèle — elles existent pour une raison —, tenez-vous à une ou deux requêtes simultanées, et fixez une durée de vie aux modèles occasionnels pour qu'ils libèrent la mémoire.
Exigez toujours une confirmation pour les actions d'outils à risque. Un modèle qui appelle une fonction reste un logiciel qui prend une décision.
La règle de décision
Tout se résume à deux questions, dans l'ordre.
Première question : le modèle tient-il à l'aise, avec de la place pour le contexte et pour votre système d'exploitation ? Sinon, arrêtez. Choisissez un modèle plus petit ou une quantification plus forte. Aucun réglage ne sauvera un modèle qui ne tient pas.
Deuxième question : mémoire limitée, c'est dense. Mémoire abondante plus besoin de débit, essayez MoE — et faites vos propres bancs d'essai sur votre matériel au lieu de faire confiance au tableau de quiconque, celui-ci compris.
Le meilleur modèle local n'est pas le plus grand. C'est le plus petit qui exécute votre tâche correctement, rapidement et de manière fiable. L'efficacité, voilà la vraie prouesse.
Les recommandations de modèles dans la vidéo sont un instantané daté du 29 août 2026. Les outils d'IA locale évoluent vite — vérifiez la fiche du modèle et faites vos propres bancs d'essai sur votre matériel.


