Nvidia vient d’ajouter un nouveau membre à sa famille de modèles d’intelligence artificielle Nemotron. Baptisé Nemotron 3.5 Lightning, celui-ci compte 30 milliards de paramètres, mais n’en active que 3 milliards pour chaque jeton généré. Cette architecture de type mixture-of-experts (MoE) doit lui permettre d’afficher les besoins en calcul d’un modèle beaucoup plus petit, tout en conservant suffisamment de connaissances et de capacités pour réaliser des tâches spécialisées.