Nemotron 3.5 : faire tourner un agent IA sur PC ?

Nvidia Nemotron 3.5 peut faire tourner un agent IA sur un PC équipé d’un GPU NVIDIA disposant d’environ 24 Go de mémoire vidéo, grâce au modèle Bolt 74B-A9B. Ce fonctionnement local convient à la recherche, à l’analyse documentaire et à certains assistants métiers. Il exige toutefois une configuration technique, des contrôles humains et un budget matériel à comparer au coût d’un service cloud.

Qu’est-ce que Nvidia Nemotron 3.5 ?

Nvidia Nemotron 3.5 est une famille de modèles d’intelligence artificielle capables de raisonner, d’analyser des documents et d’utiliser des outils. Lancée le 15 octobre 2026, elle comprend notamment Super VL 120B-A12B pour les charges multimodales exigeantes et Bolt 74B-A9B pour une exécution locale avec environ 24 Go de mémoire.

Un agent IA est un logiciel qui combine un modèle avec des outils afin d’accomplir plusieurs étapes : consulter des fichiers, lancer une recherche, appeler une application ou produire un résultat structuré. Contrairement à un simple chatbot, l’agent peut enchaîner des actions selon un objectif et contrôler partiellement leur résultat.

Nemotron 3.5 Super VL est un modèle vision-langage, c’est-à-dire qu’il traite du texte, des images et de la vidéo. Selon NVIDIA en 2026, il possède 120 milliards de paramètres au total, dont 12 milliards sont activés pour chaque traitement, et accepte une fenêtre de contexte pouvant atteindre un million de tokens. Un token correspond approximativement à un fragment de mot.

Ce maximum théorique ne garantit pas qu’un poste de travail puisse traiter un million de tokens dans de bonnes conditions. La documentation officielle précise que la longueur réellement exploitable et le nombre de requêtes simultanées doivent être réduits selon la mémoire disponible.

Bolt 74B-A9B est une version comprimée à partir de Super VL. Ses 74 milliards de paramètres, dont 9 milliards actifs, utilisent une quantification native d’environ 2 bits : les nombres internes du modèle sont stockés avec moins de précision afin de réduire fortement l’occupation mémoire. Ce compromis diminue l’empreinte matérielle, mais peut aussi affecter la qualité de certaines réponses.

Peut-on vraiment exécuter Nvidia Nemotron 3.5 sur un PC ?

Nvidia Nemotron 3.5 Bolt peut tenir dans un budget mémoire de 24 Go selon NVIDIA en 2026, ce qui ouvre l’exécution locale à certains PC dotés d’un GPU RTX compatible. Cela ne signifie pas qu’un ordinateur standard suffit : le logiciel, la mémoire système, le stockage, le refroidissement et les outils de l’agent restent à configurer.

Une carte GeForce RTX 5090 possède 32 Go de mémoire GDDR7 selon sa fiche officielle de 2026. Sa capacité dépasse donc le budget mémoire annoncé pour Bolt, mais la mémoire restante pour le contexte, le cache et les traitements simultanés demeure limitée. Une carte à 24 Go laisse encore moins de marge.

Le mot « local » prête parfois à confusion. Le modèle peut fonctionner sur vos propres équipements sans transmettre chaque requête à un fournisseur d’inférence, mais l’agent peut toujours appeler Internet, une API ou un moteur de recherche si son scénario le prévoit. Son niveau réel d’autonomie dépend donc de l’architecture complète, pas du modèle seul.

Sur les projets que nous menons, nous voyons souvent la mémoire du GPU devenir le seul critère d’achat. C’est une erreur : les pilotes, le système d’exploitation, les bibliothèques d’inférence et la capacité à superviser le service déterminent aussi sa stabilité. Le test indépendant d’un modèle Nemotron 3.5 Lightning sur un ordinateur portable RTX 5070 Ti 12 Go, publié sur GitHub en août 2026, documente d’ailleurs un travail conséquent de configuration et de déport vers le processeur.

Trois variantes illustrent des niveaux d’équipement très différents :

Quels usages sont réalistes pour une PME ?

Pour une PME, Nvidia Nemotron 3.5 présente surtout un intérêt dans l’analyse de documents, la recherche assistée, la compréhension d’images ou de vidéos et l’exécution d’outils internes. Bolt réduit l’infrastructure nécessaire, tandis que Super VL vise des traitements plus exigeants. Aucun des deux modèles ne dispense de vérifier les résultats métier.

Un premier cas consiste à interroger un ensemble de contrats, procédures ou dossiers techniques conservés sur une infrastructure maîtrisée. Le modèle peut rechercher une clause, résumer plusieurs pièces ou préparer un tableau. Il faut néanmoins associer chaque réponse à ses documents sources, puis empêcher l’agent d’accéder aux répertoires qui ne concernent pas sa mission.

Le deuxième cas concerne l’assistance au développement : explication de code, recherche d’erreurs et préparation de modifications. Un essai publié par MindStudio le 17 octobre 2026 a montré de bons résultats sur une tâche de raisonnement visuel, mais des échecs sur une correction logicielle et une génération HTML. L’échantillon est trop réduit pour mesurer la fiabilité générale, mais il confirme qu’une validation humaine reste nécessaire en production.

La traduction autonome ou la publication directe de contenu sont également risquées. Le même essai indépendant a relevé des faiblesses sur des sorties multilingues. Honnêtement, un agent qui peut modifier un site ou envoyer un document à un client ne devrait pas disposer de ces droits sans étape d’approbation.

Avant un déploiement, les usages peuvent être classés selon leur niveau de conséquence :

• faible risque : recherche interne, brouillon, résumé et classement sans suppression des originaux ;
• risque modéré : génération de code ou analyse contractuelle avec revue par une personne compétente ;
• risque élevé : paiement, suppression de données, publication ou message envoyé automatiquement à un client ;
• risque à proscrire sans dispositif dédié : accès global au réseau, aux mots de passe ou aux données de plusieurs clients.

Pour comparer cette famille à une autre offre européenne, l’analyse du modèle Mistral Large 4 apporte un autre éclairage sur les arbitrages entre capacités, hébergement et exploitation. Le choix ne doit pas reposer uniquement sur un classement de benchmarks.

Quel budget prévoir pour un agent IA local ?

Le budget de Nvidia Nemotron 3.5 ne se limite pas au téléchargement du modèle. En 2026, une GeForce RTX 5090 de 32 Go affiche un prix de référence américain de 1 999 à 1 999,99 dollars, tandis qu’un NVIDIA DGX Spark est annoncé à 4 699 dollars aux États-Unis. Les prix français, l’intégration et la maintenance s’ajoutent.

Le DGX Spark comprend 128 Go de mémoire unifiée, un SSD de 4 To et une puce GB10 donnée pour une enveloppe thermique de 140 W selon NVIDIA en 2026. Son prix public américain est passé de 3 999 à 4 699 dollars en février 2026. Les taxes, la disponibilité et les tarifs des revendeurs rendent toute conversion directe en euros peu fiable.

Le prix d’une RTX 5090 n’est pas davantage le coût complet d’un poste. Il faut un ordinateur compatible, une alimentation adaptée, du stockage, du temps d’installation, une surveillance et des mises à jour. Une panne immobilise aussi le service si aucun second équipement ou dispositif de reprise n’est prévu.

À ce budget, mieux vaut commencer par un prototype limité à un corpus et à une action réversible plutôt que construire immédiatement un agent généraliste. Deux à quatre semaines de test interne donnent davantage d’informations utiles qu’un achat matériel fondé uniquement sur une démonstration fournisseur. Ce délai est un cadrage de projet, pas une mesure publiée par NVIDIA.

Le cloud reste souvent plus rationnel pour un usage occasionnel, un test ou une charge très variable. Le local devient intéressant lorsque la confidentialité, la latence, le volume récurrent ou la maîtrise de l’infrastructure compensent l’achat et l’exploitation. Plotly a par exemple rapporté en octobre 2026 un coût de 0,46 dollar pour son examen hébergé de 43 questions avec Super VL ; ce résultat ne mesure ni un PC local ni un coût d’exploitation annuel.

Une architecture locale exige enfin un scénario de continuité. Les principes d’un plan de reprise après incident restent utiles pour déterminer comment restaurer le modèle, ses index documentaires et ses règles d’accès après une panne.

Quelles performances et quels risques faut-il anticiper ?

Les performances publiées pour Nvidia Nemotron 3.5 restent principalement issues de NVIDIA en octobre 2026. Bolt atteint 83,99 tokens par seconde sur AIPerf SPEED-Bench-Coding avec LiLiCorr et du matériel RTX Spark, selon le fournisseur. Ce chiffre ne constitue pas un benchmark indépendant d’un PC Windows ou Linux équipé de 24 ou 32 Go.

Au 21 octobre 2026, aucune étude indépendante étendue n’a été identifiée sur la vitesse soutenue, la consommation électrique, le coût total ou la maintenance de Bolt sur des PC ordinaires. Des essais communautaires existent sur RTX 3090 et RTX 5090, mais leurs configurations ne sont pas standardisées. La promesse de vitesse doit donc être validée sur vos propres documents et outils.

La sécurité locale ne se résume pas à garder les fichiers dans vos locaux. Un document piégé peut tenter d’influencer l’agent, un connecteur mal configuré peut exposer une base de données et une action trop permissive peut écraser des informations. Côté agence, le réflexe est de séparer lecture et écriture, puis de journaliser chaque action sensible.

NVIDIA demande elle-même aux organisations de conserver des garde-fous équivalents et d’évaluer les risques de détournement, de confidentialité et de sécurité pour chaque application. Les contrôles prioritaires sont l’authentification, les droits minimaux, le chiffrement, les journaux et la validation humaine. Les outils gratuits de contrôle de cybersécurité peuvent compléter un premier audit, sans remplacer une revue de l’architecture.

Le RGPD s’applique dès qu’un agent traite des données personnelles, même si le calcul reste local. Il faut définir la finalité, limiter les données, fixer une durée de conservation et documenter les accès. Pour mieux mesurer le risque lié aux fournisseurs et sous-traitants, le retour d’expérience sur la sécurisation des données confiées à un prestataire fournit une grille de lecture utile.

Enfin, la licence OpenMDW-1.1 autorise selon la documentation de 2026 les usages commerciaux et non commerciaux. Une licence permissive ne transfère pas la responsabilité du déploiement à l’éditeur. NVIDIA indique aussi que certaines informations relatives aux données d’entraînement ne sont pas divulguées et recommande une évaluation propre à chaque application.

Cadrer un agent local en amont évite d’acheter une machine trop limitée ou de donner trop de droits au modèle. Un regard extérieur peut surtout aider à comparer un poste local, un DGX Spark et une infrastructure hébergée sur la base d’un même scénario métier.

FAQ sur Nvidia Nemotron 3.5

Nvidia Nemotron 3.5 fonctionne-t-il sans connexion Internet ?

Nvidia Nemotron 3.5 Bolt peut exécuter le modèle localement sans envoyer les requêtes à un service d’inférence cloud. Une connexion reste nécessaire si l’agent utilise la recherche web, une API externe ou des outils hébergés.

Quelle carte graphique faut-il pour Nemotron 3.5 Bolt ?

Nemotron 3.5 Bolt est conçu pour tenir dans un budget mémoire d’environ 24 Go selon NVIDIA en 2026. Une carte de 24 Go représente toutefois une limite serrée, tandis qu’une GeForce RTX 5090 de 32 Go offre davantage de marge pour le contexte et les traitements.

Nemotron 3.5 peut-il analyser des PDF et des images ?

Nemotron 3.5 Super VL prend en charge l’analyse documentaire, les images et la vidéo selon NVIDIA en 2026. L’exploitation de PDF exige une chaîne d’importation, des droits d’accès et un mécanisme permettant de rattacher les réponses aux documents sources.

Peut-on utiliser Nemotron 3.5 dans une entreprise ?

Nemotron 3.5 est proposé sous licence OpenMDW-1.1 pour des usages commerciaux et non commerciaux en 2026. L’entreprise demeure responsable du RGPD, de la sécurité, des validations humaines et des actions confiées à l’agent.