NVIDIA propose maintenant une solution pour gérer au mieux l’utilisation de la mémoire disponible. En effet, les pilotes NVIDIA intègrent une nouvelle fonctionnalité appelée « System Memory Fallback ». Faisons le point.
NVIDIA propose en option pour offrir à Stable Diffusion le maximum de mémoire
Bien que l’interface du Panneau de Contrôle NVIDIA puisse sembler inchangée à première vue, elle continue de recevoir des mises à jour fonctionnelles. En effet, lors d’une récente mise à jour des pilotes, NVIDIA a introduit une nouvelle option dans le Panneau de Contrôle spécialement conçue pour les cartes graphiques grand public. Cette option est étiquetée « CUDA – Sysmem Fallback Policy » et a été conçue pour répondre aux charges de travail gourmandes en mémoire comme les programmes d’intelligence artificielle générative à l’instar de Stable Diffusion.
Cette fonction est d’ailleurs principalement destinée à Stable Diffusion, un processus qui peut exiger simultanément jusqu’à 6 Go de mémoire. Cependant, comme les GPU populaires ont encore une capacité mémoire maximale comprise entre 6 et 8 Go, la mémoire GPU peut encore être partagée avec d’autres charges de travail en empêchant donc une utilisation optimale par des programmes comme Stable Diffusion demandant beaucoup de mémoire d’un coup. Pour remédier à cela, NVIDIA a mis en place une nouvelle fonction qui empêche les applications de vider la mémoire GPU en basculant efficacement vers la mémoire système partagée.
Mais en pratique, utiliser cette fonctionnalité ne la réserve pas à l’usage de Stable Diffusion. En effet, les utilisateurs ont la flexibilité d’utiliser cette fonction pour n’importe quelle application, y compris les jeux. Cependant, ce n’est peut-être pas le meilleur choix, car la mémoire système est souvent notablement plus lente que la mémoire GPU, sans oublier les transferts de données nécessaires entre les deux.
Le but principal de cette fonction est d’éviter les plantages potentiels sur les cartes graphiques dotées d’une capacité mémoire de 6 Go. Avec les pilotes les plus récents, NVIDIA a judicieusement intégré une option pour désactiver ce mécanisme de secours. Le faire peut potentiellement améliorer la stabilité des performances, mais réintroduit le risque d’épuisement de la mémoire GPU.
Comment activer ou désactiver la fonction « System Memory Fallback »
L’opération est assez simpliste, voici la procédure :
- Ouvrez le Panneau de Contrôle NVIDIA
- Sous « Paramètres 3D », cliquez sur « Gérer les paramètres 3D »
- Accédez à l’onglet « Paramètres du programme »
- Sélectionnez l’exécutable « Stable Diffusion Python » dans la liste déroulante
- Cliquez sur « CUDA – Politique de Régression Sysmem » et choisissez entre « Par Défaut du Pilote », « Préférer Aucun Sysmem Fallback » ou « Préférer Sysmem Fallback ».
- Cliquez sur « Appliquer » pour confirmer.
- Redémarrez « Stable Diffusion » s’il est déjà ouvert.
