Les LLM sont avant tout des programmes informatiques. On peut les télécharger et les faire tourner directement sur notre PC. Voici comment le faire.
Depuis l’avènement de l’intelligence artificielle générative, tous les modèles sont accessibles via le web. Si cette méthode permet d’utiliser une variété de modèles, elle pose un problème de confidentialité. En effet, tous vos échanges avec ces IA sont hébergés sur les serveurs de l’entreprise qui peut y accéder à tous moments et utiliser ces données à sa guise. Mais lorsque vous faites tourner ces modèles en local, toutes les données sont hébergées sur votre ordinateur et vous pouvez les supprimer à tout moment. Cependant, vous ne pouvez pas héberger tous les modèles d’IA sur votre PC. C’est notamment le cas des dernières versions de ChatGPT, de Gemini et autres modèles propriétaires. En revanche, tout ce qui est open source peut être téléchargé et tourner sans connexion internet.
Dans cet article :
Installer LMStudio
Afin de pouvoir utiliser tous ces modèles d’IA hors ligne et directement en local, j’utilise LMStudio. Il s’agit d’un logiciel gratuit et Open Source qui dispose de tout le nécessaire pour exploiter les ressources de votre machine pour faire tourner les modèles d’IA.
LMStudio est un utilitaire disponible pour tous les systèmes d’exploitation. Pour les besoins de cet article, j’utilise Windows. Mais vous pouvez très bien installer LMStudio sur votre PC Linux. Je l’utilise d’ailleurs sur Ubuntu-Budgie.
Rendez-vous sur ce site pour télécharger et installer LMStudio. Dès que vous l’installez, lancez-le et suivez les options apparaissant à l’écran pour le configurer. Pour commencer, vous n’avez qu’à choisir les options par défaut qui vous sont proposées.
Dès la fin des configurations, LMStudio vous propose de télécharger un LLM, c’est souvent le plus populaire du moment. Ici par exemple, on me propose DeepSeek R1.
Prendre en main LMStudio
Vous pouvez installer le LLM proposé ou effectuer des recherches parmi toutes les propositions disponibles. Dès que vous trouvez le modèle qui vous convient, lancez le téléchargement. Retenez que chaque modèle peut peser plus lourd en fonction de ses paramètres. Une version de Llama pèse par exemple près de 25Go alors que DeepSeek R1 que je viens de télécharger pèse moins de 5Go.
Dès que votre LLM est installé, vous arrivez sur la page d’accueil de LMStudio. En haut de la page, cliquez sur Select a model to load afin de charger un modèle d’IA à utiliser dans la conversation. En bas de l’écran, vous avez la zone où vous pouvez entrer vos prompts pour discuter avec le modèle et obtenir une réponse.
Sur la gauche, vous pouvez voir l’historique de vos conversations ainsi que quatre boutons, plus à gauche.
- Le plus haut est celui de l’historique.
- Le deuxième vous permet de passer en mode Développer.
- Le troisième est la liste de vos modèles.
- Le dernier vous permet de trouver d’autres modèles d’IA à installer sur LMStudio.
VOIR AUSSI : Votre PC peut-il tourner l’IA en local, sans connexion internet ? Voici comment le savoir
Paramétrer votre modèle d’IA pour discuter
Lorsque vous lancez une nouvelle conversation, vous devez charger un modèle d’IA à utiliser. Cliquez sur Select a model to load en haut de la page et sélectionnez le modèle qui vous convient, parmi ceux que vous avez téléchargés.
Dès que vous sélectionnez le modèle, un menu déroulant s’affiche et vous demande de paramétrer le LLM. Ceux-ci prennent en compte la capacité de GPU et de CPU que le modèle peut utiliser et le nombre de mots qu’un prompt peut atteindre.
Cependant, je vous conseille de laisser les paramètres par défaut. Cliquez ensuite sur Load Model et le LLM sera chargé pour votre discussion.
Discuter avec le LLM chargé
Après avoir chargé votre LLM, il ne vous reste plus qu’à commencer à discuter avec lui. Il n’a pas besoin de connexion internet et utilise constamment la puissance de votre carte graphique pour fonctionner. Donc, plus vous avez une carte graphique puissante, plus rapides seront les réponses.
En local, vous pouvez discuter avec le modèle comme s’il s’agissait d’un autre hébergé sur le Cloud. Ainsi, vous n’avez rien à craindre pour vos données et les problèmes de serveur que rencontrent les entreprises IA ne vous toucheront pas.
BuzzWebzine est un média indépendant. Soutiens-nous en nous ajoutant à tes favoris sur Google Actualités :
