Chaque fois que vous posez une question à ChatGPT ou à un autre service cloud, votre requête quitte votre ordinateur. Elle aboutit sur les serveurs du fournisseur, où elle est traitée et, selon le service et vos paramètres, peut également être stockée ou utilisée à des fins d’apprentissage. Pour la plupart des questions, cela n’a pas d’importance. Mais lorsqu’il s’agit d’informations sensibles, de documents internes ou simplement par principe, vous pourriez ne pas le souhaiter. La bonne nouvelle : vous pouvez faire fonctionner une IA de chat entièrement hors ligne sur votre propre ordinateur portable. Pas de compte, pas d’abonnement, pas de cloud. Et d’ici 2026, vous n’aurez même plus besoin d’un ordinateur haut de gamme pour cela.

Pourquoi l’exécuter localement ?

La raison principale est l de la confidentialité des données, et celle-ci est plus tangible qu’avec n’importe quel service cloud. Lorsque le modèle fonctionne sur votre appareil, il n’y a pas d’écoute par un serveur, pas de conditions d’utilisation susceptibles de changer du jour au lendemain, et aucune fuite de données chez un fournisseur qui pourrait vous concerner. Vos saisies restent privées car, techniquement, elles ne peuvent pas quitter votre appareil. De plus : cela ne coûte rien d’autre que de l’électricité, cela fonctionne sans connexion Internet, et la réponse est souvent plus rapide puisqu’elle ne passe pas par le cloud. Il faut toutefois être honnête quant à ses limites. Un modèle local n’est pas aussi performant que les modèles phares basés sur le cloud d’OpenAI ou de Google, et il atteint plus rapidement ses limites lorsqu’il traite des documents très longs. Mais pour les tâches quotidiennes impliquant du texte, des résumés, des traductions et du code, il offre des performances étonnamment bonnes.

Ce dont votre ordinateur portable a besoin pour cela

Le facteur clé n’est pas le processeur, mais la mémoire vive (RAM) et, si disponible, la mémoire graphique. Et c’est là que de nombreuses règles empiriques sont trompeuses : un modèle de 8 milliards de paramètres ne fonctionnera tout simplement pas avec 8 Go de RAM. Sans carte graphique, le modèle partage la RAM avec Windows et vos programmes en cours d’exécution, et 4 à 6 Go de cette mémoire sont rapidement épuisés avant même que le modèle ne soit chargé. En réalité, un tel modèle nécessite donc plutôt 16 Go de RAM. Avec une carte graphique, cela pose moins de problème, car le modèle réside alors dans la mémoire de la carte graphique, libérant ainsi la RAM système. En résumé : 8 Go ne suffisent que pour les modèles les plus petits ; la mémoire devient réellement utilisable à partir de 16 Go, et une carte graphique ou une puce NPU moderne apporte des gains de performances notables. Les Mac équipés d’une puce Apple constituent un cas particulier. Sur ces systèmes, le processeur et la carte graphique partagent la même mémoire, ce que l’on appelle la mémoire unifiée. Cela signifie que la quasi-totalité de votre RAM peut servir de mémoire graphique pour le modèle. En pratique, les programmes en réservent environ 70 % par défaut ; ainsi, un Mac doté de 32 Go dispose d’environ 24 Go disponibles pour le modèle. C’est pourquoi les Mac constituent souvent le choix le plus simple pour l’IA en périphérique : un Mac doté de 64 Go peut prendre en charge des modèles qui nécessiteraient deux cartes graphiques coûteuses sur un PC Windows. Il vous suffit d’acheter suffisamment de RAM au lieu de vous soucier d’une carte graphique distincte.

Le tableau indique quels modèles fonctionnent sur quels appareils.

Les programmes : par où commencer ?

Vous avez besoin de deux choses : un programme et un modèle. Tous les programmes sont gratuits et fonctionnent sous Windows, Mac et Linux. LM Studio est le meilleur point de départ pour la plupart des utilisateurs : il dispose d’une interface graphique, ce qui évite d’avoir à utiliser un terminal ; il vous suffit de choisir un modèle dans une liste et de commencer à discuter. On a l’impression d’utiliser une version locale de ChatGPT. Jan adopte une approche similaire et est open source. GPT4All est même un peu plus simple pour effectuer des tests rapides. Ollama s’adresse aux utilisateurs avancés ; il s’exécute via la ligne de commande et peut être intégré à vos propres programmes, bien que cela ne soit pas indispensable pour débuter. En coulisses, ces outils utilisent pour l’essentiel la même technologie, il y a donc rarement des différences significatives en termes de vitesse. Votre choix dépendra principalement de l’interface utilisateur.

Les modèles : lequel vous convient le mieux ?

Le modèle constitue en substance le cerveau du système. Pour l’allemand et les tâches bureautiques courantes, Qwen3, dans sa variante 8B ou 14B, constitue un très bon choix ; il s’exprime dans un allemand clair et fonctionne sur du matériel de milieu de gamme. Gemma 3 de Google, dans sa version 12B, offre de bonnes performances avec 16 Go de RAM ou plus, tandis que Llama 4 Scout est un modèle polyvalent et fiable. Si votre ordinateur portable n’est pas très puissant, optez pour un modèle plus petit comme le Phi-4-mini, doté de 3,8 milliards de paramètres ; il fonctionne même sans carte graphique dédiée. Le chiffre qui suit le nom indique la taille du modèle. À titre indicatif, avec le réglage standard Q4, il vous faudra un demi-gigaoctet de mémoire par milliard de paramètres. Un modèle 8B, par exemple, nécessite environ 5 Go, auxquels s’ajoutent une marge pour le contexte et la surcharge du système. C’est pourquoi même les modèles plus volumineux fonctionnent sur du matériel standard, mais pas sur des systèmes dotés d’une quantité de RAM absolument minimale.

Si le modèle ne tient pas tout à fait dans la carte graphique

Que faire si le modèle que vous souhaitez utiliser est légèrement plus volumineux que la mémoire graphique ? Vous n’avez pas à y renoncer. Les logiciels peuvent diviser le modèle de manière à ce qu’une partie s’exécute sur la carte graphique et le reste dans la mémoire vive classique. C’est ce qu’on appelle le « déchargement » ou le « déchargement GPU ». Dans LM Studio, il vous suffit de régler un curseur pour cela ; dans Ollama, il s’agit d’un paramètre. De cette manière, même un modèle qui n’aurait pas pu tenir à lui seul dans la mémoire graphique peut fonctionner. Le bémol : la partie déchargée s’exécute sur le processeur et est plus lente, ce que vous remarquerez au niveau de la vitesse de réponse. C’est tout de même plus rapide que de s’exécuter sans aucune carte graphique, mais ce n’est pas à pleine vitesse. Deux autres points à noter : vous avez toujours besoin de suffisamment de mémoire vive pour l’intégralité du modèle ; le déchargement ne fait que répartir la charge ; il ne crée pas comme par magie davantage de mémoire. Et bien que le transfert vers le disque dur soit théoriquement possible, il est si lent que cela n’en vaut pas la peine.

Configuration en six étapes

En prenant LM Studio comme exemple, le processus fonctionne de manière presque identique pour les autres programmes. Tout d’abord, téléchargez et installez LM Studio depuis le site officiel. Ensuite, ouvrez la recherche de modèles dans le programme et sélectionnez un modèle recommandé, tel que Qwen3 8B. Troisièmement, téléchargez le modèle ; cela prend quelques minutes, selon sa taille. Quatrièmement, chargez le modèle et posez votre première question dans la fenêtre de discussion. Cinquièmement, si vous le souhaitez, connectez vos propres fichiers afin que l’IA puisse travailler avec vos notes. Sixièmement, sécurisez votre configuration, c’est-à-dire ne chargez que des modèles fiables et maintenez le programme à jour. C’est tout ce qu’il y a à faire. En dix minutes, vous disposerez d’une IA privée fonctionnant sans connexion Internet.

Quand le cloud reste intéressant

Le mode local est idéal pour la confidentialité des données, l’utilisation quotidienne et l’accès hors ligne. Mais si vous souhaitez disposer du modèle le plus puissant qui soit, traiter des documents volumineux ou générer des images et des vidéos, vous ne pouvez pas vous passer des services cloud. Nous avons détaillé leur coût et expliqué quel abonnement convient le mieux à qui https://www.notebookcheck.com/index.php?id=1334996. De nombreuses personnes adoptent une approche à deux volets : conserver les données sensibles en local et stocker le reste dans le cloud.

À qui s’adresse l’approche locale ?

Si la confidentialité des données est importante pour vous, si vous travaillez souvent sans connexion Internet ou si vous ne souhaitez pas supporter de frais d’abonnement récurrents, l’IA locale est idéale. Pour commencer, utilisez LM Studio et Qwen3 8B : ces outils fonctionnent sur la plupart des ordinateurs portables relativement récents et offrent des performances largement suffisantes pour une utilisation quotidienne. Les essayer ne vous coûtera rien, si ce n’est un peu d’espace de stockage.

Soit dit en passant, l’IA de conversation n’est pas la seule à fonctionner en local. La génération d’images et la transcription de la parole en texte peuvent également s’effectuer entièrement hors ligne sur votre propre ordinateur. Nous y reviendrons prochainement.