IA locale : quel logiciel et quelle machine pour faire tourner une IA sur votre ordinateur

Une IA locale est un modèle d'intelligence artificielle qui tourne sur votre propre ordinateur, grâce à un logiciel comme Ollama ou LM Studio, au lieu de transiter par l'infrastructure d'un éditeur. Vos questions, vos fichiers et l'historique des échanges restent sur la machine ; en contrepartie, ce sont votre mémoire vive et votre carte graphique qui font le calcul. Cette page répond aux questions concrètes : quelle machine, quel modèle, quel logiciel parmi huit, et ce qui peut malgré tout quitter votre poste une fois l'installation terminée.

Pour un assistant en ligne (ChatGPT, Claude, Gemini, Copilot), le comparatif pour trouver la meilleure IA est plus adapté. Et si votre question porte sur les licences des modèles libres, quel que soit l'endroit où ils s'exécutent, voyez la page dédiée à l'IA open source.

Qu'est-ce qu'une IA locale ?

Elle associe deux briques installées chez vous. La première est un modèle de langage, ou LLM (de l'anglais large language model) : un fichier de quelques gigaoctets qui contient ce que le modèle a appris pendant son entraînement. La seconde est un logiciel d'exécution, qui charge ce fichier en mémoire et vous offre une fenêtre de discussion ou une interface de programmation. ChatGPT et Gemini reposent eux aussi sur des LLM, mais leurs modèles restent chez OpenAI et Google : vous ne pouvez pas les télécharger.

Les modèles que l'on installe sont dits « à poids ouverts » : leur éditeur publie le fichier entraîné. C'est le cas de Gemma (Google), Qwen, des Ministral de Mistral AI ou des gpt-oss d'OpenAI, et la plateforme Hugging Face sert de grand entrepôt où les logiciels vont les chercher. Attention au sigle : un LL.M. désigne aussi un master de droit, sans aucun rapport avec l'intelligence artificielle.

IA locale ou cloud : ce qui change pour vos données

Avec un service en ligne, chaque requête part vers un serveur distant, y est traitée, puis la réponse revient. Même lorsque l'éditeur s'engage à ne pas entraîner ses modèles sur vos échanges, le texte transite et se trouve traité chez lui, sous ses conditions et le droit du pays d'hébergement. En local, tout le calcul se fait sur votre processeur ou votre puce graphique. La documentation d'Ollama le formule sans détour : lorsque le modèle tourne sur votre machine, l'éditeur ne voit ni vos prompts ni vos données.

• Données : en ligne, elles quittent votre réseau ; en local, elles restent sur le disque, sauf réglage contraire (voir plus bas).

• Qualité : les plus grands modèles commerciaux gardent l'avantage sur le raisonnement long ; un modèle qui tient dans un portable suffit pour résumer, reformuler, classer ou rédiger un premier jet.

• Disponibilité : un service peut retirer ou modifier un modèle ; Ollama précise que les retraits de modèles cloud n'affectent pas les modèles déjà téléchargés.

• Responsabilité : en local, l'installation, l'actualisation et les sauvegardes vous reviennent.

Pourquoi installer une IA en local : avantages et cas d'usage

Le premier motif est la confidentialité : contrats, dossiers clients, données RH ou code source peuvent être résumés et interrogés sans être confiés à un tiers. Le deuxième est l'autonomie : une fois le modèle téléchargé, il répond sans connexion, dans un train comme sur un site isolé. Le troisième tient au coût d'usage : Ollama indique que faire tourner des modèles sur votre propre matériel reste toujours illimité, sans quota de requêtes ni facturation au volume.

Les usages qui en profitent le plus sont ceux où la donnée est sensible et la tâche bien délimitée : interroger un lot de PDF internes, transcrire une réunion (LM Studio annonce que la voix est traitée sur l'appareil et ne le quitte jamais), relire du code, traduire, ou traiter des fichiers en série via une interface de programmation.

Les limites d'une IA locale, avant de l'installer

• La puissance : Ollama prévient que les grands modèles sont lents sur un ordinateur dépourvu de carte graphique solide.

• La place disque : selon la documentation d'Ollama, les modèles peuvent peser des dizaines, voire des centaines de gigaoctets, et l'installation sous Windows demande déjà au moins 4 Go pour le seul programme.

• Le contexte : par défaut, Ollama limite la fenêtre de contexte à 4096 jetons ; pour faire lire un long document, il faut l'élargir, ce qui consomme davantage de mémoire.

• L'exploitation : personne ne corrige les failles ni ne sauvegarde vos conversations à votre place.

Quel matériel pour faire tourner un LLM local : RAM, VRAM et vitesse

Le facteur décisif est la mémoire : le modèle doit tenir dans la mémoire de la carte graphique (la VRAM) ou, à défaut, dans la mémoire vive, avec une marge pour le contexte. Les éditeurs publient des repères assez proches :

• LM Studio : sur Mac, une puce Apple Silicon (M1 à M4), macOS 14 ou plus récent et 16 Go de RAM recommandés ; 8 Go restent possibles avec de petits modèles, les Mac Intel ne sont pas pris en charge. Sur Windows, au moins 16 Go de RAM et 4 Go de VRAM dédiée sont conseillés.

• Jan : 8 Go de RAM pour un modèle de 3 milliards de paramètres, 16 Go pour 7 milliards, 32 Go pour 13 milliards.

• AnythingLLM : 16 Go de RAM et un processeur 8 cœurs ; sous Windows, une carte graphique de 8 à 12 Go de VRAM est jugée idéale, et tout Mac à puce M peut faire tourner des modèles locaux sans matériel supplémentaire.

• Ollama : les cartes NVIDIA sont prises en charge à partir d'une capacité de calcul 5.0 et du pilote 550 ; sur Mac Intel, seul le processeur travaille.

La vitesse dépend surtout de l'endroit où le modèle est chargé. La commande ollama ps l'affiche : « 100% GPU » signifie que tout tient dans la carte graphique, un partage du type « 48%/52% CPU/GPU » que le modèle déborde sur la mémoire vive, ce qui ralentit nettement la génération. Sur smartphone, l'application AnythingLLM Mobile fait tourner de petits modèles directement sur le téléphone.

Quels modèles installer selon votre mémoire : tailles et quantification

Les tailles ci-dessous sont celles des fichiers proposés par la bibliothèque d'Ollama, relevées en octobre 2026. Ajoutez une marge pour le contexte : un fichier de 6 Go demande en pratique davantage de mémoire libre.

Ces fichiers sont quantifiés : les poids sont stockés sur moins de bits pour réduire la mémoire nécessaire, au prix d'une légère perte de précision. OpenAI indique par exemple que les poids des gpt-oss sont compressés à 4,25 bits par paramètre, et le moteur llama.cpp gère des quantifications de 1,5 à 8 bits. Pour démarrer sur une machine de 16 Go, un modèle de 4 à 9 milliards de paramètres est le choix raisonnable ; sur 8 Go, restez autour de 3 ou 4 milliards.

Quelle est la meilleure IA locale ? 8 logiciels pour PC, Mac et Linux

Aucun logiciel ne domine sur tous les profils : tout se joue sur votre aisance technique, votre système et les outils à y raccorder. Tous permettent de télécharger un modèle puis de discuter avec lui sans connexion.

Ollama

Ollama Site officiel Voir la fiche

Ollama est devenu le moteur de référence pour qui accepte quelques commandes. Sous licence MIT, il fonctionne sur macOS (Sonoma au minimum), Windows 10 22H2 ou plus récent et Linux, avec une application de discussion et une interface de programmation locale sur le port 11434, que de nombreux autres outils savent utiliser. Son catalogue de modèles est le plus simple à parcourir. Point de vigilance : la même application propose aussi des modèles hébergés dans le cloud d'Ollama, détaillés plus bas.

LM Studio

LM Studio Site officiel Voir la fiche

LM Studio, édité par Element Labs, est l'option graphique la plus aboutie pour découvrir l'IA locale sans terminal. Il s'appuie sur les moteurs llama.cpp et MLX, cherche les modèles sur Hugging Face depuis l'application, permet de discuter avec vos documents sans qu'ils quittent la machine et peut servir de serveur local compatible avec l'API d'OpenAI. L'usage local est gratuit, y compris en entreprise pour un usage interne selon ses conditions ; le code source, en revanche, n'est pas publié.

Jan

Jan Site officiel Voir la fiche

Jan, développé par Menlo Research sous licence Apache 2.0, se présente comme une alternative ouverte à ChatGPT qui fonctionne entièrement hors ligne. Il tourne sur Windows, macOS 13.6 ou plus récent et Linux, expose une API locale sur le port 1337 et peut aussi se connecter à des modèles distants (OpenAI, Anthropic, Mistral) : dans ce cas, la politique de confidentialité de Jan rappelle que vos données partent chez ces fournisseurs.

GPT4All

GPT4All Site officiel Voir la fiche

GPT4All, de Nomic, sous licence MIT, vise les machines modestes : l'éditeur affirme qu'aucune carte graphique n'est nécessaire, et la fonction LocalDocs interroge vos dossiers en local. Il existe pour Windows, Windows ARM, macOS et Ubuntu. À noter avant de l'adopter : la dernière version publiée sur GitHub, la 3.10.0, remonte à plus d'un an et demi au moment du relevé.

AnythingLLM

AnythingLLM Site officiel Voir la fiche

AnythingLLM, de Mintplex Labs, sous licence MIT, est pensé pour le travail sur documents : espaces de travail, recherche dans vos fichiers, agents et automatisations, sans compte ni clé d'API. Son moteur intégré repose sur llama.cpp, et il peut aussi interroger un modèle servi par une autre machine via une API, Ollama par exemple. Une télémétrie anonyme est active par défaut ; elle se coupe dans le menu Privacy.

Open WebUI

Open WebUI Site officiel Voir la fiche

Open WebUI est avant tout une interface web auto-hébergée, accessible depuis un navigateur, qui se connecte à Ollama ou à toute API compatible OpenAI. Multi-utilisateurs, elle sert à partager une IA locale au sein d'une équipe. Sa licence impose de conserver la marque Open WebUI au-delà de 50 utilisateurs sur 30 jours ; une offre Enterprise existe, sur devis.

llama.cpp

llama.cpp Site officiel Voir la fiche

llama.cpp est le moteur open source (MIT) sur lequel reposent plusieurs des applications citées ici. Utilisé directement, il donne le plus de contrôle : quantification fine, exécution partagée entre processeur et carte graphique quand le modèle dépasse la VRAM, prise en charge de CUDA, Metal et Vulkan. Il s'adresse à un public technique à l'aise en ligne de commande.

LocalAI

LocalAI Site officiel Voir la fiche

LocalAI, sous licence MIT, se destine plutôt à un serveur : un seul programme qui imite les API d'OpenAI, d'Anthropic et d'Ollama, si bien qu'un outil existant n'a souvent besoin que d'un changement d'adresse. Il couvre texte, voix et image, et son équipe met en avant un fonctionnement prévu d'abord pour le processeur seul, sans carte graphique obligatoire.

Tableau comparatif des logiciels d'IA locale

Tarifs et conditions relevés en octobre 2026 auprès de chaque éditeur, exprimés en dollars hors taxes.

Combien coûte une IA locale ?

Les logiciels sont gratuits pour l'usage sur votre poste et les modèles à poids ouverts se téléchargent sans frais. La vraie dépense est matérielle : un ordinateur récent de 16 Go suffit pour un modèle de 4 à 9 milliards de paramètres, tandis qu'un modèle de 20 à 30 milliards réclame une carte graphique bien dotée en VRAM ou un Mac à forte mémoire. S'y ajoutent l'électricité et le temps passé à installer et maintenir. Les offres payantes d'Ollama ou de LM Studio ne financent que l'accès à leurs modèles hébergés : elles ne sont pas nécessaires pour travailler en local.

Comment installer une IA en local, étape par étape

• Vérifiez votre machine : mémoire vive, présence et VRAM d'une carte graphique, place libre sur le disque.

• Installez le logiciel : LM Studio ou Jan si vous préférez une interface classique ; Ollama via l'installateur Windows ou macOS, ou par la commande curl -fsSL https://ollama.com/install.sh | sh sous Linux.

• Téléchargez un modèle à votre mesure : depuis l'onglet de recherche de LM Studio, ou par exemple avec ollama run qwen3.5:4b pour un premier essai léger.

• Testez une conversation, puis coupez le Wi-Fi et recommencez : la réponse doit arriver de la même façon.

• Élargissez le contexte si besoin : avec Ollama, la variable OLLAMA_CONTEXT_LENGTH=8192 double la fenêtre par défaut, au prix de plus de mémoire.

• Branchez vos outils sur l'API locale (http://localhost:11434 pour Ollama) si vous voulez automatiser.

Ce qui peut sortir de votre ordinateur malgré l'installation locale

« Local » décrit l'endroit où le modèle calcule, pas l'étanchéité totale du logiciel. Plusieurs applications mêlent désormais modèles locaux et services en ligne, et quelques réglages méritent un contrôle avant de confier des données sensibles.

• Les modèles cloud d'Ollama : un modèle dont le nom se termine par « :cloud », comme gemma4:cloud, s'exécute sur les serveurs d'Ollama, hébergés principalement aux États-Unis avec un routage possible vers l'Europe. L'éditeur dit ne pas conserver ni utiliser ces échanges pour l'entraînement, mais ils quittent votre machine. Pour l'interdire, placez « disable_ollama_cloud »: true dans le fichier ~/.ollama/server.json ou définissez OLLAMA_NO_CLOUD=1, puis redémarrez : le journal affiche alors « Ollama cloud disabled: true ». La recherche web d'Ollama disparaît avec.

• L'agent Bionic de LM Studio : il peut utiliser des modèles hébergés aux États-Unis, sans conservation des données selon l'éditeur. Le reste du temps, LM Studio ne se connecte que pour chercher et télécharger des modèles, récupérer des moteurs d'exécution et vérifier les mises à jour.

• Les API distantes : dans Jan, AnythingLLM ou Open WebUI, sélectionner un fournisseur en ligne envoie vos messages chez lui. Vérifiez quel modèle est actif avant de coller un document.

• La télémétrie : AnythingLLM envoie par défaut des événements d'usage anonymes (type d'installation, fournisseur et modèle utilisés, envoi d'un message, sans son contenu) ; on la désactive dans Privacy ou avec DISABLE_TELEMETRY. Chez GPT4All, le partage des conversations avec la communauté (Datalake) est désactivé par défaut.

• L'exposition au réseau : Ollama n'écoute par défaut que sur 127.0.0.1, port 11434, donc sur la seule machine. Passer OLLAMA_HOST à 0.0.0.0 rend le serveur joignable par les autres postes du réseau : à réserver à un réseau maîtrisé, idéalement derrière un proxy comme Nginx.

Le test le plus simple reste le mode avion : si l'outil continue de répondre avec le modèle sélectionné, le calcul est bien local.

IA hors ligne : ce qui fonctionne sans internet

Une fois les modèles téléchargés, la conversation, l'analyse de documents et le serveur local fonctionnent sans réseau ; LM Studio précise que rien de ce que vous saisissez ne quitte alors l'appareil. Ce qui exige une connexion : la recherche et le téléchargement de nouveaux modèles, l'ajout de moteurs d'exécution et l'actualisation de l'application. Pour un poste qui doit rester déconnecté, téléchargez les modèles à l'avance ou importez-les depuis un fichier, ce que LM Studio permet.

Documents, automatisations et agents : brancher l'IA locale à vos outils

Interroger vos propres fichiers (la technique dite RAG) se fait en local avec LM Studio, la fonction LocalDocs de GPT4All ou les espaces de travail d'AnythingLLM. Pour automatiser, Ollama, LM Studio, Jan et LocalAI exposent une API sur la machine, souvent compatible avec celle d'OpenAI : un script ou un outil d'automatisation qui parle à ChatGPT peut alors viser votre modèle en changeant simplement d'adresse. LM Studio et AnythingLLM proposent aussi des agents capables d'agir sur vos fichiers ; un agent local a accès à votre ordinateur, donc limitez ses droits. Le panorama des outils d'agents IA détaille ces solutions.

IA locale en entreprise : serveur interne et RGPD

Au-delà d'un poste isolé, une équipe installe généralement le moteur (Ollama, llama.cpp ou LocalAI) sur un serveur interne équipé d'une carte graphique, puis donne l'accès par Open WebUI. Sur le plan de la protection des données, la CNIL estime que, pour fournir à une IA générative des données personnelles ou une documentation sensible, il semble généralement plus opportun et plus sécurisé de privilégier un déploiement « sur site ». Ce choix ne dispense pas des autres obligations du RGPD, mais il évite de confier les données à un prestataire. Locale ne veut pas dire souveraine pour autant : le modèle exécuté chez vous peut avoir été publié par Google ou OpenAI comme par Mistral AI ; seul le lieu de calcul change.

Pour comparer avec les offres hébergées par des éditeurs, voyez les pages sur l'IA pour entreprise et sur l'IA française ; les cabinets soumis au secret professionnel trouveront les outils spécialisés dans la page sur l'IA juridique.

Quel logiciel d'IA locale choisir selon votre profil

• Premiers pas, sans terminal : LM Studio, ou Jan si vous tenez à un code ouvert.

• Votre ordinateur n'a pas de carte graphique : GPT4All ou LM Studio avec un modèle de 3 à 4 milliards de paramètres.

• Vous développez ou automatisez : Ollama, puis llama.cpp si vous voulez tout régler.

• Vous travaillez surtout sur des documents : AnythingLLM, télémétrie coupée.

• Vous équipez une équipe : Ollama ou LocalAI sur un serveur, Open WebUI devant.