Ollama
Exécutez Llama, Mistral, Qwen, Gemma et 100+ LLMs en local – gratuit et illimité
Presentation
Ollama est la solution de référence pour faire tourner des LLM open source en local sur ta machine. Simple à installer, il te permet d'exécuter des modèles comme Llama, Qwen, Gemma ou DeepSeek sans jamais envoyer tes données dans le cloud.
Pourquoi utiliser Ollama ?
- Confidentialité totale : tes données ne quittent jamais ta machine
- Gratuit et illimité : pas de tokens, pas d'abonnement, pas de quota
- Hors-ligne : une fois le modèle téléchargé, ça tourne sans connexion
- Open source (MIT) : code auditable, communauté énorme
- Compatible partout : macOS, Windows (x86 et ARM64 natif), Linux, Docker
- API compatible OpenAI : tu branches Ollama sur tes outils existants en changeant juste l'URL
Où en est Ollama en 2026 ?
La série v0.30 (juin 2026) apporte beaucoup :
- Build natif Windows ARM64 : fini l'émulation x86 et sa perte de perf sur les PC ARM
- Accélération Apple Silicon (MLX) : prefill et décodage nettement plus rapides, et le speculative decoding sur Gemma 4 double quasi la vitesse en code sur Mac
- Sorties structurées (JSON) natives, pratiques pour fiabiliser les réponses
- Lancement intégré d'agents de code (ex. "ollama launch") et meilleure intégration avec les CLI de dev
- Recherche web via plugin, et possibilité de pousser tes modèles custom sur Ollama Cloud
- Meilleure gestion multi-GPU, moins de crashs mémoire (OOM)
La bibliothèque dépasse aujourd'hui 4 000 modèles. Parmi les familles phares réellement disponibles : Llama 3.1 / 3.2 (Meta), Qwen 3 et Qwen 3.6 (Alibaba), DeepSeek-R1 et DeepSeek V3 (raisonnement), Gemma 4 (Google), gpt-oss 20B/120B (les modèles open-weight d'OpenAI), Mistral / Mixtral (Mistral AI), Phi (Microsoft) et Granite (IBM).
Comment utiliser
Rendez-vous sur ollama.com/download et téléchargez l’installeur pour votre OS.
Ollama fournit une API mais pas d’interface graphique. Voici les meilleures options :
L’interface la plus complète, style ChatGPT. Multi-utilisateurs, RAG, historique, plugins.
Accédez ensuite à http://localhost:3000
App desktop native, zéro config. Idéal pour débutants. Téléchargez sur jan.ai.
GUI élégante avec gestion de modèles intégrée. Téléchargez sur lmstudio.ai.
- AnythingLLM : pour RAG et documents privés
- LibreChat : multi-providers (OpenAI, Claude, Ollama)
- LobeChat : moderne, PWA, plugins
- Hollama : minimaliste et rapide
- Page Assist : extension navigateur
- Continue.dev : assistant code dans VS Code/JetBrains
- LangChain : framework agents/RAG
- llama-index : indexation de documents
- Home Assistant : domotique intelligente locale
Astuces & conseils
Choisissez le bon modèle pour votre GPU
RTX 3060 12Go → Llama 3.1 8B ou Mistral 7B. RTX 4090 24Go → Mistral Small 3 24B. Vérifiez votre VRAM avec nvidia-smi avant de choisir.
Utilisez les quantizations Q4_K_M
La quantization Q4_K_M offre le meilleur ratio qualité/taille. Perte de qualité ~1-2% pour 75% de VRAM en moins. ollama pull llama3.1:8b-q4_K_M
Installez Open WebUI pour une vraie expérience ChatGPT
L'interface en ligne de commande est limitée. Open WebUI ajoute historique, multi-conversations, upload de fichiers, et une vraie UX.
Créez des Modelfiles personnalisés
Définissez un system prompt, ajustez temperature et top_p, puis "ollama create mon-assistant -f Modelfile" pour un assistant sur-mesure.
Combinez avec Continue.dev pour coder
L'extension Continue.dev transforme VS Code en Copilot gratuit. Configurez-la pour utiliser Ollama et DeepSeek Coder ou Codestral.
Surveillez votre VRAM en temps réel
Lancez "watch -n 1 nvidia-smi" dans un terminal pour voir l'utilisation GPU. Si ça swap sur RAM, le modèle est trop gros.
Activez le mode GPU layers
OLLAMA_NUM_GPU=999 force l'utilisation maximale du GPU. Utile si Ollama utilise le CPU par défaut.
Testez DeepSeek-R1 pour le raisonnement
Pour les problèmes de maths ou logique complexe, DeepSeek-R1 (distillé) rivalise avec o1 et tourne en local. ollama run deepseek-r1:14b
Fonctionnalites cles
Exécution de modèles open source pour agents de codage
Plus de 9 millions de développeurs
Rapidité fiable avec capacité dédiée
Modèles open source frontier de dernière génération
Compatible avec Claude Code, Codex et autres outils
Confidentialité totale : données jamais trackées ni entraînées
Modeles IA
Llama 3.3 70B
Recommande- Contexte
- 128K
Modèle polyvalent de Meta, valeur sûre
Qwen 3.6
Recommande- Contexte
- 128K
Alibaba, excellent en code et multilingue
Gemma 4
Recommande- Contexte
- 128K
Google, taillé pour le local (2B à 27B)
gpt-oss 20B / 120B
Recommande- Contexte
- 128K
Modèles open-weight d'OpenAI, bons en raisonnement
DeepSeek-R1
- Contexte
- 128K
Raisonnement, du 1.5B au 671B
Mistral
- Contexte
- 128K
Mistral AI, du 7B au 123B
Phi-4
- Contexte
- 16K
Microsoft, compact et performant
Granite
- Contexte
- 128K
IBM, orienté entreprise
Tarifs & plans
Local (gratuit)
0€
- 100% gratuit à vie
- Usage illimité
- 100+ modèles disponibles
- Aucune API nécessaire
- Données 100% privées
Ollama Cloud Pro
~18€/mois
- Modèles hébergés dans le cloud
- Pas besoin de GPU local
- API compatible OpenAI
- Support prioritaire
Ollama Cloud Max
~90€/mois
- Modèles les plus larges (70B+)
- GPU dédiés
- Bande passante illimitée
- SLA entreprise
Questions frequentes
Quelle carte graphique me faut-il pour Ollama ?
Ollama fonctionne-t-il sur Mac ?
Quelle est la différence entre Ollama et LM Studio ?
Comment ajouter une interface graphique à Ollama ?
Quel modèle choisir pour coder ?
Est-ce vraiment gratuit et sans limites ?
Outils similaires
Glossaire associe
- Quantization (Q4, Q5, Q8)
- Compression des poids du modèle de 16/32 bits vers 4/5/8 bits. Réduit drastiquement la VRAM nécessaire avec une perte de qualité minime.
- VRAM
- Mémoire vidéo du GPU. C'est LE facteur limitant pour les LLM locaux. Plus de VRAM = modèles plus gros.
- GGUF
- Format de fichier standard pour les modèles quantizés. Utilisé par Ollama, llama.cpp et LM Studio.
- Context window
- Nombre maximum de tokens (mots) que le modèle peut traiter en une fois. Llama 3.1 : 128K tokens.
- tok/s (tokens par seconde)
- Vitesse de génération du modèle. 30+ tok/s = lecture fluide. En dessous, ça devient lent.
- Modelfile
- Fichier de configuration Ollama pour créer des modèles personnalisés avec system prompt et paramètres custom.
- MoE (Mixture of Experts)
- Architecture où seule une partie des paramètres est activée par requête. Permet des modèles plus gros avec moins de VRAM (ex: Mixtral).
- Open-weight vs Open-source
- Open-weight : poids du modèle disponibles mais licence restrictive. Open-source : code et poids libres (Apache 2.0, MIT).