Docker

Docker est la plateforme de conteneurisation la plus utilisée au monde. Depuis 2025-2026, Docker a fortement poussé vers l'IA avec des fonctionnalités natives pour les LLM et les agents.

Docker Hub héberge aujourd'hui bien plus que des images de containers :

• des millions de containers
• des modèles IA empaquetés au format OCI
• des centaines de serveurs MCP vérifiés (pour connecter des agents à des outils)
• des blueprints d'agents prêts à l'emploi

Docker Model Runner : faire tourner un LLM aussi simplement qu'un container

Lancé en beta début 2025, Docker Model Runner est passé en version stable (généralement disponible) en septembre 2025, et continue d'évoluer vite. L'idée : exécuter un LLM avec les commandes Docker que tu connais déjà.

• API compatible OpenAI : tu branches tes outils existants sans réécrire ton code
• Modèles stockés comme artifacts OCI sur Docker Hub (ou tirés directement depuis Hugging Face au format GGUF)
• Moteur d'inférence basé sur llama.cpp, avec accélération GPU (Apple Silicon, NVIDIA/CUDA, Vulkan)
• Intégration native dans Docker Compose : tu déclares un modèle comme une dépendance de ton appli
• Particularité : le modèle ne tourne pas dans un container mais directement sur l'hôte, pour profiter à fond du GPU

cagent : construire et distribuer des agents IA

Docker propose cagent, un outil open source pour créer des agents IA et les partager au format OCI. Il se connecte nativement à Docker Model Runner (modèles locaux) comme à des modèles distants, et s'appuie sur les serveurs MCP pour donner des outils à tes agents.

Un copilote intégré à Docker Desktop et au CLI t'aide aussi à écrire tes Dockerfiles, débugger tes builds et suggérer des optimisations. Et avec Docker Offload, tu étends ton workflow local vers des GPU cloud avec les mêmes commandes.