Objectifs
Comprendre l'architecture d'Ollama et des modèles open source (Mistral…) en contexte entreprise - Savoir installer, configurer et sécuriser Ollama sur un serveur on-premise ou cloud - Être capable d'exposer un ou plusieurs modèles IA aux applications internes (API) en maîtrisant les aspects performance, monitoring et gouvernance
Description
Comprendre Ollama et les modèles IA open source
Panorama des modèles IA open source (Mistral, LLaMA, autres) et cas d'usage en entreprise
…/…
Atelier pratique : prise en main d'Ollama en local sur poste de travail (installation rapide et premier prompt avec un modèle Mistral)
Préparer l'infrastructure pour un déploiement en entreprise
Préfigurer l'architecture cible : serveur unique, cluster, intégration avec les SI existants
Pré-requis matériels : CPU vs GPU, RAM, stockage, bande passante, dimensionnement de base
…/…
Atelier pratique : définir une architecture cible et une fiche de dimensionnement pour un premier serveur Ollama d'entreprise
Installer et configurer Ollama sur un serveur
Installation d'Ollama sur un serveur Linux : étapes clés et vérifications indispensables
…/…
Atelier pratique : installation complète d'Ollama sur un serveur de test et vérification d'accès via API depuis un poste client
Gérer les modèles Mistral et autres modèles IA
Télécharger, installer et mettre à jour un modèle Mistral avec Ollama (pull, list, remove)
Comprendre l'impact des différentes tailles de modèles (7B, 8B, 12B, etc.) sur la performance
…/…
Atelier pratique : déployer plusieurs variantes de modèles Mistral, comparer leurs temps de réponse et ajuster les paramètres d'inférence
Exposer Ollama aux applications internes
Découvrir l'API HTTP d'Ollama : endpoints principaux, formats de requêtes et réponses
…/…
Atelier pratique : développer un petit service interne (chat ou complétion de texte) connecté à un modèle Mistral déployé sur Ollama
Sécuriser et gouverner l'usage d'Ollama en entreprise
Identifier les risques : fuites de données, prompts sensibles, dérives d'usage
Mettre en place des restrictions d'accès par réseau, authentification et journalisation
…/…
Atelier pratique : définir une politique d'usage et un document de bonnes pratiques IA pour les utilisateurs internes
Supervision, optimisation et maintenance du service Ollama
Surveiller l'activité : logs, métriques de performance, consommation CPU/GPU/RAM
…/…
Atelier pratique : construire un mini plan d'exploitation (monitoring, sauvegarde, mises à jour) pour le serveur Ollama d'entreprise
Bilan et plan d'actions pour le déploiement en production
Synthèse des choix techniques et organisationnels réalisés pendant la formation
…/…
Atelier pratique : élaborer une feuille de route personnalisée pour passer du serveur de test à un service Ollama opérationnel en production
Conditions d'accès
Bonnes bases en environnement Linux (ligne de commande), notions de reseau (ports, firewall, proxy), premieres notions sur l IA generative et les API web
Rythme
Temps plein
Liste des sessions
Dawan Bourdelle
- 0972377373
- contact@dawan.fr
Centre de formation
Lieu de formation