Faire tourner un modèle chez toi : Ollama et LM Studio

Un jour, un client te dira : « nos documents ne peuvent pas quitter nos serveurs ». Ce n'est pas de la paranoïa : c'est un cabinet d'avocats, un hôpital, une collectivité, un sous-traitant de la défense. À ce moment-là, tout ce que tu as construit jusqu'ici devient inutilisable, sauf si tu sais faire tourner un modèle chez eux.

Ce chapitre te fait installer un modèle en local en dix minutes, et surtout te donne les chiffres pour savoir quand c'est un bon choix et quand c'est une mauvaise idée.

À la fin de ce chapitre, tu sauras :

• Faire tourner un modèle ouvert sur une machine ordinaire, et le brancher sur ton code existant.
• Dire ce qu'un modèle local sait faire aussi bien qu'une API, et ce qu'il ne sait pas faire.
• Chiffrer honnêtement l'option locale face à l'option distante.