Fine-tuning
Le fine-tuning consiste à reprendre un modèle de langage déjà entraîné (un LLM généraliste) et à le réentraîner partiellement sur un jeu de données propre à un domaine, un ton ou une tâche. Le modèle conserve ses capacités générales, mais s'aligne mieux sur le vocabulaire, les formats et les cas d'usage de l'entreprise.
Il devient pertinent quand le prompt engineering et le RAG ne suffisent plus : style rédactionnel très contraint, classification métier complexe, ou format de sortie qui doit rester stable à très grand volume. Sur un projet de génération de fiches produit, par exemple, un fine-tuning sur quelques milliers d'exemples validés peut produire un ton et une structure plus constants qu'un prompt long. C'est un investissement plus lourd qu'un RAG, à réserver aux cas où le gain de qualité ou de coût le justifie.
Le piège classique est de lancer un fine-tuning trop tôt, alors qu'un bon prompt et une base documentaire bien indexée auraient suffi. Fine-tuner coûte du temps (préparation des données, entraînement, évaluation) et fige le modèle : chaque évolution des règles métier peut obliger à réentraîner. On commence presque toujours par du prompting et du RAG, et on ne fine-tune que lorsque les limites sont mesurées, pas imaginées.
