Ce que recouvre une intégration de LLM et de RAG
Aussi appelé : intégration LLM, RAG entreprise, intégration IA dans le SI, API LLM et connecteurs MCP.
L'intégration LLM et RAG consiste à ajouter des capacités d'intelligence artificielle à des outils que vous utilisez déjà, plutôt qu'à construire une nouvelle application autonome.
Concrètement, on relie un modèle de langage (LLM) et une couche de RAG (recherche sur vos données) à votre CRM, votre ERP, votre intranet, votre GED ou vos applications métier, via des API et des connecteurs.
Vos outils gagnent alors des fonctions nouvelles : générer un résumé ou un brouillon depuis une fiche, répondre à une question à partir de vos documents, classer ou enrichir une donnée, déclencher une action à partir d'un texte. C'est la voie pertinente quand vous ne voulez pas remplacer votre système d'information mais l'augmenter, en gardant vos outils et vos habitudes.
Le travail porte autant sur la qualité des réponses (ancrage RAG, choix du modèle) que sur la robustesse de l'intégration (API maintenables, gestion des erreurs, sécurité des échanges). L'enjeu est d'ajouter de la valeur là où vos équipes travaillent déjà, sans créer un énième outil à ouvrir en parallèle.
- On branche un LLM et une couche RAG sur vos outils (CRM, ERP, intranet, GED) via API et connecteurs MCP.
- Vos applications gagnent des fonctions IA ancrées dans vos données, sans remplacer votre système d'information.
- Intégration robuste de production : authentification, droits d'accès, gestion des erreurs, maîtrise des coûts d'appel.
- Code des connecteurs livré : vos équipes techniques maintiennent et font évoluer l'intégration.
Cinq étapes, de la cartographie à la procédure de migration
Cartographier les points d'intégration et les flux
Nous listons avec votre DSI les applications concernées, les données lues et écrites, les droits de chaque profil et les flux réseau. Votre responsable de la sécurité valide cette cartographie avant la première ligne de code.
Choisir le fournisseur, la région et la couche d'abstraction
Le modèle se choisit sur un jeu de tests métier, puis la région d'exécution selon vos contraintes contractuelles. Une couche d'abstraction isole l'identifiant du modèle, pour qu'une migration se fasse sans réécriture.
Prototyper un point d'intégration, journaux compris
Le premier cas tourne sur vos données de recette, avec une journalisation complète dès le premier jour. La qualité des réponses, la latence (le temps de réponse) et le coût par appel servent la décision suivante.
Industrialiser : identité, quotas, erreurs, mode dégradé
Nous branchons votre fournisseur d'identité, posons des quotas par application, traitons les erreurs et écrivons la procédure de contournement. Les tests de non-régression entrent dans votre intégration continue, la chaîne qui teste et déploie le code.
Transmettre la procédure de migration
Vos équipes reçoivent le code, la documentation d'architecture et une procédure écrite pour changer de modèle : rejouer les tests, comparer, basculer. Un propriétaire interne suit les annonces de retrait des fournisseurs.
Si plusieurs applications réclament un modèle de langage, un audit IA classe les points d'intégration.
Quatre paliers pour intégrer un modèle à votre SI
Repérer les points de branchement
Nous dressons avec la DSI la carte des applications concernées, de leurs API et des données qu'un modèle aurait le droit de lire, ainsi que les contraintes de sécurité de chacune.
Prototyper un branchement
Un premier point d'intégration fonctionne en conditions réelles, journaux compris, pour valider la valeur pour les utilisateurs et les choix techniques avant d'en ajouter d'autres.
Industrialiser
Identité des utilisateurs, quotas, gestion des erreurs et mode dégradé quand le fournisseur ne répond pas : la brique devient un composant exploitable par votre équipe d'exploitation.
Préparer la fin de vie du modèle
Nous remettons la procédure qui permet de changer de modèle ou de fournisseur sans réécrire les applications, avec le code, la documentation et le jeu de tests à rejouer.
Les composants d'une intégration
Une couche d'abstraction isole le fournisseur de modèle, la recherche dans vos données (RAG, la récupération de passages juste avant la réponse) s'appuie sur vos droits, les connecteurs passent par vos API ou par MCP, et chaque appel laisse un journal exploitable par votre DSI.
Une couche d'abstraction place le fournisseur de modèle derrière une interface stable, ce qui permet d'en changer quand un modèle est retiré. La recherche dans vos données applique les droits de l'utilisateur, les connecteurs passent par vos API ou par MCP, et la mise en cache des consignes réduit le coût des appels répétés.
Le fournisseur et la région de traitement se choisissent selon vos règles de conservation des données.
Notre manière de développer et de documenter est présentée sur la page développement d'agents et d'outils IA.
Où brancher un modèle selon votre activité
Le point d'intégration change avec le métier : le CRM d'un distributeur, la GED d'un cabinet, le produit d'un éditeur.
Éditeurs de logiciels (SaaS)
Ajouter des fonctions IA (résumé, génération, recherche sémantique) à un produit existant via API, sans refondre l'application.
Services et conseil
Brancher un assistant de rédaction sourcé dans les outils internes (CRM, espace documentaire) pour gagner du temps sans changer d'environnement.
Industrie
Connecter un modèle à l'ERP et à la GED technique pour générer des fiches, des résumés et des réponses à partir des données existantes.
Banque, finance et assurance
Intégrer une recherche sourcée et une aide à la rédaction conforme dans les outils métier, avec traçabilité et contrôle des accès.
Un modèle de langage s'intègre comme un composant qui a une date de fin de vie
Une API de modèle ressemble à n'importe quelle API, jusqu'au jour où le modèle appelé disparaît. Le 30 septembre 2026, Anthropic a prévenu ses développeurs que Claude Sonnet 4.5 quitterait son API le 30 novembre 2026, avec un remplaçant recommandé. Le préavis minimal annoncé pour un modèle public est de 60 jours.
Une intégration sérieuse prévoit donc dès le départ la migration, les tests qui la valident et la personne qui la conduit. Ce guide traite ces sujets avec ceux que votre responsable de la sécurité posera : les droits, la région d'exécution, la journalisation et la facture.
Trois architectures branchent un modèle sur votre système d'information
La première appelle l'API du modèle depuis l'application elle-même : un bouton « résumer le compte » dans le CRM envoie la fiche et reçoit un texte. La deuxième passe par un serveur MCP, qui ouvre une partie de votre ERP ou de votre GED aux assistants IA de l'entreprise : ils consultent un stock ou une commande selon les droits définis dans le serveur.
La troisième crée un service interne partagé, avec recherche sur vos données, quotas et journaux, que plusieurs applications consomment.
Le choix dépend du nombre de consommateurs. Un seul écran justifie rarement plus qu'un appel direct, et plusieurs assistants qui lisent les mêmes systèmes justifient un serveur MCP.
Les pages voisines couvrent des produits finis : l'assistant documentaire répond dans un corpus, le copilote interne travaille dans les outils d'une équipe, l'automatisation documentaire transforme des pièces entrantes en données. L'intégration fournit la plomberie qu'ils consomment, et votre DSI en garde la maîtrise.
MCP est devenu un standard ouvert que votre DSI peut adopter
Anthropic a publié le protocole MCP (Model Context Protocol) en code ouvert le 25 novembre 2024, pour relier les assistants IA aux systèmes où vivent les données. Le 9 décembre 2025, l'éditeur l'a confié à l'Agentic AI Foundation, un fonds de la Linux Foundation cofondé par Anthropic, Block et OpenAI, avec le soutien de Google, Microsoft et AWS.
Anthropic comptait alors plus de 10 000 serveurs MCP publics actifs. Pour une DSI, ce changement de gouvernance réduit la dépendance à un seul éditeur.
La spécification décrit trois rôles. L'hôte désigne l'application d'IA. Le client assure la connexion depuis l'hôte.
Le serveur fournit des outils (des fonctions que le modèle peut appeler), des ressources (des données) et des modèles de messages. Le texte prévient que les outils équivalent à une exécution de code arbitraire et exige le consentement explicite de l'utilisateur avant leur appel.
Sa révision du 28 juillet 2026 rend le protocole sans état et déprécie trois fonctions (Roots, Sampling et Logging), avec un préavis d'au moins douze mois avant leur retrait.
Les droits de l'utilisateur voyagent dans un jeton d'accès émis pour un seul destinataire
Quand un assistant interroge votre ERP pour le compte d'un commercial, tout se joue dans l'identité utilisée. Cette identité circule sous forme de jeton d'accès, l'autorisation numérique que l'application présente au système.
La spécification MCP interdit le relais de jeton : tout jeton présenté à un serveur MCP doit avoir été émis pour ce serveur précis, faute de quoi il est refusé. Sans ce contrôle, un jeton dérobé ailleurs ouvre vos systèmes, et vos journaux attribuent les requêtes à une autre identité. La même spécification recommande des droits progressifs, en lecture d'abord.
L'ANSSI pose les mêmes garde-fous dans son guide de 2024 sur les systèmes d'IA générative. Les flux entre le système d'IA et vos applications sont documentés, filtrés, chiffrés et authentifiés, avec un contrôle des autorisations en plus de l'authentification (recommandation R26). Aucune action critique sur le système d'information ne part sans contrôle humain (R9).
Nous en tirons trois règles d'architecture : l'action s'exécute avec les droits de l'utilisateur qui l'a demandée, le système métier décide de l'autorisation, une personne valide les opérations à fort impact.
La région d'exécution se règle fournisseur par fournisseur, et contrat par contrat
Les fournisseurs offrent des garanties géographiques différentes. Sur l'API d'OpenAI, les données envoyées ne servent pas à l'entraînement sauf accord explicite du client, et les journaux de surveillance des abus sont conservés jusqu'à 30 jours.
Un projet peut stocker ses données en Europe, au sens de l'Espace économique européen et de la Suisse, avec un traitement régional pris en charge en Europe. Sur l'API d'Anthropic, le paramètre de géographie d'inférence n'accepte que deux valeurs : « global » ou « us ».
L'inférence limitée aux États-Unis y coûte 1,1 fois le tarif standard sur les modèles récents. Pour faire tourner Claude dans une autre région, la voie passe par Amazon Bedrock ou Google Cloud, où la région dépend du point d'accès retenu. Ces choix relèvent du contrat autant que du code.
Au cadrage, votre responsable de la sécurité et votre DPO (la personne chargée du respect du RGPD) les valident, puis nous les consignons dans le dossier d'architecture remis avec le code.
La facture se pilote dans le code, appel par appel
Un modèle se facture au jeton (token), une unité de la taille d'un fragment de mot, en entrée comme en sortie. Les instructions et les documents de référence répétés à chaque appel pèsent lourd.
La mise en cache du début de requête réduit ce poste : chez Anthropic, une lecture en cache coûte en règle générale 0,1 fois le prix normal d'un jeton d'entrée, et l'écriture initiale 1,25 fois pour un cache de cinq minutes. La révision 2026 de MCP recommande aux serveurs de lister leurs outils dans un ordre stable, pour améliorer ce taux de cache.
Le reste tient à la discipline d'exploitation. Chaque application reçoit un quota et une limite de débit, chaque appel est journalisé avec son coût, et un tableau de bord rapproche la dépense du volume traité. L'ANSSI recommande de journaliser les requêtes, les traitements appliqués avant l'envoi au modèle, les appels d'outils et de données, puis les réponses (R29).
Elle demande aussi un mode dégradé : une procédure qui laisse les métiers travailler quand le modèle ne répond plus (R15).
| Sujet | Question à trancher | Repère vérifié |
|---|---|---|
| Fin de vie du modèle | Qui teste le modèle suivant, et avec quel jeu de tests ? | Anthropic annonce un retrait au moins 60 jours à l'avance |
| Région d'exécution | Où l'inférence tourne-t-elle, et où les données sont-elles stockées ? | API Anthropic : « global » ou « us » ; OpenAI : stockage en Europe par projet |
| Jetons d'accès | Le serveur vérifie-t-il que chaque jeton lui est destiné ? | La spécification MCP interdit le relais de jeton |
| Actions dans le SI | Quelles opérations exigent une validation humaine ? | ANSSI, R9 : aucune action critique automatisée |
| Journalisation | Peut-on reconstituer un échange de bout en bout ? | ANSSI, R29 : requête, prétraitement, appels, réponse |
| Panne du fournisseur | Comment les métiers travaillent-ils sans le modèle ? | ANSSI, R15 : un mode dégradé prévu d'avance |
Retour de mission : onze compétences Claude conçues pour le CRM, l'ERP et la base articles
Chez un distributeur informatique B2B, filiale française d'un groupe européen, 58 salariés perdaient leur temps commercial utile en cotations, en relances de devis, en réponses aux cahiers des charges et en analyses de stock. La direction voulait augmenter leur capacité sans recruter, avec les logiciels déjà en place, de la base articles au CRM en passant par l'ERP. Le projet excluait tout nouveau logiciel.
- La direction choisit avec nous les tâches qui rendent le plus de temps, puis le circuit de validation et les règles de déploiement.
- Dix volontaires deviennent référents après deux jours de formation, en juin 2026 ; chacun en ressort avec une compétence Claude livrée avec des données de démonstration, qu'il remplace par celles de l'entreprise avant la production.
- Avant toute diffusion, la direction relit chaque compétence et arrête trois points : les données qu'elle peut lire, les sources qu'elle cite, les décisions qui restent au commercial.
- La relance des devis passe en tête, validée sur de vrais devis avant la formation ; les référents ajustent les compétences au fil des retours.
- Le déploiement de ces mêmes compétences aux quelque cinquante autres collaborateurs est prévu d'octobre à décembre 2026 ; l'équipe de référents prendra ensuite le relais.
Ce qui en ressort.
Les onze compétences couvrent la cotation depuis le mail d'un client, les réponses aux cahiers des charges appuyées sur l'ERP, les relances, et la surveillance de la marge, du stock et des livraisons. Chacune passe en production une fois ses données de démonstration remplacées par celles de l'entreprise.
Le but reste une cible, écrite comme telle : que 58 personnes pèsent autant qu'une équipe de 70. Pour une DSI, la pièce la plus utile tient en une liste validée par la direction : pour chaque compétence, les données qu'elle a le droit de lire.
Les pièges à connaître
Écrire l'identifiant du modèle en dur dans le code
Le jour du retrait, les appels échouent. L'identifiant se range dans la configuration, un jeu de tests de non-régression valide le remplaçant, et un responsable nommé suit les annonces de retrait du fournisseur.
Relayer le jeton de l'utilisateur vers l'API métier
La spécification MCP l'interdit. Le serveur obtient ses propres jetons, vérifie l'audience de chaque jeton reçu (le destinataire inscrit dans le jeton) et journalise l'identité de la personne derrière chaque requête.
Donner au connecteur les droits d'un administrateur
Avec un compte technique omnipotent, une injection de prompt (une consigne cachée dans un texte que le modèle lit) devient une fuite de données. Les droits se limitent aux opérations utiles, en lecture d'abord.
Laisser le modèle décider d'une autorisation
Un modèle se laisse convaincre par une formulation habile. Le contrôle des droits reste dans le système métier, qui refuse l'opération quelle que soit la demande reçue.
Migrer sans relire les notes de version
Sur les modèles Claude récents, une température (le réglage de variabilité des réponses) différente de la valeur par défaut renvoie une erreur 400. Les paramètres dépréciés se repèrent dans la documentation du fournisseur avant chaque migration.
Le budget d'une intégration
Une intégration démarre autour de 10 000 € pour un premier point de branchement. Étendue à plusieurs systèmes, elle monte au-delà de 100 000 € et jusqu'à quelques centaines de milliers d'euros, selon le nombre d'applications et le niveau de sécurité exigé.
Le forfait se fixe sur devis après le cadrage, et la proposition écrite décrit le périmètre, les livrables et le calendrier. Le coût d'usage s'y ajoute : nombre d'appels, taille des contextes, part des requêtes servies par le cache. La région d'exécution le modifie aussi, puisque l'inférence limitée aux États-Unis coûte 1,1 fois le tarif standard chez Anthropic.
Nous fournissons une estimation mensuelle à partir de vos volumes, puis le tableau de bord qui la vérifie en production.
Les systèmes à brancher
Chaque application ajoute son authentification, ses droits et ses cas d'erreur. Une API documentée se branche plus vite qu'une base de données dépourvue d'interface.
Le sens des flux
Lire une donnée demande moins de travail qu'en écrire une. Toute écriture dans un ERP ou un CRM ajoute une validation humaine, un journal et des tests de reprise sur erreur.
Les exigences de sécurité
Revue par votre responsable de la sécurité, région d'exécution imposée, journalisation détaillée et tests d'intrusion pèsent sur la conception et sur le calendrier.
Le cycle de vie du modèle
Le jeu de tests de non-régression et la procédure de migration se construisent une fois, puis servent à chaque retrait annoncé par le fournisseur.
Pour les autres familles de projets, nos fourchettes sont sur la page prix d'un projet IA.
Un développeur dans votre équipe d'intégration
Dans une DSI, le code d'une intégration passe par vos dépôts, vos revues de code, votre intégration continue et votre gestion des secrets. Un développeur IA détaché en régie travaille dans ces outils et selon vos règles, depuis vos locaux ou à distance.
Il apprend vos conventions, et vos développeurs apprennent les siennes : choix des modèles, jeux de tests, lecture des journaux.
Ce mode convient aussi aux éditeurs de logiciels qui ajoutent des fonctions d'IA à leur produit. Le développeur rejoint l'équipe produit le temps des premières versions, puis la passation transfère la maintenance à cette équipe. Le code reste dans votre périmètre du premier au dernier jour.
Notre méthode de projetIntégration LLM et RAG : les questions des DSI
Votre architecture impose une contrainte que nous n'avons pas traitée ?
Exposez-la-nousLes livrables qui s'appuient sur une intégration
Une équipe technique qui travaille avec votre DSI
Mathias Nizan dirige Masteria, qu'il a fondé à Lyon en 2022, et suit chaque projet jusqu'à la passation. Pour une intégration, il réunit des développeurs qui écrivent la couche d'abstraction et les connecteurs, un consultant qui compare les fournisseurs sur la conservation et la région, et un formateur pour vos équipes techniques.
Masteria n'a d'accord commercial avec aucun fournisseur de modèle.