Mise en place RAG : un assistant sur vos documents

Le contexte

La connaissance d'une entreprise est éparpillée entre une GED, des espaces SharePoint, des partages réseau, un ERP et des boîtes mail. Retrouver la bonne procédure, la bonne version d'un contrat ou la réponse déjà apportée à un client prend du temps, et dépend souvent de quelques personnes qui savent où chercher.

Un RAG (retrieval-augmented generation) permet à un modèle de langage de répondre en s'appuyant sur vos propres documents, en citant les passages utilisés. Monter une démonstration sur une poignée de fichiers est simple. Ce qui coince ensuite, c'est l'infrastructure : connecteurs qui se désynchronisent, scans illisibles, versions obsolètes, droits d'accès ignorés, absence de mesure de qualité, hébergement incompatible avec la confidentialité des données.

C'est là que se joue environ 70 % d'une mission IA en production : données, réseau, sécurité, CI/CD, observabilité et hébergement. Keltio part de ce socle, avec une variante RAG privé où documents, index et modèles restent hébergés en France, sur OVHcloud, Scaleway ou votre infrastructure.

Pour qui

Services support, SAV ou technique qui passent du temps à chercher la bonne réponse dans une documentation dispersée
Cabinets d'avocats, de conseil ou d'expertise qui veulent exploiter leur fonds documentaire sans l'exposer à un service tiers
Directions métier qui ont testé un chatbot sur quelques PDF et veulent passer à un outil fiable en production
DSI qui doivent garantir que l'assistant ne montre pas à un collaborateur un document auquel il n'a pas accès

C'est pour vous si…

Vos équipes posent plusieurs fois par jour les mêmes questions aux mêmes experts
Vos documents de référence existent, mais personne ne sait vraiment où trouver la version à jour
Un prototype de chatbot documentaire a été testé, sans passer le cap de la production
Vos données sont couvertes par le secret professionnel, un engagement contractuel ou une exigence de souveraineté
Vos collaborateurs copient déjà des documents internes dans des outils IA grand public

Est-ce urgent pour vous ?

Combien vous coûte l'information introuvable ?

Estimez le temps passé à chercher dans vos documents et l'urgence de mettre en place un assistant.

Recevoir une analyse détaillée

Voir comment nous y répondons ↓

Estimation indicative à partir de vos réponses et d'hypothèses prudentes, modifiables. Rien n'est enregistré.

Concrètement

Ce que nous réalisons pour vous

Chaque volet peut être engagé seul ou combiné aux autres : nous ajustons le périmètre à votre existant et à votre objectif.

01

Cadrage et audit des sources

Nous définissons le cas d'usage avec le métier et évaluons les sources qui l'alimenteront.

Questions types, utilisateurs cibles et critères de succès
Inventaire des sources utiles : GED, SharePoint, Drive, ERP
Évaluation de la qualité, des formats, des doublons et des versions obsolètes
Cartographie des accès et des droits existants

02

Connecteurs et ingestion

Nous alimentons le RAG depuis vos systèmes et préparons les documents pour la recherche.

Connecteurs vers vos sources (SharePoint, Drive, Confluence, GED métier, …), avec synchronisation incrémentale
Extraction des données utiles de l'ERP, transformées en texte exploitable
Extraction du texte des PDF, fichiers Office et scans (Docling, Unstructured, OCR, …)
Découpage adapté à la structure des documents et métadonnées : source, date, titre

03

Vector store, modèles et hébergement

Nous déployons la base vectorielle et les modèles selon votre niveau d'exigence sur la confidentialité.

Base vectorielle (pgvector, Qdrant, …), avec recherche hybride vectorielle et mots-clés
Modèles via API, ou modèles open source servis en interne (vLLM, …) pour un RAG privé
Hébergement cloud, cloud souverain (OVHcloud, Scaleway) ou on-prem, en infrastructure as code
Accès aux modèles via une gateway (LiteLLM, …) pour garder la main sur les fournisseurs

04

Pipeline RAG et interface

Nous construisons la chaîne recherche, reranking et génération, et la mettons à disposition des utilisateurs.

Pipeline RAG (LlamaIndex, LangChain, …) avec reranking et réponses sourcées
Reformulation des questions et filtres par métadonnées
Interface de chat web (Open WebUI, …) ou intégration à vos outils (Teams, Slack, outil métier, …) via API
Prompts adaptés au vocabulaire et aux usages de votre métier

05

Droits d'accès et sécurité

Nous faisons en sorte que l'assistant ne révèle jamais un document à quelqu'un qui n'y a pas droit.

Authentification SSO des utilisateurs
Filtrage par groupe, espace documentaire ou ACL document par document
Synchronisation continue des droits depuis les sources
Tests de non-fuite entre profils

06

Évaluation, observabilité et run

Nous mesurons la qualité des réponses et faisons évoluer l'assistant après sa mise en service.

Jeu de questions avec réponses attendues, validé par les métiers
Traçage des requêtes (Langfuse, LangSmith, …) et mesures de pertinence et de fidélité aux sources (Ragas, …)
Dashboards qualité, coût et latence, analyse des questions sans réponse
Formation des utilisateurs et amélioration continue des sources, prompts et découpage

Résultat

Ce que vous obtenez

Un assistant en production qui répond à partir de vos sources et cite les documents utilisés
Des droits d'accès respectés : chaque utilisateur n'obtient que des réponses tirées des documents qu'il peut consulter
Une qualité mesurée en continu sur un jeu de questions validé par vos métiers, et non jugée à l'impression
Une architecture que vos équipes savent exploiter, hébergée là où vos contraintes de confidentialité l'exigent

Livrables

Ce que nous vous remettons

Fiche de cadrage du cas d'usage, questions types et critères de succès
Inventaire et rapport qualité des sources de données
Pipeline d'ingestion, vector store et pipeline RAG en production, avec leur code source
Code d'infrastructure et documentation d'exploitation
Jeu d'évaluation, rapport de tests de droits et dashboards d'observabilité
Guide utilisateur et supports de formation

Pourquoi Keltio

L'IA en production, c'est d'abord de l'infrastructure

≈ 70 %

d'une mission IA en production relève de l'infra et du DevOps. C'est notre métier depuis 2019.

InfraDevOpsCybersécuritéIA

01

L'infrastructure d'abord

Connecteurs, synchronisation, hébergement, haute disponibilité et sauvegardes font la différence entre une démonstration et un outil utilisé. C'est notre métier depuis 2019.

02

Les droits d'accès traités comme un sujet de sécurité

Nous abordons le RAG avec une approche sécurité by design : SSO, respect des ACL et tests de non-fuite font partie du périmètre, pas d'une phase ultérieure.

03

Un RAG privé hébergé en France

Nous savons déployer l'ensemble de la chaîne, documents, index et modèles open source, sur OVHcloud, Scaleway ou votre infrastructure, en infrastructure as code.

04

Une qualité mesurée

Chaque évolution est évaluée sur un jeu de questions validé par vos métiers, avec des traces consultables. Vous savez ce que l'assistant fait bien et où il se trompe.

Démarche

Comment nous travaillons

1
Cadrer
Atelier avec le métier pour choisir le cas d'usage, les questions types et les critères de succès. Audit des sources et des contraintes de confidentialité, qui déterminent l'hébergement.
2
Construire le socle
Connecteurs, ingestion, vector store, modèles et droits d'accès, déployés en infrastructure as code sur l'hébergement retenu.
3
Évaluer et ajuster
Mesure de la qualité sur le jeu de questions, ajustement du découpage, du reranking et des prompts jusqu'à atteindre les critères fixés avec le métier.
4
Mettre en service et améliorer
Ouverture aux utilisateurs avec formation, puis suivi des questions ratées, ajout de sources et de nouveaux cas d'usage.

FAQ

Questions fréquentes

Nos documents quittent-ils nos murs ?

Cela dépend de la variante choisie. Avec le RAG privé, les documents, l'index vectoriel et les modèles open source sont hébergés en France, sur OVHcloud, Scaleway ou votre infrastructure, et aucune donnée n'est envoyée à un fournisseur de modèle tiers. Si vos contraintes le permettent, nous pouvons aussi utiliser des modèles accessibles par API, en le décidant ensemble dès le cadrage.

Un modèle open source est-il suffisant pour un RAG ?

Pour beaucoup d'usages documentaires, oui, car la qualité dépend d'abord de la recherche et de la préparation des documents. Nous comparons les modèles sur votre propre jeu de questions avant de trancher, ce qui évite de choisir sur la base de benchmarks génériques.

Comment l'assistant gère-t-il les droits d'accès ?

Les utilisateurs s'authentifient en SSO et les réponses sont filtrées selon les groupes ou les ACL des documents sources. Les droits sont synchronisés depuis vos systèmes et nous réalisons des tests de non-fuite entre profils avant la mise en service.

Quels prérequis de votre côté ?

Un métier disponible pour définir les questions types et valider les réponses attendues, des accès en lecture aux sources, et un référent pour chaque source de données. Pour SharePoint, une application enregistrée avec les droits API nécessaires.

Que se passe-t-il après la mise en service ?

Un assistant documentaire se dégrade si personne ne suit l'ingestion des nouveaux documents et les questions sans réponse. Nous pouvons assurer le run : surveillance, rapport mensuel qualité et usage, améliorations et ajout de sources. Vos équipes peuvent aussi le reprendre grâce à la documentation d'exploitation.