Imaginons la situation suivante : une collaboratrice ou un collaborateur qui se marie le mois prochain demande à l’assistant IA interne combien de jours de congé exceptionnel il ou elle peut poser.
La réponse indique quatre jours, comme le prévoit le Code du travail. Or, l’accord d’entreprise en accorde six.
Ce cas n’a rien d’inhabituel. En effet, de nombreuses organisations mettent un modèle d’IA générative à la disposition de leurs salariés sans pour autant lui donner accès à leur base de connaissances interne. L’outil génère ainsi de la frustration, car ses réponses ne sont pas fiables.
Un LLM (ces modèles d’IA capables de générer du texte) sait beaucoup de choses en général. En revanche, il ne connaît pas vos documents, vos données, et encore moins ce qui a changé depuis sa phase d’entraînement. La technique du RAG comble ce manque.
Un nouvel arrivant brillant… qui n’a jamais ouvert l’intranet
Un LLM, c’est un peu comme un nouvel arrivant très cultivé à son premier jour. Il connaît le Code du travail par cœur ainsi que les principes RH, et s’exprime avec aisance. Mais il n’a jamais ouvert l’intranet : il ignore les accords d’entreprise ou encore les procédures internes. Interrogé, il répond donc avec ce qu’il sait en général, et avec beaucoup d’assurance.
Le RAG, c’est lui donner accès aux bons documents et lui demander de les consulter avant de répondre.
RAG est d’ailleurs l’acronyme anglais de Retrieval-Augmented Generation (génération augmentée par la recherche). Le principe : chercher d’abord l’information pertinente, puis générer une réponse qui s’appuie sur elle.
Les trois étapes du RAG
Le RAG s'orchestre la plupart du temps en trois étapes clés :
- Préparer la bibliothèque : les documents sont d’abord découpés en passages, puis transformés en empreintes de sens (embeddings) avant d’être stockés dans une base vectorielle.
- Retrouver : à chaque question de l’utilisateur, le système recherche les passages les plus proches en sens, et pas seulement en mots-clés.
- Générer : le LLM reçoit la question et les passages trouvés, avec la consigne de répondre uniquement à partir de ces sources et de les citer.
Comment le RAG se différencie du fine-tuning ?
Le RAG, c’est donner au LLM les ressources pertinentes pour répondre à la question de l’utilisateur. Le modèle reste le même : il consulte simplement ces documents avant de répondre.
Le fine-tuning est un procédé qui consiste à poursuivre l'entraînement d'un modèle déjà existant sur un ensemble d'exemples ciblés, afin d'adapter son comportent à un usage précis : un ton, un format de réponse mais aussi un vocabulaire métier.
À noter que ces deux techniques ne s'opposent pas. Le fine-tuning apprend au modèle comment répondre. Le RAG lui donne de quoi répondre, le coeur du modèle ne change pas. Néanmoins, le RAG est plus léger à mettre en place tandis que le fine-tuning est plus coûteux car il faut ré-entrainer le modèle très souvent.
La valeur métier du RAG
Ce que le RAG change concrètement pour les métiers
Le RAG présente de nombreux bénéfices pour les collaborateurs métier.
D'abord, ils gagnent du temps : fini les recherches infinies sur l'intranet ou dans des dizaines de documents PDF. La bonne information arrive en quelques secondes, directement en réponse à leur question. Ensuite, les réponses de l'assistant sont sourcées. Chacun peut vérifier d'où vient l'information en un clic, ce qui renforce la confiance dans l'outil et limite les erreurs.
Le RAG garantit aussi des réponses à jour. Nul besoin de réentraîner le modèle : il suffit de mettre à jour le document concerné pour que l'assistant en tienne compte immédiatement. Enfin, les données restent maîtrisées. Les documents demeurent dans le périmètre de l'entreprise, et chacun n'accède qu'aux informations qu'il a le droit de consulter.
Dans un contexte juridique, un conseiller peut retrouver une clause ou une jurisprudence en quelques secondes, et avec précision, car les réponses renvoient aux documents dont elles sont tirées.
Cette traçabilité n'est pas un détail. En 2023, au Brésil, une décision rendue par un juge fédéral s'est appuyée sur une jurisprudence du Superior Tribunal de Justiça (STJ) qui n'existait pas : elle avait été inventée par ChatGPT, utilisé pour la recherche de précédents. C'est l'avocat de la partie perdante qui a repéré l'erreur, et le Conseil national de justice brésilien (CNJ) a ouvert une enquête. À la suite de l'affaire, la juridiction concernée a recommandé à ses magistrats de ne plus utiliser d'outils d'IA générative ouverts et non homologués pour rechercher des précédents.
Avec le RAG, l'assistant ne puise que dans une base documentaire maîtrisée : textes de loi, décisions réelles, contrats de l'entreprise. Et si une réponse paraît douteuse, la source est là pour la vérifier en un clic.
Réunir les conditions d'un RAG efficace
La valeur d’un RAG dépend directement de la qualité et de la gouvernance des documents qu’il interroge. Par ailleurs, les cas où l’assistant IA génère une réponse fausse avec beaucoup d’assurance (les hallucinations) sont réduits, mais pas supprimés.
Un RAG ne doit jamais devenir une porte dérobée vers des informations confidentielles. Si la base documentaire contient à la fois la convention collective et les grilles de rémunération individuelles, l’assistant doit savoir qui lui pose la question.
Comment savoir si l’assistant répond juste ? La bonne pratique consiste à constituer un jeu de questions de test dont on connaît les réponses exactes, par exemple une cinquantaine de questions RH fréquentes validées par les experts métier, et à vérifier régulièrement que l’assistant trouve le bon document et en tire la bonne réponse.
En conclusion, le meilleur RAG du monde ne sert à rien s’il n’est pas utilisé. Les collaborateurs doivent comprendre ce que l’outil sait faire, ce qu’il ne sait pas faire, et pourquoi il est utile de vérifier ses sources. Sans accompagnement au changement (communication, formation, relais dans les équipes), l’assistant risque de rester un projet technique réussi… mais inutilisé.