Depuis le 30 novembre 2022, et la date de sortie de ChatGPT, le monde de l'entreprise a subi de profonds changements. L'IA est sur toutes les lèvres et de nouveaux acteurs ont émergé.
En parallèle, de nombreuses organisations investissent de nombreuses ressources humaines et financières pour intégrer les données au coeur de leurs processus décisionnels.
BNP Paribas en offre une bonne illustration. Fin 2023, le groupe engage une collaboration avec Mistral AI autour de cas d'usage identifiés dans sa branche Global Markets. Les résultats sont positifs : en 2024, le partenariat devient pluriannuel et s'étend à l'ensemble des métiers. En mai 2026, il est renouvelé pour trois ans, avec un objectif clair : industrialiser l'IA générative notamment, au sein des pôles CIB et CPBS.
Néanmoins, toutes les organisations ne connaissent pas le même succès. Selon l'institut Gartner, seulement 54 % des projets d'IA passent la phase du POC (Proof of Concept). Les causes ne sont souvent pas technologiques, mais aussi organisationnelles.
L'arrivée d'agents IA, ayant la capacité d'agir de manière autonome, pourrait accentuer l'impact de ces failles.
À l'ère de l'IA agentive, une organisation peut-elle encore se passer d'une gouvernance data et IA ?
OUI - La gouvernance freine l'innovation IA
Pour certains, adopter une gouvernance à l'échelle de l'entreprise freine l'innovation IA et ralentit fortement le potentiel de l'IA à améliorer la performance des métiers en automatisant leurs tâches dites « répétitives ».
Encadrer l'usage des données, c'est aussi ajouter des règles, des validations et des intermédiaires. Là où une équipe pouvait hier récupérer un jeu de données en quelques heures, elle doit désormais passer par des demandes d'accès et des circuits de validation. Pour certains, la gouvernance devient alors un frein aux projets IA qu'elle prétend servir.
Également, l'IA agentique reste immature et cantonnée au POC. Plusieurs équipes métiers pourraient considérer cette nouvelle technologie comme étant incapable de répondre à leurs besoins au quotidien.
L'IA est aussi un dispositif lourd, réservé au grands groupes qui ont davantage, les moyens d'investir durablement dans l'IA.
Enfin, L'IA n'est qu'une évolution technique de plus et qui doit être gérée par la Direction SI comme le reste des outils technologiques.
NON - Pourquoi c'est devenu impossible ?
En 2026, bien que l'on soit encore aux prémices de l'IA agentique, il est devenu impossible pour une entreprise, quelque soit sa taille, de se passer d'une gouvernance de la donnée. Tout simplement car l'IA s'alimente en données.
Sans qualité ou traçabilité des données, il n'y pas d'IA fiable. Celle-ci générera des réponses fausses qu'on appelle dans le milieu des "hallucinations". Dans le contexte d'un agent IA, celui-ci sera en incapacité d'être autonome.
Pour qu'il soit autonome sans nécessiter de supervision humaine, un agent IA a besoin d'accéder aux outils. L'humain doit ainsi lui donner les autorisations nécessaires. Ce qui implique une gouvernance d'accès aux données et aux systèmes : quelles informations l'agent peut-il consulter, quelles actions peut-il déclencher, et dans quelles limites ? Un périmètre trop large peut l'amener à modifier, supprimer ou exposer des données sensibles sans que personne ne s'en rende compte.
En outre, l'IA est souvent déjà présente dans la chaîne de valeur, parfois sans que l'organisation le sache. C'est ce qu'on appelle le « Shadow AI » : des collaborateurs qui utilisent des outils d'IA de leur propre initiative, en dehors de tout cadre validé par l'entreprise. L'arrivée de ChatGPT en a été l'illustration la plus frappante. Pour gagner du temps sur la rédaction d'un mail ou la synthèse d'un document, de nombreux salariés y ont collé des informations internes, parfois confidentielles, dans un outil grand public dont ils ne maîtrisaient ni les conditions d'utilisation ni la destination des données.
À ces enjeux d'efficacité s'ajoute une pression réglementaire croissante. Le RGPD impose déjà à toute organisation traitant des données à caractère personnel de documenter et de démontrer sa conformité. L'AI Act, désormais en application progressive, encadre les usages de l'IA selon leur niveau de risque.
Comment se concretise alors une gouvernance data et IA ?
La gouvernance Data désigne tout simplement l'ensemble des règles, processus et rôles qui permettent à une organisation de maîtriser ses données tout au long de leur cycle de vie.
Elle garantit que la donnée est fiable, sécurisée et conforme à la réglementation. Elle donne par exemple des informations précieuses sur l'origine d'une donnée, son usage, qui en a accès, mais surtout qui en a la responsabilité ?
La gouvernance de l'IA prolonge cette logique. Elle encadre la manière dont les modèles et les agents sont choisis, développés, déployés et supervisés : quels usages sont autorisés, les risques acceptables et qui répond des décisions prises par l'IA ?
Les deux sont indissociables : une IA n'est jamais plus fiable que les données qui l'alimentent.
Comme évoqué plus haut, la mise en place d'une gouvernance data et IA implique une composante humaine. On nomme des collaborateurs qui auront des rôles définis et des périmètres précis et qui ont pour mission de s'assurer que la donnée est fiable, accessible, conforme et sécurisée.
On peut citer le rôle du Data Owner qui a pour tâche principale de garantir la pertinence de la donnée. Il veille à instaurer des règles et des processus adaptés pour optimiser la qualité des données.
Comment poser les fondations d'une gouvernance data et IA ?
La conception d'une gouvernance data et IA est un processus qui nécessite l'engagement humain et financier à l'échelle de l'entreprise.
En premier lieu, il faut partir de l'existant : c'est à dire, cartographier les différentes cas d'usage de la donnée dans l'entreprise. Il faut également définir les rôles, la comitologie des différentes instances.
L'acculturation des équipes aux nouveaux processus et méthodes est un maillon essentiel de la conception de la gouvernance en s'appuyant sur des relais d'information qui permettront progressivement une adhésion plus forte de cette nouvelle gouvernance des données.
Chose importante ! La mise en place de la gouvernance data et IA est un processus continue qui s'optimise en fonction des nouvelles innovations technologiques et des besoins métiers. L'IA générative l'a montré : en suscitant de nouveaux usages, elle a obligé les organisations à étendre leur gouvernance des données à l'encadrement des outils, des modèles et de leurs résultats. L'IA agentique, en confiant à des systèmes la capacité d'agir, impose une nouvelle évolution.
La gouvernance data et IA : un accélérateur de création de valeur
Presque quatre ans après la sortie de ChatGPT, les organisations commencent à traiter l'IA comme un collaborateur numérique. Chacun a son identité, des droits d'accès avec un responsable humain identifié. Ses actions sont également tracées dans l'organisation.
Autrefois, la gouvernance était vue comme un sujet de conformité et de contrôle. La tendance est de la positionner comme un créateur de valeur voire un accélérateur : des données bien documentées et accessibles permettent de lancer des projets IA plus vite et de manière plus efficace.
L'IA sert aussi à gouverner notamment pour détecter des anomalies de qualité. La pression reglementaire se fait plus forte aussi avec l'AI Act qui impose des obligations selon le niveau de risque des systèmes d'IA.
Enfin, une gouvernance ne fonctionne que si les collaborateurs la comprennent et l'appliquent. Les organisations investissent de plus en plus dans la formation à l'usage responsable de l'IA
En conclusion, se passer d'une gouvernance data et IA, c'est laisser l'IA s'installer dans l'organisation sans savoir où elle agit, sur quelles données, ni avec quelles conséquences. Nul besoin de tout construire d'un coup : cartographier ses usages, identifier les données critiques et former ses équipes sont déjà des premiers pas décisifs.