Aller au contenu

Données et IA

Shadow AI : c'est quoi, et que faire quand vos équipes utilisent l'IA sans le dire ?

Par Florent Lable, ingénieur, fondateur de Défilable · publié le

L'essentiel

Le shadow AI, c'est l'usage d'outils d'IA par les salariés en dehors de ce que l'entreprise a autorisé ou sait. Le risque principal : des données de l'entreprise envoyées à un service grand public, dont elle reste responsable. La CNIL recommande d'écrire les usages autorisés et interdits, l'ANSSI d'y proscrire les données sensibles.

Dans une PME, il suffit d'un salarié pressé et d'un compte gratuit. Un commercial colle une proposition dans un assistant pour la reformuler, une assistante fait transcrire une réunion par une application trouvée la veille, un comptable demande à un chatbot d'expliquer un écart dans un fichier client. Personne n'a rien demandé à personne, et la direction ne le sait pas. Cette page explique ce que recouvre ce phénomène, ce que l'entreprise risque vraiment, et comment l'encadrer sans pousser les usages encore plus loin des regards. Les exemples sont fictifs.

Qu'est-ce que le shadow AI ?

Le shadow AI désigne l'utilisation d'outils d'intelligence artificielle par les équipes en dehors de ce que l'entreprise a choisi, autorisé ou simplement connaît. Le terme prolonge celui de shadow IT, qui vise les logiciels installés ou utilisés sans passer par le service informatique. Ce n'est pas une notion juridique : ni le RGPD, ni l'AI Act, ni les recommandations de la CNIL et de l'ANSSI citées ici n'emploient le mot. Ces textes parlent en revanche de ce qui en découle : données envoyées à un tiers, usages non encadrés, responsabilité de l'organisme.

Concrètement, on trouve trois situations :

  • Un compte personnel sur un outil grand public, utilisé pour le travail : assistant conversationnel, traducteur en ligne, outil de résumé.
  • Une fonction d'IA ajoutée à un outil déjà en place, activée par un salarié sans que personne ne regarde ce qu'elle lit : extension de navigateur, transcription automatique des visioconférences, assistant intégré à la messagerie.
  • Un outil autorisé utilisé hors de son cadre : l'entreprise a ouvert un assistant pour rédiger des mails, et quelqu'un y dépose un fichier de paie.

Pourquoi les équipes utilisent-elles l'IA sans le dire ?

Parce que c'est facile, gratuit et que ça marche, souvent sans aucune intention de nuire. L'ANSSI le note sobrement : « De par leur facilité d'usage, il est tentant de recourir à des outils d'IA générative disponibles sur Internet pour traiter des données métier. » S'y ajoutent deux raisons qu'une direction peut corriger : aucune règle n'existe, ou aucune option autorisée n'est proposée. Un salarié qui ne sait pas s'il a le droit, et qui craint de se voir répondre non, choisit souvent de ne pas poser la question.

C'est pour cela que l'interdiction seule fonctionne mal. Elle supprime rarement le besoin, et elle peut rendre l'usage invisible. La question utile n'est donc pas « nos équipes utilisent-elles l'IA ? », mais « avec quels outils, sur quelles données, et qui le sait ? ».

Que risque l'entreprise ?

Le risque principal est que des données de l'entreprise sortent vers un service qu'elle ne maîtrise pas, alors qu'elle reste responsable de ce que fait son personnel. Viennent ensuite les erreurs reprises sans contrôle, et l'absence de trace.

Des données qui sortent de l'entreprise

Pour l'ANSSI, envoyer des textes, des images ou des documents à un service d'IA générative grand public « revient à déposer ces mêmes informations sur un espace de stockage leur appartenant ». Le cloisonnement entre clients et la confidentialité reposent alors sur la seule confiance envers le prestataire. Son guide d'avril 2024 précisait que, dans la majorité des offres, les données envoyées étaient utilisées par le prestataire pour améliorer ses modèles. Les conditions des éditeurs ont évolué depuis ; le guide ChatGPT et données confidentielles fait le point, offre par offre.

L'ANSSI cite les données à ne jamais y envoyer : données personnelles, données contractuelles, juridiques ou financières de l'entreprise, secrets informatiques comme les mots de passe ou les clés d'API. Sa recommandation R34 est nette : proscrire l'utilisation d'outils d'IA générative sur Internet pour un usage professionnel impliquant des données sensibles.

Une responsabilité qui reste à l'entreprise

Le salarié agit, mais c'est l'entreprise qui répond. La CNIL l'écrit : « Dans le cas général, c'est l'organisme utilisateur qui engagera sa responsabilité légale en cas de mauvaise utilisation de l'IA par son personnel. »

Quand des données personnelles de clients ou de salariés partent vers un service non autorisé, la question d'une violation de données peut se poser. Le RGPD la définit (article 4, point 12) comme une violation de la sécurité entraînant, de manière accidentelle ou illicite, notamment « la divulgation non autorisée » de données personnelles. Si c'est le cas, la CNIL rappelle les obligations : documenter l'incident dans un registre interne, le notifier à la CNIL dans les 72 heures s'il présente un risque pour les personnes, et prévenir celles-ci si le risque est élevé. Savoir si un envoi précis entre dans cette définition, et quel risque il présente, reste à apprécier au cas par cas, avec votre délégué à la protection des données ou votre conseil.

Des décisions sans trace

Un texte, une analyse ou un tableau produit par une IA peut être faux tout en paraissant plausible ; la CNIL demande de toujours vérifier les sorties. Avec un outil que l'entreprise ne connaît pas, personne ne sait qu'une réponse envoyée à un client, un chiffre repris dans une note ou une sélection de candidatures vient d'une IA. Il n'existe aucun journal interne à consulter. Pour les systèmes qu'elle gère, l'ANSSI recommande au contraire de journaliser les requêtes et les traitements, afin de pouvoir reconstituer un incident (R29). Un compte personnel ne laisse rien de tel du côté de l'entreprise.

Comment savoir si vos équipes utilisent l'IA ?

En le demandant, d'abord, et en le demandant sans sanction. Un questionnaire court, anonyme si besoin, dit ce qu'aucun outil technique ne voit : quels outils, pour quelles tâches, avec quelles données. Les réponses montrent aussi les besoins réels, qui serviront à choisir un outil autorisé.

Ensuite, quelques vérifications simples :

  • les abonnements à des outils d'IA passés en notes de frais ;
  • les applications tierces autorisées à lire la messagerie, l'agenda ou l'espace de documents de l'entreprise ;
  • les fonctions d'IA activées dans les logiciels déjà en place (visioconférence, bureautique, logiciel métier).

Sur le deuxième point, l'ANSSI recommande de revoir les droits d'accès des outils d'IA générative dès leur activation, puis régulièrement, par exemple tous les mois, parce que les droits donnés par défaut sont souvent trop larges (R35).

Faut-il interdire l'IA au travail ?

Non, aucun texte ne le demande, et ce n'est pas ce que recommandent les autorités. La CNIL recommande à tout organisme d'encadrer l'utilisation de l'IA générative « par des politiques ou chartes internes, définissant clairement les usages autorisés et les usages interdits ». Les interdictions qu'elle évoque portent sur certaines données, et dépendent de l'outil : elles ne sont plus nécessaires, écrit-elle, pour un déploiement sur site sans réutilisation possible par le fournisseur. L'ANSSI, de son côté, proscrit les données sensibles dans les outils grand public, pas l'IA en général.

Ce qu'on en déduit : la réponse au shadow AI n'est pas l'interdiction, mais une option autorisée, assez bonne pour que personne n'ait besoin d'aller ailleurs, avec des règles écrites sur ce qui n'y entre pas.

Que mettre en place, et dans quel ordre ?

Quatre gestes, du plus simple au plus engageant :

  1. Proposer un outil autorisé, avec un compte au nom de l'entreprise, dont vous avez lu les conditions de conservation et d'entraînement. Sans cette option, les règles restent théoriques.
  2. Écrire les règles : outils autorisés, données qui n'y entrent jamais, relecture des sorties, personne à prévenir en cas de doute. Le guide Charte IA en entreprise détaille les points à y mettre, chacun avec sa source.
  3. Former : la CNIL recommande de familiariser les utilisateurs avec le fonctionnement et les limites de ces outils, de les responsabiliser, par exemple par une formation préalable obligatoire, et suggère de proposer des modèles de requêtes pour les tâches courantes.
  4. Garder un canal ouvert : un salarié qui a collé un fichier client par erreur doit pouvoir le dire vite, sans craindre une sanction automatique. C'est ce qui permet de traiter l'incident à temps.

Dans les métiers où les données sont sensibles, une étape s'ajoute souvent : retirer les données identifiantes d'un document avant qu'une IA ne le lise. Le cas du Caviardeur montre un circuit de ce type.

Ce que ça veut dire pour vous

Le shadow AI est souvent le signe d'un besoin réel, mal servi. La page métiers réglementés le résume : soit on s'interdit l'IA, soit on s'en sert en cachette, et aucune des deux n'est une bonne réponse. L'audit décrit dans la méthode part de là : on regarde comment le travail circule vraiment, et on repère où passe la donnée, ce qui est confidentiel, ce qui peut sortir de l'entreprise et ce qui ne le peut pas. C'est ce qui décide ensuite de l'outil. Quand les données sont sensibles, elles restent en Europe ; quand elles ne le sont pas, on prend l'outil le plus efficace et on vous dit lequel.

Sources

On s'appelle ?

Trente minutes pour savoir si ça vaut le coup chez vous.

Vous décrivez la tâche qui vous coûte le plus de temps. On vous dit franchement si une automatisation a du sens, ce qu'elle rapporterait, et à quoi ressemblerait la première maquette.

Disponible pour de nouveaux projets

En visio, créneaux à jour en direct depuis mon agenda.