Comment gouverner vos agents IA ?

1. Pourquoi gérer un agent comme un compte utilisateur ?

Parce qu'un agent agit avec des accès. Un assistant conversationnel répond et s'arrête. Un agent IA lit un dossier, rédige, écrit dans un logiciel, envoie un e-mail. Il a donc besoin des mêmes choses qu'un compte : une identité, des droits, une revue de ces droits, une date de fin.

Votre DSI applique déjà ce cycle aux personnes. Pour les DSI, le Work Trend Index 2026 en tire une conséquence : traiter les agents comme des entités gérées, avec des identités, des permissions, l'application des règles et la gestion de leur cycle de vie, en étendant la rigueur déjà appliquée aux personnes et aux applications¹. La correspondance, ligne à ligne :

Une différence impose plus de rigueur pour les agents : l'échelle de l'erreur. Quand chaque dossier passe par une main humaine, une erreur est individuelle (identifiable, attribuable, corrigeable). Un agent répète la même erreur sur tous les dossiers du même profil, jusqu'à ce que quelqu'un s'en aperçoive. Un e-mail faux à un étudiant se corrige par un appel ; mille e-mails faux deviennent une crise. Le même rapport le formule ainsi : approuver une sortie fautive reste gérable, laisser passer des sorties fautives à grande échelle accumule le risque¹.

La CNIL et le CIANum nomment, dans leur note exploratoire du 20 juillet 2026 sur l'IA agentique, deux risques : le partage des responsabilités entre acteurs, que traitent les trois responsables désignés pour chaque agent (section 4), et une cybersécurité étendue à l'ensemble des services connectés à l'agent, que traite la limitation des accès (section 3)².

2. Combien d'agents avez-vous en service, et lesquels ?

Vous ne le savez probablement pas. Les agents entrent par plusieurs portes : un prototype d'une équipe, une fonction ajoutée à un logiciel déjà acheté, un compte personnel. La réponse tient dans un registre, une feuille par application.

En en-tête : l'application, les trois noms (conception, surveillance, signature), la personne qui tient la feuille, la date à laquelle le DPO a été informé. Puis une ligne par tâche confiée à un agent :

Pour la colonne « Type d'agent », quatre valeurs suffisent : 1) il répond seul ; 2) il lit vos documents ; 3) il lit, écrit et envoie ; 4) il répartit le travail entre plusieurs agents. Le niveau d'autonomie est défini à la section suivante.

Deux règles rendent la feuille utile : un agent absent du registre n'a pas le droit de fonctionner, une tâche sans responsable non plus.

La feuille sert aussi pour l'AI Act. Le haut risque se juge par usage (annexe III, point 3 : l'accès et l'admission, l'évaluation des acquis, le niveau d'enseignement, la surveillance des examens), avec des obligations à partir du 2 décembre 2027³. Ajoutez une colonne « annexe III : oui ou non » et justifiez la réponse en une phrase. Vos conventions de stage n'y sont pas ; votre admission, si.

3. Quels accès leur donner, lesquels jamais ?

Un agent, ce sont trois éléments : un modèle qui raisonne, ce qu'on lui donne à lire, les outils qu'on lui accorde. Réglez son autonomie sur les outils et les accès ouverts. La capacité du modèle n'entre pas dans ce choix.

Feng, McDonald et Zhang (2025) proposent cinq niveaux d'autonomie, définis par ce qui reste à l'humain et décidés à la conception⁴ :

1. 1)Opérateur : l'humain fait, l'agent suggère.
2. 2)Collaborateur : l'agent produit, l'humain relit tout et agit.
3. 3)Consultant : l'agent agit, l'humain est consulté quand un cas sort du cadre.
4. 4)Approbateur : l'agent prépare l'acte, l'humain l'approuve avant qu'il parte.
5. 5)Observateur : l'agent agit seul, l'humain lit le tableau de bord.

Dans une scolarité : lire la FAQ et proposer une réponse qu'un gestionnaire recopie relève du niveau 1 ou 2 ; rédiger une réponse qu'un gestionnaire relit et envoie lui-même, du niveau 4 ; répondre directement à l'étudiant, du niveau 5. Sans réglage écrit, un assistant mis en service peut se retrouver au niveau 5 sans que personne l'ait décidé.

Trois règles sont à trancher par votre direction :

1. 1)Le niveau maximal par type d'acte. Par exemple : niveau 4 au plus vers un étudiant ou un candidat ; niveau 5 vers un collègue, avec 10 % des sorties relues ; niveau 2 au plus pour tout ce qui prépare une décision sur une personne. Ces seuils sont des propositions, à fixer par vous.
2. 2)Le changement de niveau. Monter d'un niveau, c'est ouvrir un accès de plus : une décision écrite, signée d'un nom, réversible. Redescendre se fait sur simple décision du responsable de la surveillance, le jour même.
3. 3)Les accès techniques. Un compte par agent, des droits limités à sa tâche et retirés à son arrêt, aucun mot de passe ni aucune clé dans une consigne. Demandez à votre DSI quel compte utilise chaque agent en service, et vérifiez que ce n'est pas celui de la personne qui l'a construit.

Ce qu'un agent ne fait jamais : décider d'une personne. Pour une admission, une note ou une dérogation, l'agent prépare et trace, le jury ou le responsable décide.

Parmi les pratiques de contrôle décrites par Shavit et al. (2023), cinq gestes sont à vérifier pour chaque agent du registre⁵ : 1) restreindre l'espace d'action de l'agent ; 2) exiger une approbation humaine pour les actes sensibles ; 3) pouvoir relire pourquoi l'agent a fait ce qu'il a fait ; 4) attribuer chaque acte à un agent et à son responsable ; 5) pouvoir l'arrêter tout de suite.

Un accès ouvert aujourd'hui sert encore demain. En 2026, un modèle réussit seul, une fois sur deux, une tâche qui demande 16 heures à un expert ; cette durée double tous les sept mois et atteindrait 64 heures fin 2027 si la courbe tient⁶. Un accès accordé cette année servirait alors, fin 2027, à des agents capables de mener seuls des tâches quatre fois plus longues : limitez-le à la tâche dès maintenant.

4. Qui répond de ce que fait un agent ?

Trois personnes, nommées par agent :

1. 1)Qui conçoit : écrit les consignes, décide des accès, garde chaque version.
2. 2)Qui surveille : lit le journal, fixe les seuils, peut arrêter l'agent.
3. 3)Qui signe : répond de ce qui sort (la réponse au candidat, l'attestation, le courrier).

Écrivez le nom d'une personne, jamais celui d'une fonction. « La scolarité » ou « la direction » ne répondent de rien. Après un incident, ces trois noms disent qui a écrit la consigne, qui aurait dû voir l'erreur et qui a laissé partir la sortie.

Deux textes s'appliquent. Pour un établissement public, toute décision individuelle prise sur le fondement d'un traitement algorithmique doit le mentionner à l'intéressé (code des relations entre le public et l'administration, article L. 311-3-1)⁷. Pour un usage à haut risque, à partir du 2 décembre 2027, l'AI Act exige un contrôle humain effectif (article 14) et charge l'établissement déployeur de confier ce contrôle à des personnes compétentes (article 26 §2), de conserver les journaux six mois au moins (article 26 §6) et d'informer les personnels avant la mise en service (article 26 §7)³.

La revue des accès se fait à trois rythmes, comme pour les comptes :

1. 1)Chaque semaine, la personne qui surveille lit le journal. Trois indicateurs suffisent pour commencer : la part des sorties validées et le délai de validation (un gestionnaire qui valide tout en trois secondes ne relit plus) ; la dérive (des cas traités correctement le mois dernier qui échouent aujourd'hui sans changement de consigne) ; le hors périmètre (les demandes que l'agent n'a pas su traiter, qui montrent où la règle manque).
2. 2)Chaque mois, la DSI et le DPO revoient le registre, les accès, les coûts et la dérive de l'ensemble des agents.
3. 3)Chaque année, ou après un incident, un audit indépendant vérifie que les règles sont appliquées, que le registre est complet et que les preuves du contrôle humain existent. Un contrôle externe demandera probablement ces preuves en premier.

Reste le départ : l'arrêt de l'agent, possible à tout moment, par au moins deux personnes habilitées, dont une hors de l'équipe qui l'a construit. Faites-le une fois en essai avant la mise en service.

Ce cycle recoupe les quatre fonctions du cadre de gestion des risques de l'IA du NIST (AI RMF 1.0, 2023) : gouverner (les règles de la section 3), cartographier (le registre), mesurer (le journal lu), gérer (monter, descendre, arrêter)⁸.