Apprendre sur un usage dont on peut contrôler la sortie

En 2023, l'IA générative rend visible une nouvelle possibilité : produire rapidement une première version de texte, une synthèse ou une proposition de formulation. La vitesse impressionne, mais elle ne prouve ni la justesse du contenu ni l'adéquation au travail. Une réponse fluide peut mélanger une information exacte, une extrapolation plausible et un fait inventé. Le premier enjeu de direction est donc de choisir un usage où l'erreur peut être repérée avant de produire une conséquence, et où le temps de contrôle ne dépasse pas le gain espéré.

Cette analyse rétrospective a été rédigée en 2026. Elle distingue les repères disponibles en 2023 des recommandations officielles ultérieures, citées comme éclairage actuel. Toutes les situations et mesures ci-dessous sont fictives et pédagogiques ; elles ne décrivent aucune mission CYTIZEN. Le périmètre proposé est une assistance à la rédaction, sans action automatique ni décision individuelle déléguée au modèle. Cette limite ne rend pas les essais inutiles : elle permet d'observer le bénéfice, les erreurs et la charge de vérification avant de changer davantage le processus.

Un premier essai : préparer une réponse depuis un corpus autorisé

Imaginons un service d'assistance fictif qui répond aux questions sur des procédures internes non sensibles. Les agents utilisent un petit ensemble de fiches validées. Ils peuvent demander une proposition de réponse, puis vérifier les références et modifier le texte avant envoi. Le corpus ne contient ni dossiers clients, ni données de personnel, ni secrets commerciaux. Les questions du test sont fabriquées ou anonymisées selon une méthode validée. Le chef d'équipe compare cette assistance à la préparation habituelle sur des cas de complexité comparable.

Le choix du corpus est déjà une décision métier. Chaque document reçoit un propriétaire, une date de validité et un périmètre d'utilisation. Une ancienne procédure ne devient pas fiable parce qu'elle est indexée. Les contradictions sont résolues avant le test ou signalées comme un motif d'abstention. Si deux fiches donnent des délais différents, la bonne sortie est une demande de vérification, pas une moyenne inventée. L'accès documentaire doit respecter les droits des utilisateurs : le moteur ne doit pas retrouver pour un agent un document auquel cet agent n'a pas accès.

Un contrat d'usage explicite

ÉlémentRègle fictive remplieResponsable
Entrée autoriséeQuestion pédagogique et procédure interne publiée, sans secret ni donnée personnelleResponsable métier et sécurité
Sortie attendueBrouillon court, références aux fiches, incertitude visible, aucune promesse nouvelleAgent relecteur
Corpus24 fiches valides ; retrait des versions remplacées ; accès limitésPropriétaire documentaire
Action interditeEnvoi automatique et mise à jour autonome des procéduresResponsable de l'outil
Arrêt immédiatSecret exposé, référence inexistante acceptée ou restriction d'accès contournéePilote avec sécurité
Décision de poursuiteGain net positif et erreurs critiques détectées avant usageDécideur métier

Ce contrat évite de confondre disponibilité technique et autorisation d'emploi. Un abonnement ou une démonstration réussie n'autorise pas automatiquement toutes les catégories de données. Les conditions du fournisseur doivent être examinées : usage des entrées, conservation, accès, localisation pertinente, sous-traitance et possibilités de suppression. La sécurité et le délégué à la protection des données interviennent sur les risques qui les concernent. Un utilisateur ne doit pas porter seul l'interprétation contractuelle d'un outil simplement parce qu'il sait mieux formuler ses questions.

Le prompt définit la tâche, pas la vérité

Un prompt utile précise le rôle de l'assistance, la tâche, les documents autorisés, le format attendu et la conduite en cas d'information absente. Par exemple : préparer un brouillon à partir des fiches fournies, citer leurs identifiants, ne pas inventer de délai et signaler toute contradiction. Ces instructions améliorent la lisibilité du travail demandé, mais elles ne garantissent pas que le modèle les suivra toujours. Demander « réponds uniquement si tu es certain » ne fournit pas une mesure fiable de certitude et ne remplace pas une vérification externe.

Les instructions doivent rester séparées des contenus consultés. Un document, une pièce jointe ou un texte utilisateur peut contenir une demande malveillante ou une consigne trompeuse. Le système ne doit pas traiter cette consigne comme une autorité supérieure. Dans un premier essai, on évite les outils capables d'envoyer des messages, de modifier des fichiers ou de déclencher une transaction. On inclut néanmoins des cas de test où un document demande d'ignorer les règles. L'objectif est d'observer et de limiter une défaillance, pas de croire qu'un prompt élégant supprime cette catégorie de risque.

Contrôler une sortie à trois niveaux

La vérification commence par les faits : les chiffres, délais, noms et références existent-ils dans le corpus ? Elle examine ensuite le sens : la synthèse conserve-t-elle les exceptions et les conditions de la règle ? Enfin, elle examine l'usage : le texte peut-il être envoyé à cette personne, avec ce niveau de détail, sans nouvelle promesse ? Une sortie peut être grammaticalement excellente et échouer aux trois niveaux. La personne qui valide doit connaître suffisamment le sujet pour reconnaître une réponse persuasive mais incorrecte.

Une hallucination est ici un contenu non étayé présenté comme établi. Elle peut être petite, comme un identifiant de fiche inventé, ou déterminante, comme une exception absente de la procédure. Une référence affichée n'est donc pas une preuve suffisante : le relecteur ouvre la source et vérifie qu'elle soutient réellement l'affirmation. Le corpus réduit certaines erreurs en fournissant du contexte ; il ne garantit pas leur disparition. Si aucune fiche ne répond à la question, l'abstention ou l'escalade vers un expert est une sortie acceptable et parfois la meilleure.

Évaluer le gain net plutôt que le temps de génération

Avant l'essai, le pilote prépare un jeu de questions comprenant des cas ordinaires, des exceptions, des documents contradictoires et des questions sans réponse. Il garde une partie des cas à l'écart de l'amélioration des prompts. Sinon, un bon résultat peut refléter un réglage sur les exemples connus, sans démontrer la capacité à traiter un nouveau dossier. Les relecteurs utilisent une grille commune : correction factuelle, qualité des références, confidentialité, respect des conditions et effort nécessaire pour obtenir une réponse utilisable.

Le gain net de temps est le temps de préparation habituel moins le temps de formulation de la demande, de lecture, de vérification et de correction assistées. Dans un exemple fictif, une réponse habituelle demande douze minutes ; l'assistance consomme deux minutes de demande, quatre de vérification et trois de correction. Le gain net est trois minutes, et non les dix minutes suggérées par une génération en deux minutes. Si la vérification découvre une erreur grave, le cas compte dans la qualité même lorsque la correction finale est réussie.

Le taux de sorties directement utilisables est le nombre de brouillons ne nécessitant aucune correction de fond divisé par tous les brouillons évalués. Le taux d'erreurs critiques compte les sorties qui pourraient provoquer une action incorrecte, une exposition de secret ou une promesse non autorisée. On conserve également le taux d'abstention justifiée ; le faire baisser à tout prix encouragerait les réponses inventées. Aucun score moyen ne compense une fuite de données. Les conditions d'arrêt sont définies avant les essais et peuvent déclencher une suspension même si les utilisateurs apprécient l'outil.

Organiser l'apprentissage sans élargissement implicite

Le responsable métier décide du périmètre et de la poursuite. Le propriétaire documentaire corrige les fiches. Le responsable technique garde la version du modèle, les paramètres utiles et la configuration du corpus. Les relecteurs signalent les sorties problématiques dans un registre expurgé de données sensibles. Chaque modification importante du modèle, des instructions ou des documents déclenche une nouvelle vérification ciblée. Un essai satisfaisant sur des procédures générales ne valide pas une extension aux réclamations personnelles ou aux recommandations réglementées.

Le dispositif est arrêté si une information interdite entre dans le service, si un droit d'accès est contourné ou si les contrôles ne sont plus réalisés. Il est corrigé lorsque les erreurs restent localisables et que le coût de correction peut être réduit. Il est abandonné si la tâche exige systématiquement une expertise plus longue que la préparation manuelle. Cette issue n'est pas un échec d'innovation : elle indique que l'usage choisi ne crée pas de valeur nette dans ses conditions actuelles. L'apprentissage doit produire une décision, pas simplement une collection de démonstrations séduisantes.

La limite d'usage varie avec la conséquence

Dans un service commercial, un brouillon doit préserver les tarifs, les engagements et les exclusions ; une nouvelle promesse exige une validation humaine habilitée. Dans l'industrie, une synthèse documentaire ne devient pas une instruction de sécurité ni une autorisation de maintenance. Dans la santé, un support rédactionnel ne doit pas être assimilé à un diagnostic ; les informations de patient imposent un examen distinct. Dans une administration, une formulation accessible ne remplace pas la règle applicable ni l'examen individuel d'une demande. La conséquence de la sortie détermine le contrôle nécessaire.

Les premiers usages contrôlés deviennent utiles lorsque les équipes savent ce qu'elles peuvent demander, ce qu'elles doivent vérifier et quand s'abstenir. Former seulement à la rédaction de prompts laisse de côté le choix des données et la responsabilité de la sortie. Une formation courte doit donc utiliser un brouillon erroné, une référence trompeuse et une question sans réponse, puis faire pratiquer l'escalade. La capacité à refuser une sortie est aussi importante que la capacité à en produire une rapidement.

Sources : repères de 2023 et éclairage ultérieur

Trois sources officielles vérifiées en octobre 2026. La méthode d'essai, les tableaux et les chiffres sont des propositions pédagogiques propres à l'article.