L'Échelle Usine Sombre

À Quoi Ça Ressemble

Les humains font tout. L'IA existe comme un jouet de productivité - quelqu'un utilise ChatGPT pour écrire des emails plus rapidement, un développeur expérimente avec Copilot. Il n'y a pas de stratégie organisationnelle, pas de gouvernance, pas d'intégration. Le mot "IA" apparaît dans les présentations du conseil mais pas dans la documentation des processus. C'est le Système de Production Toyota avant Toyota. Tout est artisanat, fait main, assemblé manuellement. Variabilité élevée. Débit faible. Résilience élevée - car quand un humain casse, on embauche un autre humain.

Ce Qui Casse en Transition

• L'hypothèse que les suggestions IA sont toujours utiles. Elles ont tort avec assurance de façons que les humains n'ont pas.
• Le contrôle qualité conçu pour les patterns d'erreur humaine ne capture pas les patterns d'erreur IA.
• Le personnel embauché pour le jugement résiste aux outils qui semblent remplacer le jugement.

Exigences de Gouvernance

• Politique d'usage acceptable : ce pour quoi le personnel peut utiliser l'IA et ce qui est interdit.
• Règles de frontières de données : quelles données peuvent être envoyées aux modèles tiers.
• Attente de révision de sortie de base : la sortie IA est un brouillon, pas une décision.

À Quoi Ça Ressemble

L'IA suggère. Les humains décident. GitHub Copilot complète le code ; l'ingénieur accepte ou rejette. ChatGPT rédige le mémo ; le manager édite et envoie. L'humain est toujours entièrement dans la boucle. Le ratio change : la même personne produit plus. C'est le système kanban de Toyota - basé sur la demande, rythmé par l'humain, contrôlé par l'humain. La productivité augmente de 20-40% dans les rôles de connaissance. La pression sur les effectifs commence.

Ce Qui Casse en Transition

• Biais d'automatisation : les humains commencent à accepter les suggestions IA sans les lire attentivement. L'humain est toujours "dans la boucle" mais déconnecté cognitivement.
• Pression de vitesse : si l'IA vous rend 3x plus rapide, le management attend 3x plus de sortie. Le temps de révision qualité disparaît dans les maths de productivité.
• Atrophie des compétences : les compétences sous-jacentes qui permettent aux humains d'évaluer les suggestions IA commencent à s'éroder car elles sont moins utilisées.

Exigences de Gouvernance

• Politique de propriété de sortie : les humains sont responsables de ce qu'ils envoient, peu importe comment c'était généré.
• Standards de divulgation : quand l'implication de l'IA doit-elle être divulguée aux clients, régulateurs, contreparties ?
• Plan de préservation des compétences : identifier quelles compétences humaines doivent être maintenues même si l'IA gère le volume.

À Quoi Ça Ressemble

L'IA exécute des tâches définies de façon autonome. L'humain définit les paramètres et révise la sortie, mais le travail arrive sans présence humaine. Les agents de recherche automatisés tirent des données et produisent des rapports. Les agents de planning réservent des réunions. Les agents de code écrivent et testent des fonctionnalités. Les agents de service client résolvent les tickets niveau 1. C'est la première étape où l'IA prend action dans le monde, pas juste des conseils. Le rôle humain passe de faire à surveiller - ce qui requiert des compétences et patterns d'attention entièrement différents.

Ce Qui Casse en Transition

• Gestion d'exception : les agents échouent aux limites de leur distribution d'entraînement. Les humains surveillants ne regardent pas d'assez près pour capturer les échecs avant qu'ils se composent.
• Diffusion de responsabilité : quand un agent prend une mauvaise décision, personne ne sait qui tenir responsable. Le développeur ? Le fournisseur de modèle ? La personne qui a configuré le workflow ?
• Fiabilité à échelle : un seul agent échouant 1% du temps est gérable. Dix mille agents échouant chacun 1% du temps produit 100 échecs par jour.
• Parallèle FANUC : l'usine Oshino a toujours des humains disponibles pour la maintenance complexe. Les organisations Étape 2 suppriment souvent cette capacité dans la ruée à la transition.

Exigences de Gouvernance

• Registre d'agents : quels agents existent, ce qu'ils font, qui les possède, quelles données ils touchent.
• Chemins d'escalade d'exception : quand un agent échoue, où va l'échec et à quelle vitesse ?
• Seuils humain-dans-la-boucle : définir les types de décision qui requièrent révision humaine peu importe la confiance de l'agent.
• Métriques de fiabilité au-delà de la précision : cohérence, robustesse, prévisibilité, et sécurité ne sont pas capturées par la précision seule.

À Quoi Ça Ressemble

Des fonctions business entières opérées par l'IA avec implication humaine seulement quand le système signale une exception. Le département des comptes fournisseurs traite les factures sans touche humaine. La fonction de surveillance de conformité révise les transactions bout-en-bout. Les opérations de contenu produisent, publient, et optimisent à échelle. Les humains existent dans le département mais leur rôle est intervention, pas opération. L'analogie Toyota est la salle de surveillance éclairée qui surplombe un plancher entièrement automatisé - les humains sont présents mais le plancher n'a pas besoin qu'ils circulent.

Ce Qui Casse en Transition

• L'écart de gouvernance apparaît : les cadres actuels supposent que les humains prennent les décisions. Quand l'IA opère une fonction, les cadres de responsabilité construits pour les acteurs humains ne s'appliquent pas proprement.
• La dégradation des compétences humaines s'accélère : les gens qui gèrent seulement les exceptions perdent la connaissance nécessaire pour bien les gérer. Le tissu cicatriciel n'est pas maintenu.
• Inflation d'exceptions : à mesure que l'IA gère plus, les exceptions qu'elle escalade deviennent de plus en plus complexes. Les humains disponibles pour les gérer sont de plus en plus sous-pratiqués.
• Risque de modèle unique : si un modèle sous-tend une fonction et que ce modèle se dégrade, se comporte mal, ou est déprécié, la fonction entière est affectée simultanément.

Exigences de Gouvernance

• Propriétaires de responsabilité niveau fonction : un humain nommé est responsable de ce que la fonction opérée par IA produit, même s'il ne l'a pas touchée.
• Cadence obligatoire de révision d'exception : pas seulement quand les choses escaladent - échantillonnage régulier des décisions IA qui n'ont pas escaladé.
• Protocole de maintenance des compétences : les humains dans les rôles d'exception doivent régulièrement pratiquer le workflow complet pour garder la capacité.
• Registre de dépendance de modèle : que se passe-t-il si le modèle est changé, déprécié, ou commence à se comporter différemment ?

À Quoi Ça Ressemble

Opération éteinte. L'IA gère l'IA. Les agents d'orchestration déploient, surveillent, ajustent, et retirent d'autres agents. L'implication humaine est stratégique et au niveau des valeurs seulement : fixer les objectifs, arbitrer les conflits de valeurs, répondre aux événements cygne noir que le système ne peut classifier. L'usine Oshino de FANUC fait des robots qui font des robots. À l'Étape 4, votre infrastructure IA configure l'infrastructure IA. Les humains ne sont pas sur le plancher et ne regardent pas le plancher. Ils fixent les paramètres de mission depuis l'extérieur du bâtiment.

Ce Qui Casse en Transition

• L'interprétabilité s'effondre : quand les agents modifient les agents, la piste d'audit de pourquoi une décision a été prise devient effectivement infinie. Aucun humain ne peut la tracer.
• Dérive des valeurs : un système IA optimisant pour une métrique proxy dérivera des valeurs visées avec le temps. Sans humains dans la boucle pour le remarquer, la dérive se compose.
• La capacité de récupération disparaît : si quelque chose va catastrophiquement mal, les humains qui savaient faire fonctionner les fonctions sous-jacentes manuellement sont partis depuis longtemps.
• Les questions de souveraineté deviennent aiguës : qui est légalement, éthiquement, et opérationnellement responsable des décisions prises par un système qui s'est fait lui-même ?

Exigences de Gouvernance

• Override humain irrévocable : un mécanisme que les humains peuvent utiliser pour arrêter le système entier peu importe ce que le système recommande.
• Constitution de valeurs : déclarations explicites, testables de ce que le système est et n'est pas autorisé à faire, encodées dans une forme contre laquelle la couche d'orchestration peut auditer.
• Exercices de récupération manuelle : exercices réguliers dans lesquels les humains font fonctionner les fonctions manuellement pour maintenir la capacité. Si vous ne pouvez pas l'éteindre, vous avez perdu le contrôle.
• Audit souverain externe : un corps indépendant avec autorité pour réviser les systèmes gérés par IA pour l'alignement de valeurs, pas juste les métriques de performance.