Autonomie létale : pourquoi la valeur d'option justifie d'imposer un humain dans la boucle

Le 4 avril 2026, la sénatrice du Michigan Elissa Slotkin a déposé l'AI Guardrails Act of 2026. Le texte pose trois interdictions : la surveillance de masse assistée par IA, toute action létale autonome engagée sans validation humaine, et toute décision de lancement nucléaire prise indépendamment par un système d'IA. Slotkin prévoit de le pousser via le National Defense Authorization Act plutôt que comme texte isolé — une méthode qui a déjà fait ses preuves à Washington pour des dispositions touchant à l'IA militaire.

Le contexte immédiat est le différend entre Anthropic et le Pentagone, ce dernier ayant désigné l'entreprise comme risque pour la chaîne d'approvisionnement avant de réduire ses contrats. Mais le texte de Slotkin ne se limite pas à un fournisseur : il fixe une limite structurelle, applicable à tout système d'IA impliqué dans une décision à conséquence létale ou nucléaire, quel qu'en soit le fournisseur.

L'angle éthique — ne pas déléguer à une machine le pouvoir de tuer — est le plus intuitif et le plus souvent mobilisé dans le débat public. Il est juste, mais il laisse de côté une question que les décideurs industriels et budgétaires posent systématiquement : quel est le coût économique de la contrainte ? Un humain dans la boucle ralentit la décision ; dans un contexte où la vitesse de décision est elle-même présentée comme un avantage opérationnel, exiger ce ralentissement a un prix. La question n'est donc pas seulement « est-ce moral ? » mais « est-ce rationnel, y compris du point de vue de l'efficacité opérationnelle ? ».

La théorie de l'irréversibilité, formulée par Kenneth Arrow et Anthony Fisher en 1974 dans le cadre de la préservation environnementale, répond précisément à cette question. Leur résultat : lorsqu'une décision est irréversible et que l'information disponible au moment de décider est incomplète mais va s'améliorer avec le temps, la valeur attendue d'une action ne se résume pas à son bénéfice immédiat moins son coût attendu. Il faut soustraire une composante supplémentaire — la valeur d'option — qui mesure ce qu'on perd en renonçant à la possibilité d'attendre une meilleure information avant d'agir irrémédiablement.

Appliqué à une frappe létale autonome ou à un lancement nucléaire, le raisonnement est direct. Une cible mal identifiée, un signal d'alerte erroné, une erreur de classification : rien de tout cela ne se répare après coup. Le temps gagné en laissant l'IA décider seule — quelques secondes, parfois quelques minutes — n'a de valeur que si l'information disponible à cet instant est déjà fiable à un niveau suffisant. Or c'est précisément l'inverse qui caractérise les situations à haut risque : l'information s'affine le plus souvent dans les instants qui suivent le premier signal, pas avant. Imposer un point de validation humaine, c'est donc acheter du temps au moment où l'information a le plus de chances de se corriger — exactement la logique que décrit la valeur d'option.

Ce cadre a une implication pratique directe pour les contractants aérospatiaux et de défense : la conformité à ce type de texte ne se démontre pas par une déclaration d'intention, mais par une architecture de décision auditable — un point de passage humain identifiable, horodaté, et documenté dans la chaîne allant de la détection à l'action. C'est un chantier d'ingénierie autant que de gouvernance, et il devient un critère de différenciation dans les appels d'offres fédéraux à mesure que ce type d'exigence se généralise au-delà du seul DoD américain.

Reste une tension que la théorie de l'irréversibilité met elle-même en lumière sans la trancher : au-delà d'un certain seuil, retarder systématiquement la décision a lui aussi un coût — celui de perdre l'initiative face à un adversaire moins contraint. L'enjeu réglementaire des prochaines années ne sera donc pas de choisir entre vitesse et prudence dans l'absolu, mais de calibrer, cas par cas, le point où la valeur d'option cesse de dépasser le coût du délai.