Vous trouverez ci-dessous la traduction japonaise du discours d'ouverture prononcé lors de la Conférence européenne sur l'identité et le cloud 2026 (EIC 2026), qui s'est tenue à Berlin le 19 mai. Les diapositives sont disponibles au format PDF à la fin de ce document.
L'ère où le logiciel n'est plus seulement un outil.
Bonjour, tout le monde.
Nous entrons désormais dans une ère où le logiciel n'est plus simplement un outil.
Pendant longtemps, les logiciels ont servi à exécuter des instructions. Ils traitaient des formulaires, déplaçaient des enregistrements, effectuaient des calculs, appliquaient des flux de travail et connectaient des systèmes.
Mais aujourd'hui, les logiciels commencent à se comporter comme des employés humains.
Ce ne sont pas des employés humains. Ce ne sont pas des entreprises. Ce ne sont pas des collègues au sens humain du terme.
Il s'agit d'un acteur numérique qui se comporte comme un employé.
Nous leur confions des missions et des tâches, nous leur donnons les moyens d'agir et nous leur fournissons les outils nécessaires. Nous attendons d'eux qu'ils coordonnent leurs efforts, prennent des décisions, rendent compte à la direction, délèguent leur autorité et obtiennent des résultats concrets.
Lorsque les logiciels deviennent capables de telles choses, les questions de gouvernance prennent une autre forme.
La question n'est plus simplement : « Le modèle peut-il répondre correctement ? »
Il ne s'agit pas seulement de savoir si l'application peut appeler l'API en toute sécurité.
La question à se poser est :
- Qui a approuvé ce travail ?
- Quelles intentions se reflètent ici ?
- Quel type d'autorité a été déléguée ?
- Qu'est-ce qui a changé au cours du processus d'exécution ?
- Qui peut arrêter cela ?
- Et lorsque des conséquences se produiront, qui sera tenu responsable ?
- à propos de ça.
Logiciels en tant que personnel et identité
Pour aborder ce sujet, j'aimerais commencer par une proposition simple :
Lorsque le logiciel devient un employé, l'identité devient la pierre angulaire de la gouvernance.
L'intelligence artificielle d'Agentic ne se limite pas à la sécurité des modèles, ni même à celle des applications. Son principal enjeu réside dans la gestion des autorisations déléguées.
Déléguer l'autorité soulève toujours des questions d'identité, de propriété, de contrôle, de preuves, de responsabilité et de confiance.
Les applications traditionnelles fonctionnaient généralement dans le cadre d'une interface définie. L'application recevait des instructions, exécutait des fonctions et renvoyait des résultats.
Cependant, les agents sont différents.
Les agents reçoivent des objectifs généraux et décident de la manière de les atteindre. Cela peut impliquer la sélection d'outils, l'appel d'API, la création de sous-tâches, la collaboration avec d'autres agents, l'adaptation aux circonstances et l'action au-delà des frontières organisationnelles.
C'est pourquoi« Personnel numérique »Cette phrase est utile.
Bien sûr, ce n'est pas parce que les agents sont humains.
Traditionnellement, nous attendons de nos collaborateurs qu'ils se voient fixer un objectif général, puis qu'ils décident et mettent en œuvre la méthode pour l'atteindre.
Nous leur confions des tâches, leur donnons les moyens d'agir et attendons des résultats. Et finalement, quelqu'un doit assumer la responsabilité de leurs actes, comme s'il s'agissait de nos subordonnés.
Ce phénomène ne se limite pas aux interactions entre humains et agents ; il commence à se manifester entre agents. Les agents qui reçoivent des demandes indiquent désormais leurs compétences, leur zone d’intervention, leurs qualifications et les certifications requises, et les clients consultent ces informations avant de leur confier une mission.
La fonction qui découvre les métadonnées relatives à la partie requérante est appelée fonction de découverte. Cette fonction est également utile dans ce cas.
Cependant, dès que la source des métadonnées échappe à son contrôle, la question se pose : « Peut-on vraiment lui faire confiance ? »
On ne sait pas immédiatement si ce que dit cet agent est vrai, ni qui se cache derrière lui.
Il pourrait y avoir un État soutenant le terrorisme derrière tout cela.
Mais avant même cela, il y a la question : l’agent à qui j’ai parlé hier et l’agent avec lequel je suis actuellement en contact sont-ils la même personne ?
Continuité et cohérence de l'identité de l'agent
Passons maintenant au premier problème difficile.
Que signifie pour des agents d'être « le même agent » ?
Pour les employés, l'identité reste continue et cohérente (uniformité). Même en apprenant, en changeant de rôle et en acquérant de l'expérience, ils demeurent la même personne en termes de responsabilités.
Cependant, dans le cas des agents d'IA, cette continuité et cette cohérence ne sont pas aussi évidentes.
Si le modèle change, s'agit-il toujours du même agent ?
Si le message du système change, est-ce le même agent ?
Si la mémoire est réinitialisée, fusionnée ou partagée, s'agit-il toujours du même agent ?
Que se passe-t-il lorsque la chaîne d'outils change ? Que se passe-t-il lorsque le fournisseur modifie sa politique ? Que se passe-t-il lorsque l'environnement d'exécution change ? Que se passe-t-il lorsqu'un sous-agent est remplacé ? Que se passe-t-il lorsqu'une mission est transférée d'un exécuteur à un autre ? À quoi fait-on exactement confiance ?
Et qui est le « propriétaire » responsable de ces actions ?
Cela soulève alors la question suivante :
Qui est le propriétaire ou le contrôleur de fait de l'agent ?
Tout agent agissant avec autorité a besoin d'un propriétaire responsable.
je"Ultimate Bot Owner (UBO)"ん す。
UBO.
Cette expression est intentionnelle. En matière de réglementation sur le blanchiment d'argent, la notion de véritable propriétaire de l'entreprise (VPE) est essentielle. Le VPE auquel je fais référence ici est précisément celui-ci. L'importance du VPE réside dans le fait que la responsabilité ne doit pas être entravée par une entité juridique purement formelle. Il est indispensable de bien comprendre ce qu'est le VPE avant de confier toute mission à une entreprise.
Autrement, l'ensemble du réseau d'agents déployés serait exposé à des risques inacceptables. Cette mesure est nécessaire pour atténuer les risques liés à la chaîne d'approvisionnement.
Mission
Un autre aspect que j'aimerais aborder dans cette présentation est notre « mission ».
Cela est différent d'une « invite ». Une « invite » est une instruction.
C'est également différent d'une session. Une session est,C'est un lieu où les agents peuvent poursuivre leur travail.La mission est différente.
Une mission est un mandat précis confié à une personne ou un groupe pour atteindre un objectif spécifique ; elle justifie la poursuite de son activité. Elle comprend les objectifs, les contraintes, l’autorité, les ressources, le calendrier, les politiques applicables, les exigences en matière de preuves et un cadre de responsabilisation pour les actions d’une ou plusieurs entités.
Les missions, les agents et les sessions sont des concepts indépendants et ne doivent pas être confondus. Une mission peut durer plus longtemps qu'un agent, ou se terminer avant la fin de celui-ci. Si une session est toujours en cours lorsqu'une mission se termine, il peut être judicieux de la terminer également.
Les actions et les sessions des agents sont limitées par la mission. Les agents ne doivent agir que pour accomplir la mission.
Une mission doit avoir un périmètre clairement défini, être vérifiable, pouvoir être suspendue et être justifiée.
Autrement, les systèmes à base d'agents n'effectueraient pas seulement des tâches, mais transféreraient également des autorisations sans enregistrement fiable de leur origine.
Les humains assignent des missions aux agents.
Les agents définissent les tâches et décident des actions à entreprendre dans le cadre des pouvoirs discrétionnaires qui leur sont délégués.
Comme les agents sont presque toujours incapables d'assumer leurs responsabilités, il devient souvent nécessaire d'impliquer des humains dans le processus pour obtenir une approbation.
La supervision humaine est importante.
Le jugement humain est parfois essentiel dans les actions à fort impact, les procédures judiciaires, les décisions réglementées, les transferts financiers, les communications externes ou les divulgations irréversibles.
Une question d'échelle
Cependant, si nous essayons de tout faire de cette manière, nous serons confrontés à des problèmes d'échelle.
Un seul employé peut gérer des dizaines, voire des centaines d'agents. Pour une organisation, cela peut représenter des milliers de personnes.
Il est impossible pour un humain d'approuver systématiquement chaque étape. De fait, certaines études suggèrent même que, même avec un seul agent, les confirmations après la troisième tentative pour une tâche deviennent purement formelles.
Si 100 agents devaient demander l'approbation l'un après l'autre à une seule personne, l'approbation deviendrait inévitablement une question d'inertie.
À cette échelle, on ne peut pas laisser la direction prise uniquement à la discrétion humaine. L'approche « humaine dans la boucle » n'est pas nécessairement une forme de gouvernance efficace.
Les approbations rendues sous la pression du temps et avec des informations incomplètes ne constituent pas de véritables décisions. Le Code Claude a déjà abordé cette question.
Il s'agit d'un « traitement automatisé » déguisé en jugement humain.
Nous avons besoin de l'aide d'un agent d'IA — un agent de supervision qui se place du côté du mandant, du délégant.
Cet agent évalue les preuves et les signes de risque, élimine les informations non pertinentes et communique les informations pertinentes au client selon les besoins. Il doit impérativement se ranger du côté de la personne ou de l'organisation qui lui a initialement délégué la mission. Sa loyauté doit être envers le client, et non envers un système cherchant à exécuter la tâche.
L'agent d'exécution doit envoyer des rapports structurés à l'agent de surveillance lorsqu'il formule une intention d'effectuer une action, et pendant son exécution. Exceptions. Modifications. Résultats.
La gestion des événements de type Shared Signals pourrait faire partie de ce système nerveux. Mais disposons-nous de normes concrètes pour la mise en œuvre de tels rapports structurés ?
あ り ま せ ん.
Et ce signal n'est pas un interrupteur d'arrêt d'urgence.
Cela ne représente qu'une partie de la couche de signalisation. Nous avons également besoin d'un plan de contrôle.
Le plan de contrôle doit pouvoir intervenir. Il doit pouvoir suspendre les missions, restreindre les privilèges, désactiver les outils, bloquer la délégation, révoquer les identifiants, isoler la mémoire, faire appel à des humains ou mettre fin à la mission elle-même.
Existe-t-il des protocoles standard pour cela ? Non.
Le système d'IA Agentic est un système de transactions distribuées.
Il existe une autre façon de comprendre le système agentique.
Voilà comment on le voit : comme un système d’objets distribués et un système de transactions distribuées.
La mission commence. L'agent fait appel à des outils, à des API, délègue des tâches à des sous-agents, modifie l'état, envoie des messages et peut produire des résultats en externe.
Il est établi depuis longtemps que le traitement des transactions de longue durée est complexe dans les systèmes distribués classiques. Le modèle Saga considère les transactions de longue durée comme exécutées comme une unité unique, mais divisible en sous-transactions.
L'IA agentique est confrontée au même problème, mais il est encore plus difficile à résoudre.
Le coordinateur peut être partiellement non déterministe. L'exécuteur peut dépendre du modèle. L'étape suivante peut dépendre du contexte.
Par conséquent, les tâches, les outils et les compétences de chaque sous-agent doivent tous déclarer la sémantique de leurs propres conséquences.
Peut-on annuler cette décision ? Une compensation est-elle possible ? Des progrès peuvent-ils être réalisés en vue d’un redressement ? Ou est-elle irréversible ?
L'envoi de brouillons internes peut être annulé. L'annulation de rendez-vous peut donner lieu à une compensation. Les modifications apportées aux flux de travail peuvent être annulées. Cependant, la divulgation de données confidentielles est irréversible.
On ne peut pas mener à bien une mission sans savoir quelles parties peuvent encore être modifiées.
L'IA agentique transforme les transactions distribuées en prise de décision distribuée.
Et ce jugement doit être circonscrit, observable et interceptable.
Publicité par métadonnées via cartes d'agent
Désormais, les projecteurs sont braqués sur les cartes d'agent.
La fiche d'agent est une auto-description de l'agent, incluant son nom, son fournisseur, son terminal, ses capacités, ses compétences, sa méthode d'authentification et ses exigences d'interaction. À terme, elle pourra peut-être même indiquer des caractéristiques transactionnelles, comme la possibilité d'annuler une transaction.
Ces éléments sont importants pour la découverte, la déclaration des fonctionnalités, la découverte des points de terminaison et la sélection du protocole. Toutefois, il est crucial de bien comprendre ce qu'ils permettent de résoudre et ce qu'ils ne permettent pas de résoudre.
La carte de visite de l'agent peut indiquer les compétences qu'il prétend posséder. Toutefois, elle ne vous renseigne pas en soi sur ce qu'il est réellement capable de faire.
- Je ne prouverai pas que je suis apte à cette mission.
- Cela ne prouve pas non plus que l'exécution soit fiable.
- Il ne vérifie pas non plus le modèle, l'invite, la mémoire ni les versions de la politique.
- Ultimate-Bot-Owner ne le prouve pas non plus. Et,
- La partie qui fait confiance à cet agent ne garantit pas qu'il soit digne de confiance dans cette transaction.
Du point de vue de la gouvernance, les cartes d'agent auto-déclarées sont insuffisantes.
Même une carte d'agent signée ne représente qu'un premier pas. La signature atteste simplement qu'une personne clé a signé un document.
Le vérificateur doit également déterminer si le signataire, la clé, l'émetteur et le cadre de confiance sont acceptables à cette fin.
- L'identification n'est pas synonyme de confiance.
- La découverte ne constitue pas une autorité.
- Les métadonnées ne remplacent pas la responsabilité.
Motif SPIFFE/SPIRE
Les modèles SPIFFE et SPIRE sont utiles pour prendre en compte ces éléments.
SPIFFE et SPIRE ne sont pas des spécifications standard pour la gouvernance des agents. Cependant, elles fournissent des modèles dont nous pouvons tirer des enseignements.
Une charge de travail ne devrait pas se contenter de déclarer qui elle est ; elle devrait être authentifiée avant de se voir attribuer cette identité.
Cependant, pour l'IA agentique, l'identité de la charge de travail n'est que le point de départ.
L’attestation peut aider à répondre à la question : « Que fait-on ? »
Toutefois, l'attestation ne peut pas répondre aux questions suivantes.
- Quelle mission est menée à bien ?
- Quel type d'autorité a été déléguée ?
- Quel modèle ou invite a été utilisé ?
- Quelle politique a été appliquée ?
- Une compensation est-elle possible pour cet acte ?
- Qui est le bénéficiaire ultime (UBO) ?
Par conséquent, outre la preuve de la charge de travail, une preuve de mission, une preuve d'autorisation, la sémantique des transactions et des rapports de surveillance sont requis.
Établir des cadres de confiance par le biais de la fédération
C’est là qu’intervient le concept de «fédération».
La carte d'agent indique ce qui est réclamé.
L'attestation fournit des informations sur ce qui est fait.
Les fédérations peuvent vous aider à déterminer quelles revendications ou attestations accorder à votre confiance.
La fédération OpenID définit comment les entités souhaitant interagir établissent des relations de confiance par l'intermédiaire de tiers de confiance appelés « ancres de confiance ». Elle prend en charge plusieurs niveaux d'autorité, et une même entité peut appartenir à plusieurs fédérations. Elle fournit également les composants d'infrastructure technique nécessaires à la construction de réseaux de confiance dynamiques et décentralisés.
La fédération nous permet de vérifier si la clé de signature appartient à une entité faisant partie d'un cadre de confiance que nous approuvons, si une chaîne de confiance valide existe, si des politiques de métadonnées sont appliquées et si la marque de confiance est significative pour cette partie dépendante.
Ceci est extrêmement important dans la gouvernance des agents.
Un monde où chaque partie doit décider manuellement d'accepter ou de refuser chaque agent, fournisseur, registre, émetteur d'attestation et bénéficiaire effectif n'est pas souhaitable.
Une chaîne de confiance et des politiques de métadonnées sont nécessaires. Un mécanisme est indispensable pour déterminer quelles revendications accepter avant toute autorité. À cette fin, un mécanisme de fédération est très utile.
L'importance du recours aux normes
De nombreux composants utiles permettent déjà d'atteindre ces objectifs. Les spécifications relatives à OpenID incluent à elles seules celles listées ici.
- OpenID Connect
- OpenID4VCI/VP
- AuthZEN
- Fédération OpenID
- Cadre de signaux et d'événements partagés OpenID
- et ainsi de suite
Bon nombre d'entre elles ont été vérifiées mathématiquement et formellement du point de vue de la sécurité.
Bien sûr, cela ne suffit pas. Il convient donc de réutiliser ce qui peut l'être et de ne construire que ce qui est absolument nécessaire.
Défis en matière de responsabilité et d'actuariat
Enfin, permettez-moi de poser la question à laquelle toute gouvernance aboutit inévitablement.
Qui subira les pertes ?
Lorsqu'un agent divulgue des données, détourne des paiements, manipule des flux de travail, envoie des instructions incorrectes ou déclenche une réaction en chaîne néfaste, à qui incombe en dernier ressort la responsabilité ?
De ce point de vue également, le rôle de propriétaire ultime du bot devient important.
C’est là que les preuves deviennent cruciales. Sans preuves, la responsabilité s’affaiblit. Le lieu de la responsabilité se réduit à de simples spéculations, et l’assurance n’est plus qu’une conjecture.
L'évaluation actuarielle des risques liés à l'IA agentique n'en est qu'à ses débuts. Toutefois, il est urgent d'agir. Il est temps de mettre en place l'infrastructure de mesure nécessaire.
L'assurance ne se résume pas à des slogans. Il faut des données sur le niveau d'exposition au risque, la fréquence des sinistres, la gravité des dommages, l'efficacité de la gestion, les liens de causalité et les pertes.
Le logiciel devient un employé.
Une gouvernance sur ces questions devient nécessaire.
Il existe des spécifications standard qui peuvent être utilisées.
Cependant, la simple mise en place d'une infrastructure d'agents bien gérée ne suffit pas. De nombreuses lacunes restent à combler.
Pour la communauté Identerati, notre parcours vers la construction d'un écosystème d'agents de confiance ne fait que commencer.
Travaillons tous ensemble et commençons à le fabriquer dès maintenant.