Agents d’IA autonomes : qui répond quand ils se trompent ?

Les agents d’IA travaillent déjà au sein des entreprises. Une enquête de l’IDC de juillet 2026 indique que 95 % des organisations ont au moins un flux de travail avec agent en production, et près d’une sur quatre en a déjà plus de quinze [1]. La question n’est plus de savoir si l’entreprise va utiliser des agents. Elle est désormais autre : jusqu’où l’agent peut-il aller seul, et qui répond quand il y va ?

Les deux cabinets d’analyse les plus cités du marché répondent de façons qui, à première vue, semblent opposées. Il vaut la peine de lire les deux avec attention, car c’est dans la tension entre elles que se trouve la bonne manière d’opérer des agents.

En bref

• Les agents d’IA agissent déjà seuls : 95 % des organisations ont au moins un flux avec agent en production, selon IDC [1].
• L’autonomie totale n’est pas encore prête : Gartner recommande des déploiements semi-autonomes et prévoit que plus de 40 % des projets d’agents seront annulés d’ici 2027 [2].
• L’autonomie doit être accordée action par action, selon le risque : l’agent fait seul ce qui est réversible, propose ce qui demande du jugement, et ce qui est irréversible passe par deux personnes.
• La responsabilité ne passe pas à l’agent : le devoir de ceux qui dirigent est fiduciaire, et la trace de ce que l’agent a fait est la preuve de la diligence de la personne qui répond [14].

Deux lectures du même marché

L’IDC définit la catégorie par l’autonomie. Dans l’évaluation publiée en octobre 2026, une plateforme d’IA agentique est le système qui permet de construire, déployer, gouverner et orchestrer des agents capables de raisonner, de décider et d’exécuter des tâches en plusieurs étapes sans supervision humaine continue [1]. La même définition exige toutefois que personnes et agents travaillent ensemble dans les processus de l’entreprise, avec escalade et passage de relais à la personne lorsque c’est nécessaire.

Le Gartner met le frein au même endroit. Dans le Hype Cycle de l’IA agentique de 2026, la lecture est que des agents totalement autonomes ne sont pas encore prêts pour la plupart des cas d’entreprise, que la supervision humaine reste essentielle et que les entreprises doivent prévoir des déploiements semi-autonomes [2]. Dans le Hype Cycle de l’IA de 2026, le Gartner prévoit que plus de 40 % des projets d’agents seront annulés d’ici 2027, pour cause de coût, de valeur peu claire et de défaillances dans la gestion du risque [2].

Les chiffres d’adoption divergent eux aussi. Le Gartner parle de 17 % des organisations avec des agents déployés et de 42 % qui comptent en déployer dans les douze mois [2] ; l’IDC parle de 95 % avec au moins un flux d’agent en production [1]. Les enquêtes ont des dates, des échantillons et des définitions différents (un flux avec agent n’est pas la même chose qu’un agent déployé), et c’est pourquoi les chiffres ne s’annulent pas. Ils montrent un marché qui expérimente beaucoup et passe encore peu à l’échelle.

Lues ensemble, les deux sources disent la même chose : la valeur est dans l’autonomie, et l’autonomie ne passe à l’échelle que lorsque quelqu’un peut expliquer, limiter et répondre de ce que fait l’agent.

Notre thèse

Notre façon d’opérer des agents tient en une phrase : une autonomie qui croît avec la preuve, dans des règles que l’entreprise définit, et une personne qui répond toujours.

Concrètement, cela comporte trois parties.

L’autonomie est accordée par action, selon le risque. Vérifier des documents, monter un dossier ou contrôler un stock sont des actions réversibles et à faible risque ; l’agent peut les faire seul, avec une trace de chaque étape. Libérer un crédit au-delà de la politique ou envoyer des données personnelles à un partenaire sont des actions d’une autre nature ; là, l’agent s’arrête, propose, et une personne décide. Une action irréversible exige deux personnes.

L’autonomie monte avec les preuves et descend toute seule. Lorsque l’historique d’une action montre que l’agent réussit dans les limites, la personne responsable peut demander plus d’autonomie pour elle, et une autre personne décide. Si l’agent dépasse les limites de façon répétée, si son comportement change ou si le responsable cesse d’en répondre, le niveau baisse sans attendre personne. Élargir exige une décision humaine ; réduire est automatique.

Toute autonomie a un responsable. L’agent agit toujours au nom de quelqu’un qui a autorité sur ce travail. Si cette personne s’en va, l’autonomie de l’agent part avec elle, jusqu’à ce qu’une autre personne la reprenne. La responsabilité ne reste jamais ni à l’agent ni au fournisseur de l’outil.

Cela se traduit en quatre résultats que la direction suit ensemble : la productivité (ce que l’agent fait seul), le budget (le coût des agents placé à côté du gain mesuré), les contrôles et risques (ce qui reste en dehors de la limite et pourquoi) et l’autorité responsable (qui a délégué, qui a décidé et avec quelle preuve).

Pourquoi la responsabilité ne se délègue pas

Il y a trois raisons, par ordre de poids croissant.

La réglementation. Le règlement européen sur l’IA exige que les systèmes à haut risque puissent être effectivement supervisés par des personnes, que celles-ci puissent interpréter le résultat, décider de ne pas l’utiliser, l’annuler et interrompre le système en toute sécurité [3]. Au Brésil, la LGPD (loi générale de protection des données) donne à la personne concernée le droit de demander la révision de décisions prises uniquement sur la base d’un traitement automatisé et de recevoir une information claire sur les critères utilisés [4]. Des secteurs comme le crédit, la santé et l’assurance ajoutent leurs propres règles à ce minimum.

Les normes de gestion. Le NIST AI Risk Management Framework place la responsabilisation au centre de la fonction de gouvernance : des rôles, des responsabilités et des lignes d’autorité définis pour les risques liés à l’IA [5]. L’ISO/IEC 42001 demande un système de management de l’IA avec des rôles attribués, une évaluation d’impact et un contrôle du cycle de vie des systèmes [6]. Le Gartner, dans sa lecture de l’AI TRiSM, insiste sur le fait que des politiques écrites ne suffisent pas : la gouvernance doit être intégrée et appliquée en continu, pendant l’exécution [7].

L’audit. La question qui parvient au conseil d’administration, à l’auditeur et au régulateur est toujours la même : qui a décidé, avec quelle information et avec quelle autorisation ? Un agent ne signe pas cette réponse. Une personne la signe, et elle doit avoir la preuve en main.

Les objections, prises au sérieux

Une thèse ne tient que si elle résiste aux objections les plus fortes. Voici les cinq que nous entendons le plus.

1. « La supervision humaine ne passe pas à l’échelle. Elle devient un coup de tampon. »

C’est vrai, et la littérature est ancienne. Parasuraman et Manzey ont montré que les personnes face à des systèmes automatisés tendent à la complaisance et au biais d’automatisation : elles acceptent la recommandation sans l’examiner, surtout quand le système a l’habitude d’avoir raison [8]. Le règlement européen sur l’IA cite ce biais nommément et exige que la personne qui supervise soit capable de le reconnaître [3].

La réponse est de ne pas demander à la personne de réviser la routine. Si l’agent peut agir seul dans les limites, la personne n’intervient que sur ce qui en sort, et le volume de révision tombe à ce qui mérite réellement de l’attention. Dans les décisions les plus sensibles, la personne enregistre sa propre évaluation avant de voir la recommandation de l’agent, pour que la recommandation ne décide pas à sa place. Une supervision qui devient un coup de tampon indique que la limite est mal dessinée.

2. « L’autonomie incrémentale est lente. Qui donne l’autonomie totale arrive avant. »

Il arrive avant à l’annulation, si le Gartner a raison sur les 40 % [2]. L’incrément que nous défendons ne fait pas la queue : il se fait action par action et en proportion du risque. Une action réversible peut gagner de l’autonomie rapidement ; une action irréversible n’en gagnera peut-être jamais. L’IDC relève que 69 % des organisations donnent la priorité à des agents spécialisés dans des tâches et des processus précis [1], ce qui est exactement le terrain où l’on peut mesurer et libérer l’autonomie action par action.

3. « La gouvernance est un coût. Elle retarde la valeur. »

Les données indiquent le contraire. Les trois plus grands défis cités auprès de l’IDC sont la transparence et l’explicabilité des résultats (37 %), le coût de déploiement et d’intégration (36 %) et la gestion du changement culturel (34 %) [1]. Le Gartner cite l’observabilité, la cybersécurité et le contrôle proactif des coûts parmi les priorités face à une adoption rapide [2]. Pour entrer dans l’évaluation de l’IDC, la gouvernance est la seule capacité obligatoire, et la mesure de la valeur est l’une des onze évaluées [1]. Sans gouvernance, l’entreprise ne sait pas ce que l’agent a fait ni ce qu’il a coûté. Sans le savoir, elle ne peut pas prouver le retour, et le projet entre dans la statistique des projets annulés.

4. « La loi n’exige pas un humain partout. »

Exact. Le règlement européen sur l’IA exige une supervision humaine pour les systèmes à haut risque, pas pour tous [3]. La LGPD, depuis la modification de 2019, assure le droit à la révision des décisions automatisées, mais n’exige pas que cette révision soit faite par une personne [4]. Notre position s’appuie sur la responsabilité de l’entreprise, au-delà du minimum légal : quelqu’un doit répondre devant le conseil, devant le client et devant l’auditeur de ce qui a été fait au nom de l’entreprise, avec ou sans obligation légale spécifique.

5. « Les grandes plateformes gouvernent déjà les agents. »

C’est également vrai, et l’IDC montre un marché qui converge depuis plusieurs directions : éditeurs d’applications d’entreprise, d’automatisation, de données, de cloud et de modèles [1]. Plusieurs de ces plateformes gouvernent déjà des agents, les leurs comme ceux de tiers. Deux points restent cependant ouverts pour beaucoup d’entreprises. Le premier est l’endroit où l’agent s’exécute : l’IDC relève que 42 % des organisations visent le cloud privé et 34 % leurs propres serveurs pour leurs agents [1], et toutes les plateformes ne l’offrent pas. Le second est la question de qui répond de chaque cas : gouverner l’accès de l’agent est différent d’avoir une personne nommée, avec autorité et preuve, pour chaque action qu’il entreprend.

Comment cela apparaît dans l’opération

Le meilleur test de la thèse consiste à l’amener là où l’erreur coûte le plus. Dans les trois cas ci-dessous, tous illustratifs, la même règle se répète. L’agent fait seul ce qui est routinier et réversible. Il propose ce qui exige du jugement, et une personne décide. Ce qui est irréversible passe par deux personnes. L’autonomie est libérée échelon par échelon, selon le risque de chaque action, et chaque cas a un responsable nommé.

Crédit : la décision que la loi impose d’expliquer

Une société de financement reçoit chaque matin des demandes de crédit à la consommation et de fonds de roulement. La responsable du crédit est la propriétaire du cas : elle définit combien les agents peuvent coûter, ce qu’ils font seuls et l’effet attendu, qui est d’approuver davantage de bonnes demandes sans augmenter les impayés.

• L’agent fait seul : il monte le dossier de chaque demande (fiche client, revenus, consultation de crédit, documents), vérifie les informations et calcule les indicateurs de la politique. Chaque étape laisse une trace, et aucune ne déplace d’argent.
• L’agent propose, une personne décide : l’octroi. Lorsque l’emprunteur est une personne physique, l’évaluation de crédit figure parmi les usages à haut risque du règlement européen sur l’IA [9], et la LGPD donne au client le droit de demander la révision de la décision automatisée qui définit son profil de crédit et de connaître les critères utilisés [4].
• Deux personnes : l’exception à la politique, comme une limite supérieure à ce que la politique permet. Une fois le décaissement effectué, il n’y a plus de retour en arrière.
• Comment l’autonomie croît et baisse : avec l’historique, le renouvellement de limite des clients à jour, dans la politique, peut se faire seul, si la responsable le demande et qu’une autre personne l’approuve. Le client peut toujours demander une révision, et la responsable continue de répondre de chaque renouvellement. Si la performance de ces renouvellements tombe sous ce que la politique accepte, l’autonomie redevient une simple proposition, sans attendre personne.

Santé : approuver est possible, refuser jamais

Un assureur santé reçoit chaque jour des milliers de demandes d’autorisation d’examens et de procédures. Le propriétaire du cas est le médecin responsable de la régulation des soins.

• L’agent fait seul : il vérifie la couverture du contrat, le délai de carence et les documents de la demande, et autorise les examens de routine lorsque tous les critères du contrat sont remplis. Les données de santé sont des données personnelles sensibles au sens de la LGPD [4], et les limites de l’agent définissent aussi quelles données il peut consulter.
• L’agent propose, une personne décide : tout refus. L’agent peut approuver ce qui remplit les critères, mais ne refuse jamais seul. Le refus va à un médecin auditeur, qui décide et signe la justification. Les règles de l’ANS (agence nationale de la santé complémentaire du Brésil) exigent que le refus soit donné par écrit, avec le motif et la clause ou la norme qui le fonde, et assurent au bénéficiaire le droit de demander un réexamen [12].
• Deux personnes : le refus d’une procédure à coût élevé ou d’un traitement continu, comme le traitement oncologique, où l’effet sur le patient peut être grave et difficile à inverser. Le médecin auditeur décide, et une seconde revue clinique confirme.
• Comment l’autonomie croît et baisse : les autorisations automatiques peuvent s’étendre à de nouveaux types d’examens à mesure que l’historique montre des résultats justes. Si l’audit trouve des autorisations indues au-delà de ce que l’assureur accepte, l’agent repasse à la proposition pour ce type de demande.

Risques et conformité : la communication irréversible

Une banque surveille des millions de transactions par mois pour prévenir le blanchiment d’argent. Le propriétaire du cas est le directeur responsable de la prévention du blanchiment d’argent, fonction que la réglementation de la Banque centrale du Brésil (Banco Central do Brasil) exige que l’institution désigne [11].

• L’agent fait seul : il surveille les transactions, les recoupe avec le fichier client et avec les listes de restriction, et monte le dossier de chaque alerte avec l’historique du client.
• L’agent propose, une personne décide : clore une alerte comme faux positif ou la classer comme suspecte. L’analyste décide et consigne le motif.
• Deux personnes : la communication au Coaf, la cellule de renseignement financier brésilienne. Elle est irréversible, et la loi interdit d’en informer quiconque, y compris le client [10]. L’agent prépare la communication pour qu’elle respecte le délai de 24 heures imposé par la loi, mais ce sont deux personnes qui l’envoient, et l’agent ne parle jamais au client de l’alerte.
• Comment l’autonomie croît et baisse : avec l’historique, la clôture d’alertes d’un schéma connu et à faible risque peut se faire seule. Si une revue montre qu’une alerte a été clôturée à tort, l’autonomie de cette action baisse immédiatement, et le schéma retourne à l’analyste.

Dans les trois cas, la question « qui a décidé ? » a toujours un nom, et l’autonomie dont dispose l’agent aujourd’hui est celle que son historique a justifiée. Le coût des agents reste à côté du gain mesuré, et c’est l’entreprise qui arrête le compte.

La façon dont ces limites s’appliquent à des agents de plusieurs plateformes est décrite dans Le dixième déploiement ne se redessine pas et dans l’architecture des agents d’Arcogi.

Où cela se situe sur la carte du marché

Dans le Hype Cycle de l’IA agentique de 2026, la gouvernance et la sécurité de l’IA agentique apparaissent près du pic des attentes, tandis que l’espace de collaboration entre personnes et agents et les agents gardiens en sont encore au début de la courbe [2]. Dans le Hype Cycle des technologies émergentes de 2026, la première priorité indiquée aux DSI est de répartir les décisions entre personnes et machines autonomes, en équilibrant innovation, supervision humaine et préparation de l’organisation [2]. En d’autres termes : le marché a déjà compris qu’il doit gouverner les agents, et commence à dessiner la façon dont personnes et agents travaillent ensemble. C’est dans cette seconde partie que la responsabilité se décide.

Le point : l’autonomie n’exclut pas la responsabilité

L’autonomie des agents est ce qui génère la productivité, et c’est pourquoi elle va croître. Mais l’autonomie n’exclut pas la responsabilité humaine. Donner de l’autonomie à un agent est la décision de quelqu’un, et celui qui décide répond de ce qu’il a décidé.

Se tromper est humain, et les agents se trompent aussi. Ils se trompent autrement : un modèle de langage peut produire une réponse fausse avec toute l’apparence du vrai, et le NIST range cette confabulation parmi les risques propres à l’IA générative [13]. C’est pourquoi la question utile n’est pas de savoir qui se trompe le moins, la personne ou l’agent. La question utile est de savoir si l’erreur apparaît à temps, s’il est possible de la défaire et si quelqu’un en répond. Les limites par risque, la trace de chaque acte et l’autonomie qui baisse toute seule existent pour que les trois réponses soient oui.

La responsabilité de ceux qui administrent une entreprise est fiduciaire. La loi brésilienne sur les sociétés par actions exige de l’administrateur le soin et la diligence qu’une personne active et honnête apporte à ses propres affaires, ainsi que la loyauté envers la société [14] ; le Code civil exige le même soin des administrateurs des autres sociétés [15]. Ce devoir ne se transfère ni à un outil, ni à un fournisseur, ni à un agent. Celui qui délègue du travail à l’agent continue de répondre du résultat.

Il y a un aspect de ce devoir qui passe souvent inaperçu. La même loi sur les sociétés par actions permet au juge d’exclure la responsabilité de l’administrateur qui a agi de bonne foi et dans l’intérêt de la société [14]. Quand un agent se trompe, ce qui montre la bonne foi et la diligence de celui qui répond, c’est la preuve : la limite qui était définie, la trace de ce que l’agent a fait, qui l’a autorisé et pourquoi. La gouvernance des agents protège donc aussi la personne qui en répond.

La question est donc de savoir si l’autonomie croît avec la preuve, dans des règles que l’entreprise comprend et avec quelqu’un qui répond, ou si elle croît dans l’obscurité jusqu’au premier incident.

L’agent agit. La personne répond.

Sources et lectures

1. IDC. IDC MarketScape: Worldwide Agentic AI Platforms 2026 Vendor Assessment. Neil Ward-Dutton et Melih Murat. IDC #US54140926, octobre 2026 (extrait IDC #US54140926e). Enquête IDC de juillet 2026 citée dans le document. lien
2. Gartner. See 3 of the Most Popular Gartner Hype Cycles : Hype Cycle for Agentic AI (2026), Hype Cycle for Artificial Intelligence, 2026, et Hype Cycle for Emerging Technologies, 2026. Gartner, 2026. lien
3. Union européenne. Règlement (UE) 2024/1689 (règlement sur l’intelligence artificielle), art. 14, Contrôle humain. lien
4. Brésil. Loi n° 13.709/2018 (LGPD, loi générale de protection des données), art. 11 (données sensibles) et art. 20 (révision des décisions automatisées), dans la rédaction de la loi n° 13.853/2019. lien
5. NIST. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1, janvier 2023, fonction GOVERN. lien
6. ISO/IEC 42001:2023. Information technology. Artificial intelligence. Management system. lien
7. Gartner. AI Trust, Risk and Security Management (AI TRiSM), article sur gartner.com/en/articles/ai-governance-trism. lien
8. Parasuraman, R. ; Manzey, D. H. Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors, 52(3), 381–410, 2010. lien
9. Union européenne. Règlement (UE) 2024/1689, annexe III, point 5, lettres b et c (évaluation de crédit des personnes physiques ; risque et tarification en assurance vie et santé). lien
10. Brésil. Loi n° 9.613/1998 (loi brésilienne sur le blanchiment de capitaux), art. 11, II, dans la rédaction de la loi n° 12.683/2012 (communication au Coaf en 24 heures, sans en informer quiconque). lien
11. Banco Central do Brasil. Circulaire n° 3.978/2020 (politique, procédures et contrôles internes de prévention du blanchiment d’argent et du financement du terrorisme). lien
12. ANS. Résolution normative n° 623/2024 (service au bénéficiaire ; a abrogé la RN n° 395/2016), en vigueur depuis le 1er juillet 2025. lien
13. NIST. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1, juillet 2024 (risque de confabulation). lien
14. Brésil. Loi n° 6.404/1976 (loi sur les sociétés par actions), art. 153 (diligence), 154, 155 (loyauté), 158 et 159, § 6. lien
15. Brésil. Loi n° 10.406/2002 (Code civil), art. 1.011. lien