Translate

jeudi 22 octobre 2026

Les Agents IA les plus utilisés en 2026

En octobre 2026, Claude Code domine les agents de code, Hermes Agent et OpenClaw les agents personnels, LangChain et LangGraph les frameworks. Ces trois classements reposent sur des métriques différentes et ne se comparent pas entre eux :

  • Agents de code : enquêtes d'adoption auprès des développeurs.
  • Agents personnels : volume de jetons traités via OpenRouter.
  • Frameworks : téléchargements de paquets et étoiles GitHub.

Cet article dresse ce panorama, puis examine les exigences de confinement, les risques propres aux agents autonomes et la réponse qu'y apporte le cadre UGAIA.


1. Quels agents sont les plus utilisés en 2026 ?

Agents de code — adoption au travail, mi-2026

Selon l'enquête JetBrains (plus de 15 000 développeurs professionnels), 90 % des développeurs utilisaient un agent de code au moins une fois par semaine en mai–juillet 2026, et 68 % chaque jour. Claude Code est l'agent le plus adopté au travail.

Agent Éditeur Adoption au travail Observation
Claude CodeAnthropic~39 %18 % en janvier 2026 ; choisi par 75 % des petites startups
GitHub CopilotMicrosoft / GitHub21 %Prédominant dans les entreprises de plus de 10 000 salariés (56 %)
CodexOpenAI16 %Multiplié par 5 depuis janvier 2026
CursorAnysphere12 %En recul
JetBrains AI / JunieJetBrains~9 %—
OpenCodeOpen source7 %42 % de notoriété
Google AntigravityGoogle6 %Stable

Agents personnels et généralistes — trafic OpenRouter, mai 2026

Hermes Agent (Nous Research) a dépassé OpenClaw le 10 mai 2026 au classement quotidien d'OpenRouter : 224 milliards de jetons par jour, contre 186 milliards.

Agent Éditeur Indicateur
Hermes AgentNous Research (licence MIT)N° 1 en volume quotidien depuis le 10/05/2026
OpenClawOpen source (Peter Steinberger)Devant en cumul au moment du dépassement : 9,17 billions de jetons, contre 6,35 pour Hermes
Kilo Code, Claude Code, pi, Cline, Roo Code, OpenHandsDiversRelevé du 21/05/2026 : Kilo Code 3e (163 Md/jour), Claude Code 5e (64,1 Md), pi 6e (58 Md), Cline 11e, Roo Code 12e, OpenHands 19e

Deux réserves s'appliquent. OpenRouter ne compte que les applications qui acceptent le suivi de leur trafic : Claude Code, Copilot ou Codex utilisés directement chez leur éditeur n'y figurent pas. Le classement varie aussi selon la fenêtre de mesure ; il faut vérifier la page en direct avant toute citation datée.

Frameworks pour construire des agents

LangChain et LangGraph dominent les installations : environ 309 millions et 66,5 millions sur 30 jours au 27 juillet 2026.

Framework Indicateur
LangChain / LangGraph~309 M (LangChain) et ~66,5 M (LangGraph) installations sur 30 jours
CrewAI~10,8 M installations sur 30 jours ; licence MIT ; ~51 000 étoiles GitHub
Mastra (TypeScript)~4,9 M installations par mois
Microsoft Agent FrameworkFusion d'AutoGen et de Semantic Kernel ; v1.0 en avril 2026
n8n (low-code)~190 000 étoiles GitHub, le plus étoilé du panel

Sont également cités : OpenAI Agents SDK, Google ADK, Pydantic AI, LlamaIndex, smolagents et Claude Agent SDK.

Modèles à poids ouverts

Les paramètres, la longueur de contexte, les licences et les besoins en GPU des principaux modèles à poids ouverts (Hermes 4, Llama 3.3, Phi-4, Mistral Small 4, Qwen3-Coder-Next, gpt-oss) sont réunis dans un tableau relevé sur les fiches Hugging Face au 22/10/2026 : consulter le tableau. Ses sources figurent dans l'onglet « Sources ».


2. Confinement réseau des agents IA

L'étanchéité réseau requise pour les agents IA repose sur un confinement strict en Couche 1 (réseau / système d'exploitation), résumé par la règle : « Le prompt exprime, le contexte filtre, le broker contraint, l'OS garantit. » Seule la Couche 1 garantit techniquement l'absence d'exfiltration de données.

Les exigences de confinement en Couche 1

Pour qu'un agent autonome, en particulier de niveau 3 ou 4, soit jugé conforme et gouvernable, son environnement d'exécution doit respecter les contraintes suivantes :

  • Namespace sans route sortante ni DNS : l'agent s'exécute dans un espace isolé, sans route vers Internet ou le réseau externe et sans résolution DNS.
  • Inférence en loopback : la communication entre l'agent ou l'orchestrateur et le modèle de langage (SLM local comme Mistral, Phi-4 ou Llama sous Ollama) passe exclusivement par la boucle locale.
  • Sandbox jetable sans accès réseau : toute exécution de code, de script ou d'outil a lieu dans un conteneur éphémère privé de réseau.
  • UID de service dédié : l'agent fonctionne sous un identifiant système non privilégié, aux droits strictement restreints sur le système de fichiers.

Fermeture systématique des surfaces réseau sortantes

Déployer un modèle local ne garantit pas la souveraineté si des passerelles réseau restent ouvertes. La gouvernance exige la désactivation explicite de toutes les surfaces réseau secondaires :

  • Recherche web et accès URL : retrait des outils de requête HTTP et de navigation web de la liste d'autorisations (allowlist).
  • Navigateurs automatisés : interdiction d'installer des agents de scraping ou de navigation dynamique.
  • Connecteurs inter-agents (A2A) et MCP distants : interdiction des serveurs MCP externes et des canaux d'agent à agent non contrôlés par le broker.
  • Gateways sortants : suppression des connecteurs d'envoi automatique (e-mails, webhooks, API externes).

Grille d'admissibilité et tests de contrôle (profil souverain « Andorre »)

Pour admettre un agent ou une plateforme agentique sur des données critiques (niveau 4), la DSI et le RSSI vérifient les critères bloquants suivants :

  • Test de coupure réseau complète : démontrer que le cycle d'exécution complet de l'agent fonctionne dans un namespace sans route sortante ni DNS.
  • Contrôle de télémétrie par capture nftables : capturer les flux au niveau du système d'exploitation pour prouver qu'aucune requête de licence, d'authentification en ligne ou de télémétrie ne sort.
  • Indépendance vis-à-vis du SaaS : les agents de code et assistants SaaS (Claude Code, Copilot, ChatGPT…) ne pouvant pas offrir ce confinement local en Couche 1, ils sont proscrits pour les données de niveau 4.

3. Risques des agents IA autonomes

Les limites et vulnérabilités des agents autonomes se structurent autour de cinq axes techniques, cognitifs et réglementaires.

Les quatre risques opérationnels majeurs

Contrairement aux chatbots, qui produisent du texte, les agents agissent directement sur les systèmes d'information. Cette capacité d'action introduit quatre risques spécifiques :

  • L'action irréversible : l'agent exécute des opérations (écriture, envoi d'e-mails, suppression de fichiers, modification de droits) sans validation humaine à chaque étape.
  • L'enchaînement d'outils imprévu : une suite d'appels, chacun légitime pris isolément, peut produire un effet global inattendu ou contraire à l'intention initiale.
  • L'exfiltration via les outils : des outils de sortie légitimes (messagerie, requêtes HTTP, webhooks) peuvent devenir des canaux de fuite de données ou relayer des injections de prompt indirectes.
  • La boucle non bornée : l'agent s'enferme dans un cycle d'essais et d'erreurs, consomme des ressources (jetons, puissance GPU) et fait exploser les coûts sans converger.

Les cinq défaillances de gestion du contexte

Gartner et le cadre UGAIA identifient la gestion du contexte comme l'une des principales sources d'échec des agents autonomes :

  • Information perdue : oubli d'instructions ou de données clés situées au milieu d'une longue fenêtre de contexte.
  • Empoisonnement par hallucination répétée : l'agent réinjecte ses propres hallucinations dans sa mémoire à long terme, ce qui aggrave les erreurs futures.
  • Distraction par excès de contexte : une surabondance d'informations perturbe le raisonnement.
  • Confusion par contenu non pertinent : l'agent ne sépare plus les données utiles du bruit.
  • Conflit entre sources : blocage ou décision incohérente face à des sources contradictoires.

L'inefficacité des règles rédigées uniquement dans le prompt

Une règle de sécurité rédigée comme consigne système (dans le prompt ou un fichier SKILL.md) n'est qu'une recommandation : une injection de prompt documentaire suffit à la neutraliser. Par ailleurs, les moteurs de règles sans état (par exemple OPA/Rego) jugent un appel d'outil isolé, sans pouvoir vérifier s'il respecte l'ordre des étapes précédentes.

L'immaturité de la remédiation et du rollback automatisé

Les garde-fous actuels sont préventifs : ils bloquent ou demandent une approbation, mais ne défont pas automatiquement les conséquences d'une action exécutée. Gartner estime que le rollback automatisé des actions d'agents reste embryonnaire, avec un plateau d'adoption à 5–10 ans. La réversibilité doit donc reposer sur des procédures organisationnelles : sauvegardes avant action, transactions compensatoires.

Les limites d'auditabilité et de gouvernabilité

  • L'agent non auditable : un agent dont les appels d'outils et les décisions ne sont pas tracés de façon immuable est non auditable, donc non conforme.
  • L'agent non gouvernable : sans arrêt d'urgence persistant (kill switch) capable d'interrompre immédiatement l'exécution, un agent ne peut pas satisfaire l'exigence de contrôle humain de l'article 14 de l'AI Act pour les systèmes à haut risque.

4. La réponse de la gouvernance UGAIA

Le cadre UGAIA oppose à chacune de ces limites un point d'application vérifiable, selon le principe directeur « Le prompt exprime, le contexte filtre, le broker contraint, l'OS garantit. » Ces contrôles réduisent les risques ; ils ne les annulent pas.

Face aux quatre risques opérationnels

  • Action irréversible : le broker (Couche 2) classe les actions en quatre catégories (READ, DRAFT, SEND, DESTRUCTIVE). Les actions à impact externe (SEND) exigent une validation humaine simple ; les actions critiques (DESTRUCTIVE), une double validation humaine et une sauvegarde préalable obligatoire.
  • Enchaînement d'outils imprévu : AgentLTL contrôle la séquence temporelle de la trace. Il impose un ordre d'exécution (déployer en préproduction avant la production) et lie les variables entre appels (appliquer exactement l'artefact relu). Le broker réévalue les autorisations à chaque décision.
  • Exfiltration via les outils : Presidio pseudonymise les données personnelles avant tout appel d'outil ou envoi externe. Le confinement en Couche 1 enferme l'agent dans un namespace sans route sortante ni DNS, et le broker applique une liste blanche stricte des destinations autorisées.
  • Boucle non bornée et explosion des coûts : le garde-fou « Bornage de la boucle et kill switch » fixe des plafonds d'étapes, de durée et de budget. En cas de dépassement, la passerelle bloque l'exécution et le kill switch persistant interrompt l'agent.

Face aux cinq défaillances de gestion du contexte

  • Contexte surchargé, distrait ou confus : le registre des sources de contexte (phase 4) garantit qu'un agent ne lit que des sources enregistrées, vérifiées et adaptées à son niveau d'habilitation. Le broker applique une allowlist d'outils et de sources restreinte par tâche.
  • Empoisonnement par hallucination et conflits : la provenance est obligatoire en mémoire durable (aucun contenu non sourcé ne devient persistant) ; le principe cite-or-abstain s'ajoute à la détection automatique des contradictions.

Face aux règles « prompt-only »

  • Bascule vers des contrôles appliqués : une consigne dans le prompt ou un SKILL.md reste une recommandation vulnérable aux injections. UGAIA déplace la contrainte vers le broker (Couche 2), via des politiques externes OPA/Rego, et vers l'OS (Couche 1).
  • Règles temporelles opposables (AgentLTL, TR-070) : les instructions sont converties en règles formelles exécutées en modes bloquants (block, ask, stop). Les commandes masquées ou non analysables (eval, variables de commande $CMD) sont refusées pour empêcher tout contournement par reformulation.

Face à l'immaturité du rollback automatisé

Garde-fou 7 — Remédiation par procédure : faute de rollback automatisé mature, UGAIA compense par l'organisation. Aucune action SEND ou DESTRUCTIVE n'est autorisée sans plan de rollback documenté, instantané d'état préalable ou transactions compensatoires testées.

Face aux limites d'auditabilité et de gouvernabilité

  • Garde-fou 5 — Journalisation via mlflow_run_id étendu : chaque décision consigne l'outil appelé, ses paramètres pseudonymisés, la version du modèle, la validation humaine horodatée et l'effet produit. Les journaux sont exportés sur un volume append-only en Couche 1, hors d'atteinte de l'agent.
  • Garde-fou 3 — Kill switch persistant : le RSSI peut interrompre le système en temps réel. Le coupe-circuit désactive les outils, survit au redémarrage et bloque le lancement de tout nouveau run.
  • Garde-fou 8 — Évaluation continue : suites de tests automatisées (hallucination, toxicité, dérive) en intégration continue et en production, avec seuils bloquants.

Sources


Pierre Erol GIRAUDY — about.me/giraudyerol

UGAIA · uga-ia.blogspot.com · larselesrse.blogspot.com · cluboffice2010.blogspot.com · erolgiraudy.eu

samedi 3 octobre 2026

Prospective sur l’évolution des métiers de l’IA et de leur gouvernance.

Synthèse : les trois couches d’ingénierie IA et l’émergence d’un nouveau métier.

Ce texte met en évidence une transformation profonde : on passe du Prompt Engineering (interaction directe) → au Context Engineering (mémoire, RAG, connaissances) → au Harness Engineering (orchestration d’agents, outils, workflows).

https://gouver2020.blogspot.com/2026/09/mieux-surveiller-et-parametrer-les.html

Ces trois couches ne sont pas des spécialités isolées mais les niveaux d’un même métier, celui de l’Architecte des Systèmes Cognitifs IA, capable de concevoir des systèmes complets combinant :

  1. prompts robustes,

  2. contextes métier structurés,

  3. mémoire et taxonomies,

  4. agents IA autonomes,

  5. outils et APIs,

  6. gouvernance, sécurité, observabilité.

Le texte décrit également une pyramide de compétences allant du Prompt Engineer (L1) au niveau expert L5 : Architecte des Systèmes Cognitifs.

Prospective : comment ces métiers vont évoluer (2026–2035).

1. De l’ingénierie du prompt à l’ingénierie des boucles autonomes

La tendance déjà visible dans votre page — loop engineering — va s’accélérer.

Évolution probable

Les prompts deviennent des composants, non plus des artefacts humains. Les systèmes IA génèrent eux-mêmes leurs instructions internes. Le métier se déplace vers la conception de boucles autonomes (analyse → action → vérification → amélioration).

Conséquence métier

Le Prompt Engineer disparaît comme rôle autonome. Il devient une compétence de base, intégrée dans des rôles plus larges.

2. L’ère des systèmes cognitifs orchestrés

Le Harness Engineering devient le cœur de la valeur économique.

Évolution probable

  1. Les entreprises déploient des systèmes multi‑agents supervisés.

  2. Les workflows deviennent auto‑adaptatifs (agents qui modifient leurs propres stratégies).

  3. Les connecteurs MCP deviennent un standard d’interopérabilité.

  4. Les systèmes IA sont intégrés dans les chaînes d’exécution métier (ITSM, DevOps, finance, juridique, santé).

Conséquence métier

Apparition de rôles spécialisés :

  1. AI Orchestration Engineer (opérationnel)

  2. Agentic Systems Engineer (systèmes autonomes)

  3. Cognitive Systems Architect (vision stratégique)

Ces titres deviennent les nouveaux standards du marché.

3. La gouvernance devient une discipline centrale

Votre page insiste sur la gouvernance, la sécurité, la conformité, l’auditabilité.

Évolution probable

Les IA devront être auditables, traçables, explicables. Les organisations devront prouver la non‑hallucination et la non‑déviation des agents. Les logs signés (SHA256), les journaux d’exécution, les validations humaines obligatoires deviennent normatifs. Les rôles de gouvernance IA se professionnalisent.

Conséquence métier

Émergence de nouveaux rôles :

  1. Responsable de la Gouvernance IA

  2. Auditeur IA / NIS2 / ISO 42001

  3. Architecte de Conformité IA

  4. Superviseur Human‑in‑the‑Loop

4. L’IA devient une infrastructure : naissance du “CognitiveOps”

Comme DevOps a structuré le cloud, CognitiveOps structurera l’IA.

Évolution probable

  1. Pipelines IA versionnés, testés, monitorés.

  2. Observabilité IA (LangSmith, Phoenix, W&B) devient obligatoire.

  3. Les agents IA sont déployés comme des microservices.

  4. Les entreprises créent des centres de contrôle IA (IA Control Rooms).

Conséquence métier

Nouveaux métiers :

  • CognitiveOps Engineer

  • Agent Reliability Engineer (ARE)

  • LLM FinOps Manager (optimisation des coûts d’inférence)

5. L’IA devient un collaborateur : montée des rôles hybrides

Les agents IA deviennent des “collègues numériques”.

Évolution probable

  1. Chaque métier aura son agent spécialisé (IT, RH, juridique, finance).

  2. Les humains deviennent superviseurs, validateurs, architectes.

  3. Les compétences IA deviennent transversales : comme Excel dans les années 2000.

Conséquence métier

Apparition de rôles hybrides :

  • Business Agent Designer

  • AI Workflow Analyst

  • Cognitive Product Owner

6. Vers une certification internationale des métiers IA

Ma page propose déjà une grille L1 → L5.

https://gouver2020.blogspot.com/2026/09/mieux-surveiller-et-parametrer-les.html

GOUVERNANCES.: Cartographie des formations adaptées à la nouvelle génération de métiers de l’IA

https://gouver2020.blogspot.com/p/cartographie-des-formations-adaptees-la.html

Évolution probable

  • Normalisation ISO 42001 (management IA).

  • Certifications professionnelles structurées (comme AWS Architect).

  • Parcours de formation standardisé : Prompt → Context → Harness → Architecture → Gouvernance.

Conséquence métier

Les entreprises recruteront sur des niveaux de maturité IA plutôt que sur des diplômes.

Synthèse prospective (en une phrase)

Les métiers de l’IA évoluent d’une logique d’écriture de prompts vers une ingénierie complète des systèmes cognitifs autonomes, où l’orchestration, la gouvernance, la sécurité et l’auditabilité deviennent les compétences centrales, donnant naissance à une nouvelle famille de professions : Architectes Cognitifs, Orchestrateurs IA, Ingénieurs Agentiques et Experts en Gouvernance IA.


GOUVERNANCES.: Cartographie des formations adaptées à la nouvelle génération de métiers de l’IA

https://gouver2020.blogspot.com/p/cartographie-des-formations-adaptees-la.html

Pierre Erol GIRAUDY — UGAIA / AFEES
Références : profil de gouvernance « Andorre » v2.2 et matrice de traçabilité RGPD / AI Act v2.5 (documents de travail) ; article initial du 19 juillet 2026 sur GOUVERNANCES.
www.ugaia.eu · gouver2020.blogspot.com · about.me/giraudyerol



vendredi 2 octobre 2026

Agents autonomes et gouvernance de l'IA suite et améliorations


Un agent autonome peut administrer un plan de gouvernance de l'IA, à condition de ne jamais le gouverner, et à condition que chaque protection invoquée soit appliquée là où elle ne peut pas être contournée.

C'est la thèse de cet article, qui reprend et corrige celui du 19 juillet 2026, « Pourquoi des agents autonomes peuvent administrer la gouvernance IA ? ».

Depuis juillet, le dispositif qui sous-tend cette thèse a été révisé. Le profil de gouvernance « Andorre » est passé en version 2.2. Les briques de l'écosystème SMF Works ont été confrontées à leurs dépôts publics. La matrice de traçabilité RGPD / AI Act est passée de 46 à 68 lignes. Plusieurs affirmations de l'article initial ne tenaient plus : je les corrige ici, et je montre comment le profil et la matrice s'articulent.

Une précision de statut : le profil et la matrice sont des documents de travail, non diffusés. Cet article en expose la méthode et les conclusions ; il ne vaut ni déclaration de conformité ni qualification juridique.

1. La thèse maintenue : administrer sans gouverner

La gouvernance de l'IA est d'abord une charge documentaire : registre de l'article 30, analyses d'impact, durées de conservation, matrices de risques, journaux à relire, preuves à conserver. Rien de cela n'est intellectuellement difficile ; tout cela se dégrade dès qu'on cesse de s'en occuper. C'est le terrain naturel d'un agent.

Le partage des rôles ne change pas :

La direction (COMEX, DPO, RSSI) L'agent autonome
Définit les politiques, les seuils de risque, les responsabilitésApplique les politiques et refuse ce qui les enfreint
Qualifie le système au sens de l'AI ActSurveille les actions, les modèles, les données manipulées
Approuve les actions conséquentesMet en file les actions SEND et DESTRUCTIVE
Arbitre, sanctionne, décideDocumente, alerte, produit les preuves

Aucune action juridique, éthique ou disciplinaire n'est déléguée à un agent. Douze agents, un par domaine du plan de classement COWORK2026, exécutent ce travail sous une supervision humaine qui reste entière.

2. Ce que nous corrigeons

Sept affirmations de l'article de juillet sont retirées ou reformulées. Toutes procèdent de la même erreur : attribuer au logiciel une garantie que seul le système d'exploitation, le réseau ou une décision humaine peut apporter.

L'article de juillet affirmait Ce qu'il faut lire
Un « pare-feu d'exfiltration » garantit l'absence de fuiteLe pare-feu d'egress de Praxis refuse qu'une action relaie un contenu signalé comme injection. Ce n'est pas un filtrage réseau. L'absence d'exfiltration ne se garantit qu'au niveau OS : aucune route sortante, aucune résolution DNS.
Les rapports portent des « signatures Ed25519 »Les artefacts sont vérifiés par hachage et portent des visas de revue humaine. Une empreinte prouve l'intégrité d'un document, pas son auteur.
« Conformité automatique », « auditabilité totale »La conformité ne s'automatise pas : elle suppose une qualification juridique préalable et une supervision humaine effective. L'agent produit des preuves, pas la conformité.
Praxis se gouverne lui-même, donc il peut gouverner l'entrepriseUn système qui agit et produit les preuves de ses propres actions est juge et partie. L'agent d'audit doit être cloisonné des agents opérationnels.
L'écosystème SMF Works forme un ensemble sous un broker uniqueSelon leur propre documentation, quatre briques sur six s'exécutent hors du broker Praxis. Deux rôles étaient mal décrits et un nom était erroné.
« 46 obligations, 25 couvertes »La matrice compte 68 lignes, dont 10 points bloquants (détail au §6).
Les douze agents sont tous « non décisionnels »Certains usages déclarés peuvent faire basculer le système en haut risque au sens de l'Annexe III de l'AI Act.
La conclusion de l'article initial, elle, devient la règle de lecture de celui-ci : un agent qui prétend tout couvrir n'est pas un outil de conformité, c'est un risque de conformité déguisé.

3. Le principe : trois couches d'application

Le profil « Andorre » repose sur une phrase : le confinement se réalise au niveau du système d'exploitation et du réseau ; Praxis documente, classe, retient et journalise, il ne confine pas. Une souveraineté qui ne repose que sur un fichier de configuration n'est pas opposable en audit.

Couche Nature Ce qu'elle porte Comment on le vérifie
1 — Réseau / OSContraignante, opposableAucune route sortante, DNS neutralisé, Ollama en boucle locale, sandbox Docker sans réseau, journal exporté hors d'atteinte de l'agentUn curl sortant depuis l'UID de service échoue ; une écriture dans le journal est refusée
2 — PraxisDocumentée, vérifiableClassification READ / DRAFT / SEND / DESTRUCTIVE, approbation humaine, double approbation, kill-switch, frontière d'injection, politique RegoUne action SEND reste en file sans approbation ; une double approbation par le même compte est refusée
3 — OrganisationnelleHumaine, non délégablePolitiques, qualification, approbateurs nommés, revue trimestrielle du journal par le DPO et le RSSIProcès-verbaux datés, notes de qualification signées

Le choix d'Ollama et de modèles à poids ouverts ne suffit pas : une installation neuve de Praxis expose sept surfaces réseau (recherche web, mode Research, navigateur, Microsoft 365, MCP, A2A, passerelles de messagerie) qu'il faut désactiver une à une. Et toute plateforme agentique tierce est écartée si elle introduit une surface réseau ou un second orchestrateur : un seul broker, un seul journal, une seule file d'approbation.

4. Le prompt exprime, le contexte filtre, le harness contraint, l'OS garantit

Une règle écrite dans une consigne système n'est pas un contrôle : elle ne le devient que lorsqu'elle est appliquée en couche 1 ou 2. C'est l'apport principal de la version 2.2 du profil. Mon article de septembre, « Mieux surveiller et paramétrer les modèles d'intelligence artificielle », décrivait trois niveaux d'ingénierie — Prompt, Context, Harness — qui disent où une règle est exprimée. Les trois couches disent où elle devient contraignante. Les deux axes ne se recouvrent pas.

Niveaux d'ingénierie × couches d'application — profil « Andorre » v2.2, §3 ter

La ligne Prompt est vide de contrôles, et c'est voulu : un texte piégé glissé dans un ticket ou un document suffit à neutraliser une consigne. Tout ce que le profil garantit provient des cases colorées.

D'où un registre des garde-fous : chaque garde-fou est rattaché à son point d'application ; sans point d'application, il est présenté comme une recommandation, jamais comme une protection. Exemples tirés d'un SKILL « Support IT & DevOps » :

Garde-fou Exprimé au niveau Point d'application réel
Pas de commande destructive sans validationPromptClasse DESTRUCTIVE du broker, double approbation
Pas de secret en clairPromptExpurgation du broker ; coffre de secrets hors de portée de l'agent
Exclusion des zones de données personnellesContextDroits du système de fichiers par identité d'agent
Retrait des données personnelles des logsContextPipeline Presidio obligatoire en amont, taux de détection mesuré
Aucune exfiltrationAucunCouche 1 uniquement

Deux précisions de vocabulaire suivent de la même logique. Un traitement Presidio est une pseudonymisation, non une anonymisation : les logs restent des données personnelles au sens du RGPD. Et un SKILL rédigé pour un déploiement standard, avec connecteurs MCP vers ServiceNow, Okta ou GitHub, n'est pas transposable tel quel au profil souverain, qui interdit ces connecteurs.

5. Un exemple concret : le classement COWORK2026 de mon poste

Mon propre poste applique le principe des zones, et en montre aussi la limite : le nom d'un dossier exprime sa sensibilité, ses droits d'accès le protègent, son emplacement décide de la souveraineté. L'arborescence ci-dessous est l'état actuel d'un classement qui a évolué depuis la taxonomie présentée en juillet.

Arborescence 14-CO-WORK2026 sur le poste de travail

Arborescence 14-CO-WORK2026 sur le poste de travail — état actuel d'un classement en évolution

Le dossier racine 14-CO-WORK2026 range les documents en trois familles :

FamilleDossiersCe qui en découle pour les agents
Zones de sensibilité et cycle de vie01_DCP, 02_CONFIDENTIEL, 03_CONFORMITE, 04_TECHNIQUE, 05_PUBLICATIONS, 06_ARCHIVESDroits d'accès par agent : les zones 01 et 02 sont fermées à tout agent qui n'en a pas l'usage (TR-066) ; 06 relève de l'agent archiviste
Fournisseurs et infrastructure07_ANTHROPIC, 08_OVH, 09_MICROSOFT, 10_SERVEURS_SLMUn dossier par fournisseur alimente la due diligence de la chaîne d'approvisionnement : contrats, juridiction, dépendances
Métiers et productions11_METIERS, RESULTATSSorties de travail, à rattacher à une zone avant toute diffusion

Quatre enseignements en découlent.

  1. Le numérotage des zones est la bonne base. Un agent de support technique peut être cantonné aux zones 03 à 05 et exclu des zones 01 et 02. Mais tant que cette exclusion n'existe que dans sa consigne, c'est une recommandation. Elle devient un contrôle quand les droits NTFS du compte de service de l'agent ferment ces dossiers.
  2. L'emplacement compte autant que le nom. L'arborescence est dans OneDrive : chaque dossier, y compris 01_DCP et 02_CONFIDENTIEL, est synchronisé avec le cloud de Microsoft, et la plupart sont « disponibles en ligne uniquement ». Pour ces deux zones, c'est une sortie du périmètre souverain et un transfert à documenter au sens du chapitre V du RGPD. Le profil exige qu'elles restent sur un stockage local ou souverain, hors synchronisation.
  3. Ce qui n'est pas classé n'est pas gouverné. RESULTATS et les trois fichiers à la racine (un script Python, deux versions de la matrice de ressources) n'appartiennent à aucune zone : l'agent archiviste ne sait pas quelle durée de conservation leur appliquer. Deux versions côte à côte sans statut posent aussi la question de celle qui fait foi.
  4. Zone et domaine sont deux axes complémentaires. La matrice rattache chaque obligation à un domaine fonctionnel de la taxonomie de juillet (gouvernance, conformité, audit…), qui désigne l'agent responsable. Le disque, lui, est désormais organisé par zone de sensibilité, qui décide des droits d'accès. Une table de correspondance zone × domaine doit relier les deux.

C'est le principe de la section précédente, appliqué à un dossier : le nom exprime, les droits contraignent, l'emplacement garantit.

6. Les agents à usage sensible et la séparation des tâches

Un agent « opérationnel » peut faire basculer tout le système en haut risque par le seul usage qu'on en fait. Trois des douze agents exigent donc une borne de finalité écrite, et inscrite dans les outils qui leur sont donnés, pas seulement dans leur consigne.

Agent Usage déclaré Ce qui ferait basculer la qualification Borne exigée
07 — Partenariats & ConsentementsClasser CV, photos, profilsSélectionner, filtrer ou évaluer des personnes : AI Act, Annexe III, point 4 (emploi)Classement documentaire seul ; aucun outil de notation ; point bloquant
08 — Assurance IA & RisquesVérifier la conformité des « décisions assurantielles »Évaluer ou tarifer des personnes en assurance vie et santé : Annexe III, point 5(c)Documentation des risques IA de l'organisation ; aucune donnée d'assuré individuel
10 — Visuel & ConsentementDétecter et flouter les visagesIdentifier ou catégoriser des personnes : AI Act art. 5 et Annexe III, point 1 ; RGPD art. 9Détection aux seules fins de floutage ; ni gabarit, ni comparaison ; modèle nommé

L'agent 12 (Archiviste) n'appelle pas de qualification particulière, mais ses purges sont des actions DESTRUCTIVE : double approbation, et certificat de suppression produit par un composant distinct de celui qui supprime.

La séparation des tâches est le second point bloquant. Dans l'architecture des douze agents, l'agent 01 supervise les autres et l'agent 06 audite l'ensemble, depuis la même instance que les agents qu'ils contrôlent. Les preuves seraient alors produites par le système qu'elles évaluent. Le profil v2.2 exige :

  • une identité système (UID) distincte pour les agents 01 et 06, ou une instance séparée ;
  • un accès en lecture seule au journal d'audit exporté, jamais en écriture ;
  • aucun outil d'envoi ou de suppression, aucun droit d'approbation ;
  • un visa humain des rapports d'audit par une personne distincte de l'approbateur des actions auditées.

7. La matrice de traçabilité : ce qui est démontré, ce qui ne l'est pas

Sur 68 obligations RGPD et AI Act, 25 sont couvertes par un contrôle attesté, 13 restent à vérifier, 27 ne relèvent d'aucune capacité technique et 3 sont portées par une instance. Dix points bloquent toute diffusion. La matrice (version 2.5) est le pivot du dispositif : chaque obligation y est rattachée à un contrôle, à sa couche, à sa source et à sa preuve.

25
attestées
13
à vérifier
27
non couvertes
3
organisationnelles
10
bloquants

Chaque ligne suit la même chaîne : obligation → contrôle mobilisé → couche d'application → source qui l'atteste → preuve produite → méthode de vérification → statut → responsable. Trois lignes en montrent la logique :

ID Obligation Contrôle Couche Preuve attendue Statut
TR-001AI Act art. 14 — supervision humaine effectiveMode enforced : actions SEND et DESTRUCTIVE retenues pour approbation2 — PraxisJournal d'approbation horodaté avec l'identité de l'approbateurAttesté
TR-066RGPD art. 25 et 32 — accès limité par défautZones 01_DCP et 02_CONFIDENTIEL fermées par les droits du système de fichiers, par agent1 — Réseau / OSLecture d'un fichier témoin depuis l'UID de l'agent → refusNon couvert
TR-064RGPD art. 5.2, AI Act art. 14 et 17 — preuves indépendantesAgent d'audit cloisonné, journal en lecture seule, aucun droit d'action1 + 2 + 3Schéma de cloisonnement visé par le RSSINon couvert

Les statuts ont un sens précis. « À vérifier » n'est pas un manquement : c'est une affirmation non encore confrontée au code. « Non couvert » n'est pas une faute tant que la mesure humaine compensatoire est en place et documentée. Le risque d'audit naît d'un « à vérifier » présenté comme acquis.

Les dix points bloquants :

ID Objet Responsable
TR-010Analyse d'impact (RGPD art. 35) signée avant le traitementDPO
TR-011Qualification du système au sens de l'AI Act (art. 6, Annexe III)Conseil juridique
TR-047Un seul orchestrateur : attestation d'architecture signéeRSSI
TR-049Aucun transfert hors UE : test en environnement sans route sortanteRSSI
TR-054Toute action d'un agent du swarm passe par le broker uniqueRSSI
TR-056Exclusion de la brique dépendant de NotebookLMExploitant
TR-058smfworks-skills : exclusion ou sous-ensemble épinglé sous brokerRSSI
TR-059smf-forgewright : navigateur automatisé, surface réseau interditeRSSI
TR-062Agent 07 : finalité bornée au classement documentaireConseil juridique
TR-064Agent d'audit cloisonné des agents opérationnelsRSSI

Trois de ces dix points (TR-010, TR-011, TR-062) ne seront jamais couverts par un outil : ils relèvent d'une décision humaine signée. C'est la limite honnête de l'automatisation.

8. Ce que le dispositif garantit, et ce qu'il ne garantit pas

Garanti, sous réserve que la couche 1 soit correctement posée

  • aucune connexion sortante possible depuis le processus agent ;
  • une inférence exclusivement locale ;
  • aucune action conséquente sans approbation humaine tracée ;
  • une exécution de code confinée en conteneur jetable sans réseau ;
  • un journal d'audit attribuable, hors d'atteinte en écriture de l'agent.

Non garanti

  • l'absence d'exfiltration par un canal hors couche 1 (support amovible, copie manuelle, capture d'écran) ;
  • l'exactitude des sorties du modèle, que la citation obligatoire et la détection de contradictions réduisent sans l'annuler ;
  • l'effet d'un garde-fou écrit seulement en consigne système ;
  • l'indépendance des preuves d'audit, tant que le cloisonnement de l'agent d'audit n'est pas attesté ;
  • la conformité juridique, qui suppose une qualification préalable et une supervision humaine effective, non simulée.

Conclusion

L'article de juillet avait raison sur l'essentiel et tort sur les preuves. Un agent autonome est un excellent bras opérationnel pour la gouvernance de l'IA. Il ne devient défendable qu'à trois conditions :

  1. ses garanties reposent sur l'OS et le réseau, pas sur sa consigne ;
  2. il ne contrôle jamais ses propres actions ;
  3. ce qu'il ne couvre pas est nommé, avec un responsable humain en face.

Sur 68 obligations, nous en démontrons 25. Les 43 autres sont identifiées, assignées, et ne sont pas présentées comme acquises.


Pierre Erol GIRAUDY — UGAIA / AFEES
Références : profil de gouvernance « Andorre » v2.2 et matrice de traçabilité RGPD / AI Act v2.5 (documents de travail) ; article initial du 19 juillet 2026 sur GOUVERNANCES.
www.ugaia.eu · gouver2020.blogspot.com · about.me/giraudyerol

Mon CV Dynamique https://gouver2020.blogspot.com/p/mon-cv-dynamique.html

jeudi 17 septembre 2026

Mieux surveiller et paramétrer les modèles d’intelligence artificielle.

Trois niveaux d’ingénierie pour trois niveaux de complexité

Pendant des années nous avons appris à mieux communiquer avec les modèles d’intelligence artificielle. Nous avons peaufiné nos formulations, structuré nos requêtes, ajouté des exemples, précisé le rôle attendu, défini le format de sortie et répété, parfois jusqu’à l’excès, qu’il ne fallait surtout pas inventer de réponse.  


Nous avions appelé ceci le Prompt Engineering.  

Le Prompt Engineering, le Context Engineering et le Harness Engineering ne sont pas trois modes, loin s'en faut.

Je vois émerger ici non pas un simple spécialiste du prompt, mais un architecte des systèmes cognitifs augmentés. En effet, lorsque l'on passe du Prompt Engineering au Context Engineering puis au Harness Engineering, on ne travaille plus seulement sur les instructions données à l'IA, mais sur l'ensemble de l'orchestration entre l'humain, les données, les outils, les agents et les processus.

Les trois niveaux

NiveauObjetFinalité
Prompt EngineeringLa conversationProduire une réponse pertinente
Context EngineeringLa mémoire et le contexteProduire une réponse cohérente et fiable
Harness EngineeringL'orchestration des agents, outils et workflowsProduire une action ou un résultat métier complet

On passe donc :

de l'écriture d'instructions → à l'ingénierie du contexte → à l'ingénierie du système cognitif complet.


Quel nom pour ce métier ?

Option 1 : AI Systems Engineer

Le plus international et probablement le plus durable.

Ingénieur des systèmes d'IA générative

Responsable de la conception, de l'orchestration et de l'optimisation d'écosystèmes d'agents IA, de contextes métier et de chaînes d'exécution.


Option 2 : Cognitive Systems Architect

Plus senior et stratégique.

Architecte de systèmes cognitifs

Conçoit les architectures associant IA, données, outils, mémoire, agents et supervision humaine.

C'est probablement le titre le plus approprié lorsque le Harness Engineering devient prépondérant.


Option 3 : AI Orchestration Engineer

Très aligné avec les architectures agentiques.

Ingénieur en orchestration d'IA

Spécialiste de :

  • workflows multi-agents ;
  • RAG ;
  • gestion du contexte ;
  • appels outils ;
  • gouvernance ;
  • observabilité ;
  • optimisation des coûts.

Je pense que ce titre va fortement se répandre dans les 3 à 5 prochaines années.


Option 4 : Agentic Systems Engineer

Très moderne et cohérent avec les tendances actuelles.

Ingénieur des systèmes agentiques

Responsable de la conception de systèmes autonomes basés sur des agents IA collaboratifs.


Comment qualifier ce nouveau métier ?

Je proposerais la définition suivante :

L'Ingénieur des Systèmes Cognitifs est responsable de la conception, de la mise en œuvre et de l'optimisation de solutions d'intelligence artificielle générative combinant prompts, contexte, mémoire, connaissances métier, outils et agents afin d'automatiser des processus complexes et d'augmenter la performance humaine.


Exemple de fiche de poste

Intitulé

Architecte / Ingénieur des Systèmes Cognitifs IA

Mission

Concevoir, déployer et optimiser des systèmes d'intelligence artificielle générative permettant d'automatiser ou d'augmenter les processus métier à travers l'orchestration de modèles, d'agents, de données et d'outils.


Responsabilités

1. Prompt Engineering

  • Concevoir les instructions système et utilisateur.
  • Définir les stratégies conversationnelles.
  • Évaluer la qualité des réponses.

2. Context Engineering

  • Concevoir les architectures RAG.
  • Structurer les connaissances métier.
  • Gérer les mémoires court et long terme.
  • Définir les mécanismes de récupération du contexte.

3. Harness Engineering

  • Orchestrer les agents IA.
  • Intégrer les outils et APIs.
  • Définir les workflows d'exécution.
  • Superviser la gouvernance et l'observabilité.

4. Industrialisation

  • Mesurer les performances.
  • Optimiser les coûts d'inférence.
  • Assurer la sécurité et la conformité.
  • Mettre en place les tests automatisés.

Compétences requises

Techniques

  • LLMs et IA générative
  • Prompt Engineering
  • RAG et bases vectorielles
  • Multi-agents
  • Python
  • APIs REST
  • LangGraph, Semantic Kernel, CrewAI ou équivalents
  • Azure AI Foundry, OpenAI, Anthropic ou équivalents
  • Évaluation et observabilité IA

Métier

  • Modélisation des processus
  • Analyse métier
  • Gouvernance des données
  • Conduite du changement
  • Design de services

Indicateurs de succès

  • Taux d'automatisation obtenu
  • Réduction du temps de traitement
  • Qualité des réponses
  • Satisfaction utilisateur
  • Coût opérationnel par workflow
  • Fiabilité des agents

Niveau d'expérience

Senior à Expert

Ce métier se situe à la convergence de :

  • l'architecte logiciel ;
  • l'ingénieur IA ;
  • l'architecte de données ;
  • le consultant en transformation digitale.

Si je devais choisir un intitulé susceptible de devenir un standard de marché d'ici quelques années, je miserais sur :

Architecte des Systèmes Cognitifs IA (vision stratégique)
ou
AI Orchestration Engineer (vision opérationnelle).

Le Prompt Engineer était le métier de la première vague. Le Context Engineer est celui de la deuxième. Le professionnel capable de maîtriser les trois couches sera probablement reconnu comme Architecte des Systèmes Cognitifs.