Translate

jeudi 22 octobre 2026

Les agents dans la robotique : types, orchestrateurs et futur


Les agents sont devenus le « cerveau » des robots : 

Panorama des agents IA 2026

Ils transforment une consigne en langage naturel en décisions, puis en mouvements. La robotique passe d'une logique programmée, où chaque geste est codé à l'avance, à une logique agentique : percevoir, raisonner, planifier, agir, se corriger. Pour un COMEX, une DSI ou un RSSI, la question n'est plus « faut-il des robots intelligents ? » mais « comment les gouverner ».

En bref :

Les modèles Vision-Language-Action (VLA) équipent environ 40 % des nouveaux déploiements robotiques en 2026 ; l'orchestration de flottes devient agentique ; et le Règlement Machines s'applique dès le 20 janvier 2027. La couche de sécurité, elle, doit rester déterministe.


1. Comment les agents s'insèrent dans un robot

Une architecture robotique agentique se lit en couches, de la plus lente à la plus rapide. Plus on descend, plus la boucle est rapide et déterministe.

Orchestrateur de flotte secondes à minutes
Répartit les missions entre robots, gère les priorités
↓
Agent planificateur (LLM / SLM) ~1 Hz
Décompose la mission, choisit les compétences
↓
Modèle VLA (Vision-Language-Action) 5 à 10 Hz
Vision + consigne vers intention de geste
↓
Action expert / contrôleur moteur 50 à 200 Hz
Commandes articulaires fluides
↓
Superviseur de sécurité déterministe temps réel dur
Arrêt d'urgence, zones interdites, limites de force — hors IA

Le cœur technique de 2026 est le modèle VLA : il reçoit des images de caméras et une instruction, et produit des actions motrices (couples articulaires, positions de pince, mouvements du corps). Il fonctionne en « double système », inspiré du « penser vite, penser lentement » de Kahneman : un modèle vision-langage lent raisonne et replanifie, un action expert léger génère les commandes rapides (Metavert, AI2Work).


2. Exemples concrets

Selon le State of Robotics 2026 du Robotics Center of Silicon Valley, les VLA équipent environ 40 % des nouveaux déploiements robotiques, contre quasiment zéro 18 mois plus tôt (AI2Work).

Catégorie Acteur / produit Ce qu'il apporte
Modèle de fondationNVIDIA GR00TN1.7 (mars 2026) : dextérité avancée ; N2 (présenté au GTC 2026) intègre des world models ; ambition d'être l'« Android de la robotique »
Modèle de fondationPhysical Intelligence π0Backbone VLM (PaliGemma) + action expert de type Diffusion Transformer ; poids ouverts (openpi) ; conçu pour piloter différents robots
Modèle de fondationGoogle DeepMind Gemini Robotics 1.5Raisonne avant d'agir, transfère des compétences d'un robot à l'autre (septembre 2025)
Modèle de fondationFigure HelixApproche verticale : la même entreprise conçoit le modèle et le robot
Orchestration de flotteHumanoid KinetIQQuatre couches cognitives, de l'agent de flotte (qui traite chaque robot comme un outil) au contrôle corps entier à 50 Hz ; flottes mixtes à roues et bipèdes (février 2026)
Orchestration multi-équipementsOttonomy Ottumn.AIPlateforme cloud reliant robots, drones, ascenseurs et systèmes du bâtiment ; conforme au standard VDA 5050
Orchestration d'entrepôtGreyOrange GreyMatterOrchestration multi-fournisseurs (AMR, AS/RS, chariots autonomes) de la préparation de commandes
Déploiement industrielBoston Dynamics AtlasVersion de production présentée au CES 2026 ; premières livraisons à Hyundai et Google DeepMind, qui y intègre Gemini Robotics
Agent spécialiséDexterity ForesightWorld model + agent de chargement de camions en 4D (trois dimensions + temps), décision par colis en moins de 400 ms (mars 2026)

3. Types d'agents en robotique

Le type le plus robuste aujourd'hui est l'agent hybride : un planificateur LLM qui appelle des compétences classiques validées.

Type d'agent Principe Force Limite
RéactifRègle stimulus → réponse (évitement d'obstacle)Rapide, prévisibleSans mémoire ni plan
Délibératif / planificateurLLM qui décompose une mission (ReAct, chaîne de pensée) et appelle des compétences comme des outilsGère des consignes ouvertesLatence, hallucinations
VLA de bout en boutPerception → action dans un seul modèleGénéralise à des scènes nouvellesPeu explicable, données rares
À world modelSimule les conséquences avant d'agirAnticipationCoût de calcul
HybridePlanificateur LLM + compétences classiques (SLAM, MoveIt)Robuste, auditableIntégration plus lourde
Interaction humaineDialogue, clarification des consignes, explicationConfiance, acceptabilitéDépend de la qualité du langage
Superviseur / guardianSurveille les autres agents, valide ou bloque une actionSécurité, traçabilitéDoit rester déterministe

4. Types d'orchestrateurs

Le choix d'orchestrateur arbitre entre auditabilité (modèle centralisé) et résilience (modèle décentralisé).

Modèle Fonctionnement Avantage Risque
Hiérarchique (chef d'orchestre)Un agent central assigne les tâchesSimple à auditerPoint de défaillance unique
Décentralisé / essaimChaque robot négocie localement (enchères, consensus)RésilientDifficile à tracer
Blackboard (tableau partagé)Les agents publient et lisent un état communNaturel avec ROS 2 (topics)Cohérence de l'état
ÉvénementielDéclenchement par événements ERP / WMS (commande reçue → mission)Intégration métierDépendance aux systèmes amont
Humain dans la boucleValidation humaine aux points critiquesIndispensable pour l'irréversibleRalentit le flux

Outillage courant : ROS 2 avec Nav2 / MoveIt pour l'exécution, NVIDIA Isaac pour la simulation, et des frameworks agentiques (LangGraph, CrewAI, ou MCP pour exposer les compétences d'un robot comme des outils).


5. Recommandations pour une approche souveraine

Principe directeur : l'IA propose, une couche déterministe certifiée dispose.

Architecture

  1. Planificateur local avec Ollama : un SLM (Phi-4, Llama, Mistral) en tool calling sur ROS 2, qui choisit parmi un catalogue fermé de compétences validées. Il ne pilote jamais directement les moteurs.
  2. Séparation stricte : limites de vitesse, de force et zones interdites restent dans une couche de sécurité déterministe.
  3. Journalisation de chaque décision : prompt, contexte, outil appelé, résultat — indispensable pour l'audit.

Conformité

  • RGPD : les caméras d'un robot captent des personnes → floutage à la source, traitement local, minimisation, analyse d'impact (AIPD). Rappel : un flux pseudonymisé reste une donnée personnelle ; seule une anonymisation effective sort du champ du RGPD.
  • AI Act : un système d'IA servant de composant de sécurité d'une machine relève du haut risque via l'Annexe I. Le calendrier d'application des obligations haut risque fait l'objet d'ajustements : à vérifier au lancement du projet. L'article 4 (maîtrise de l'IA) s'applique déjà aux équipes qui exploitent ces systèmes.
  • Règlement Machines 2023/1230 : applicable au 20 janvier 2027, il encadre les machines à comportement évolutif et les fonctions de sécurité fondées sur l'IA (Meticulous Research).
  • NIS2 et ISO/IEC 42001 : pour les entités concernées, la flotte robotique entre dans le périmètre de cybersécurité ; un système de management de l'IA (ISO/IEC 42001) structure la gouvernance de bout en bout.

Ces principes s'inscrivent dans les cadres UGAIA © et AFEES © de gouvernance de l'IA souveraine.


6. Le futur (2027–2035)

La gouvernance multi-agents sera le facteur décisif de confiance et de conformité.

  • World models généralisés : le robot « imagine » avant d'agir ; segment à plus forte croissance selon les analystes.
  • Transfert entre robots (cross-embodiment) : un même modèle pour bras, AMR et humanoïdes.
  • Robots comme agents de l'entreprise : connectés à l'ERP, à la GMAO, au WMS, orchestrés comme les agents logiciels.
  • IA embarquée (edge) : modèles exécutés sur le robot, favorables à la souveraineté et à la latence.
  • Gouvernance multi-agents : traçabilité, arrêt d'urgence logiciel (kill-switch), certification.
  • Marché : les modèles de fondation robotiques sont projetés à 24,85 milliards USD en 2036 (environ 0,99 milliard en 2026), estimation de cabinet à prendre avec prudence (Meticulous Research).

Sources


Pour aller plus loin : UGAIA · Blog UGAIA · RSE · Club Office · erolgiraudy.eu

Exosquelettes, chiens robots, humanoïdes de toutes tailles, robots compagnons : la robotique « incarnée » quitte les salons pour entrer dans les usines, les entrepôts et bientôt les foyers. Voici les modèles déjà commercialisés ou annoncés à court terme (fin 2026 à 2027), classés par famille, avec une lecture gouvernance pour les décideurs européens.

Prix indicatifs relevés en octobre 2026, variables selon les sources et les configurations.


1. Exosquelettes

Les exosquelettes sont le segment le plus mûr pour le grand public : légers, abordables, déjà en vente.

Modèle Type Disponibilité / prix
Hypershell HaloJambe complète, s'enfile en moins de 20 sPrésenté à l'IFA 2026, 2 299 $, commandable (livraison dans certaines régions)
Ascentiz série H (H Pro, H Ultra)Modulaire, assistance de hancheMontré au CES 2026, en vente directe depuis l'été 2026
Haier W31,75 kg, apprentissage IA de la démarcheEnviron 2 200 $, en magasin
Sumbu Exo-S3 (S3, Pro, Ultra)Grand public, double vecteur, terrain réelLancé au CES 2026
Wandercraft Eve (France)Médical, auto-équilibréAutorisé par la FDA pour certains utilisateurs de fauteuil roulant, lancement officiel en septembre 2026
Able Human Motion (spin-off UPC, Catalogne)Rééducation, léger et peu coûteuxEn préparation

2. Chiens robots : portage, inspection, surveillance

Le marché va de l'éducation (environ 1 600 $) à l'inspection de sites dangereux (plus de 150 000 $).

Modèle Usage principal Repère
Unitree Go2Éducation, recherche, loisirsÀ partir d'environ 1 600 $
Deep Robotics Lite3Recherche, éducationQuelques milliers de $
Boston Dynamics SpotInspection industrielle, sécuritéEnviron 75 000 $ de base
Unitree B2Industriel, charge utilePrix très variables selon les sources
ANYbotics ANYmal X (Suisse)Sites dangereux (pétrochimie, énergie)150 000 $ et plus, sur devis
Ghost Robotics Vision 60Défense, sécurité, recherche et sauvetageCharge utile 10 kg, plus de 3 h d'autonomie
Vbot SuperDogPortage grand publicLancement mondial annoncé prochainement
  • Spot devient plus autonome : en avril 2026, Boston Dynamics y a intégré Gemini Robotics-ER 1.6 (Google DeepMind) pour détecter des débris dangereux et lire des manomètres. Plus de 2 000 unités sont déployées dans plus de 40 pays.
  • ANYmal X fonctionne en zone ATEX 1 (atmosphère explosive), un atout clé pour les sites industriels européens.
  • Vbot SuperDog est le vrai « chien de portage » grand public : suivi autonome de son utilisateur et transport de charges sur terrain difficile.
  • Ghost Vision 60 embarque, en version sécurité, détection et suivi de cibles avec imagerie basse lumière et thermique. Il peut aussi être armé, ce qui place ce modèle hors du champ civil.

3. Humanoïdes, de toutes tailles

Les petits formats sont déjà achetables ; les modèles industriels sont livrés en volumes limités ; les robots domestiques arrivent fin 2026.

Modèle Segment Disponibilité / prix
Noetix BumiPetit formatEnviron 1 400 $, cité comme le moins cher du marché
Rotaku DomoCompact, développeursMoins de 3 000 $, réservations ouvertes
Unitree R1Petit format5 900 $
Unitree G1Format moyen, rechercheEnviron 13 500 à 16 000 $ selon les sources
Unitree H2Taille adulte, industrie29 900 $, 182 cm, 70 kg
Figure 03IndustriePlus de 350 livrés (avril 2026), capacité annoncée de 12 000 par an
Boston Dynamics AtlasIndustrieProduction 2026 réservée (Hyundai, Google DeepMind), autres clients à partir de 2027
Tesla OptimusIndustrie, puis grand publicCalendrier incertain ; ventes externes limitées visées fin 2027
1X NEOMaison20 000 $ ou 499 $/mois, premières livraisons aux États-Unis promises fin 2026
NEURA 4NE1 (Allemagne)PolyvalentÀ partir de 19 999 €
LG CLOiDMaisonPrésenté au CES 2026
  • Également en service : Agility Digit, Apptronik Apollo, Humanoid HMND 01 (partenariats Schaeffler et Bosch).
  • Tesla Optimus : mi-juillet 2026, la ligne de Fremont était libérée mais la production n'avait pas commencé.
  • 1X NEO : certaines tâches pourront être réalisées par un opérateur humain à distance, à des créneaux planifiés. Une personne peut alors voir l'intérieur du domicile par les caméras du robot : c'est un point RGPD direct.
  • Europe : la start-up parisienne UMA, fondée par un ancien scientifique d'Optimus, prépare Northstar, un humanoïde fabriqué en Europe. Un sujet de souveraineté à suivre.

4. Autres familles à suivre

  • Robots compagnons et assistance aux seniors : Haier, Ecovacs, TCL et Hisense ont présenté des robots domestiques à l'AWE 2026 ; celui de Haier détecte la chute d'une personne âgée et prévient la famille.
  • Surveillance domestique : Amazon Astro (1 599 $, sur invitation) reconnaît les membres du foyer et signale les visages inconnus.
  • Robots terrestres militaires : l'Ukraine a commandé 50 000 robots terrestres pour 2026, la plus grosse commande de ce type à ce jour (RoboZaps, d'après IEEE Spectrum).
  • Manipulateurs mobiles et logistique : par exemple Dexterity Mech pour le chargement de camions.

5. Lecture gouvernance

Trois catégories posent les questions les plus directes aux COMEX, DSI et RSSI :

  • Chiens de surveillance et robots domestiques : caméras, reconnaissance faciale et téléopération imposent une analyse d'impact (AIPD) au titre du RGPD et une information claire des personnes filmées.
  • Exosquelettes médicaux : ils relèvent du règlement sur les dispositifs médicaux, et pas seulement de l'AI Act.
  • Tous ces robots, vendus en Europe : ils passent sous le Règlement Machines 2023/1230 à partir du 20 janvier 2027. Côté AI Act, l'article 4 (maîtrise de l'IA) concerne déjà les équipes qui les exploitent ; le calendrier des obligations haut risque reste à vérifier au lancement de chaque projet.

Ces points s'inscrivent dans les cadres UGAIA © et AFEES © de gouvernance de l'IA souveraine.


Sources


Pour aller plus loin : UGAIA · Blog UGAIA · RSE · Club Office · erolgiraudy.eu

--- 
 Pierre Erol GIRAUDY 

Les Agents IA les plus utilisés en 2026

En octobre 2026, Claude Code domine les agents de code, Hermes Agent et OpenClaw les agents personnels, LangChain et LangGraph les frameworks. Ces trois classements reposent sur des métriques différentes et ne se comparent pas entre eux :

  • Agents de code : enquêtes d'adoption auprès des développeurs.
  • Agents personnels : volume de jetons traités via OpenRouter.
  • Frameworks : téléchargements de paquets et étoiles GitHub.

Cet article dresse ce panorama, puis examine les exigences de confinement, les risques propres aux agents autonomes et la réponse qu'y apporte le cadre UGAIA.


1. Quels agents sont les plus utilisés en 2026 ?

Agents de code — adoption au travail, mi-2026

Selon l'enquête JetBrains (plus de 15 000 développeurs professionnels), 90 % des développeurs utilisaient un agent de code au moins une fois par semaine en mai–juillet 2026, et 68 % chaque jour. Claude Code est l'agent le plus adopté au travail.

Agent Éditeur Adoption au travail Observation
Claude CodeAnthropic~39 %18 % en janvier 2026 ; choisi par 75 % des petites startups
GitHub CopilotMicrosoft / GitHub21 %Prédominant dans les entreprises de plus de 10 000 salariés (56 %)
CodexOpenAI16 %Multiplié par 5 depuis janvier 2026
CursorAnysphere12 %En recul
JetBrains AI / JunieJetBrains~9 %—
OpenCodeOpen source7 %42 % de notoriété
Google AntigravityGoogle6 %Stable

Agents personnels et généralistes — trafic OpenRouter, mai 2026

Hermes Agent (Nous Research) a dépassé OpenClaw le 10 mai 2026 au classement quotidien d'OpenRouter : 224 milliards de jetons par jour, contre 186 milliards.

Agent Éditeur Indicateur
Hermes AgentNous Research (licence MIT)N° 1 en volume quotidien depuis le 10/05/2026
OpenClawOpen source (Peter Steinberger)Devant en cumul au moment du dépassement : 9,17 billions de jetons, contre 6,35 pour Hermes
Kilo Code, Claude Code, pi, Cline, Roo Code, OpenHandsDiversRelevé du 21/05/2026 : Kilo Code 3e (163 Md/jour), Claude Code 5e (64,1 Md), pi 6e (58 Md), Cline 11e, Roo Code 12e, OpenHands 19e

Deux réserves s'appliquent. OpenRouter ne compte que les applications qui acceptent le suivi de leur trafic : Claude Code, Copilot ou Codex utilisés directement chez leur éditeur n'y figurent pas. Le classement varie aussi selon la fenêtre de mesure ; il faut vérifier la page en direct avant toute citation datée.

Frameworks pour construire des agents

LangChain et LangGraph dominent les installations : environ 309 millions et 66,5 millions sur 30 jours au 27 juillet 2026.

Framework Indicateur
LangChain / LangGraph~309 M (LangChain) et ~66,5 M (LangGraph) installations sur 30 jours
CrewAI~10,8 M installations sur 30 jours ; licence MIT ; ~51 000 étoiles GitHub
Mastra (TypeScript)~4,9 M installations par mois
Microsoft Agent FrameworkFusion d'AutoGen et de Semantic Kernel ; v1.0 en avril 2026
n8n (low-code)~190 000 étoiles GitHub, le plus étoilé du panel

Sont également cités : OpenAI Agents SDK, Google ADK, Pydantic AI, LlamaIndex, smolagents et Claude Agent SDK.

Modèles à poids ouverts

Les paramètres, la longueur de contexte, les licences et les besoins en GPU des principaux modèles à poids ouverts (Hermes 4, Llama 3.3, Phi-4, Mistral Small 4, Qwen3-Coder-Next, gpt-oss) sont réunis dans un tableau relevé sur les fiches Hugging Face au 22/10/2026 : consulter le tableau. Ses sources figurent dans l'onglet « Sources ».


2. Confinement réseau des agents IA

L'étanchéité réseau requise pour les agents IA repose sur un confinement strict en Couche 1 (réseau / système d'exploitation), résumé par la règle : « Le prompt exprime, le contexte filtre, le broker contraint, l'OS garantit. » Seule la Couche 1 garantit techniquement l'absence d'exfiltration de données.

Les exigences de confinement en Couche 1

Pour qu'un agent autonome, en particulier de niveau 3 ou 4, soit jugé conforme et gouvernable, son environnement d'exécution doit respecter les contraintes suivantes :

  • Namespace sans route sortante ni DNS : l'agent s'exécute dans un espace isolé, sans route vers Internet ou le réseau externe et sans résolution DNS.
  • Inférence en loopback : la communication entre l'agent ou l'orchestrateur et le modèle de langage (SLM local comme Mistral, Phi-4 ou Llama sous Ollama) passe exclusivement par la boucle locale.
  • Sandbox jetable sans accès réseau : toute exécution de code, de script ou d'outil a lieu dans un conteneur éphémère privé de réseau.
  • UID de service dédié : l'agent fonctionne sous un identifiant système non privilégié, aux droits strictement restreints sur le système de fichiers.

Fermeture systématique des surfaces réseau sortantes

Déployer un modèle local ne garantit pas la souveraineté si des passerelles réseau restent ouvertes. La gouvernance exige la désactivation explicite de toutes les surfaces réseau secondaires :

  • Recherche web et accès URL : retrait des outils de requête HTTP et de navigation web de la liste d'autorisations (allowlist).
  • Navigateurs automatisés : interdiction d'installer des agents de scraping ou de navigation dynamique.
  • Connecteurs inter-agents (A2A) et MCP distants : interdiction des serveurs MCP externes et des canaux d'agent à agent non contrôlés par le broker.
  • Gateways sortants : suppression des connecteurs d'envoi automatique (e-mails, webhooks, API externes).

Grille d'admissibilité et tests de contrôle (profil souverain « Andorre »)

Pour admettre un agent ou une plateforme agentique sur des données critiques (niveau 4), la DSI et le RSSI vérifient les critères bloquants suivants :

  • Test de coupure réseau complète : démontrer que le cycle d'exécution complet de l'agent fonctionne dans un namespace sans route sortante ni DNS.
  • Contrôle de télémétrie par capture nftables : capturer les flux au niveau du système d'exploitation pour prouver qu'aucune requête de licence, d'authentification en ligne ou de télémétrie ne sort.
  • Indépendance vis-à-vis du SaaS : les agents de code et assistants SaaS (Claude Code, Copilot, ChatGPT…) ne pouvant pas offrir ce confinement local en Couche 1, ils sont proscrits pour les données de niveau 4.

3. Risques des agents IA autonomes

Les limites et vulnérabilités des agents autonomes se structurent autour de cinq axes techniques, cognitifs et réglementaires.

Les quatre risques opérationnels majeurs

Contrairement aux chatbots, qui produisent du texte, les agents agissent directement sur les systèmes d'information. Cette capacité d'action introduit quatre risques spécifiques :

  • L'action irréversible : l'agent exécute des opérations (écriture, envoi d'e-mails, suppression de fichiers, modification de droits) sans validation humaine à chaque étape.
  • L'enchaînement d'outils imprévu : une suite d'appels, chacun légitime pris isolément, peut produire un effet global inattendu ou contraire à l'intention initiale.
  • L'exfiltration via les outils : des outils de sortie légitimes (messagerie, requêtes HTTP, webhooks) peuvent devenir des canaux de fuite de données ou relayer des injections de prompt indirectes.
  • La boucle non bornée : l'agent s'enferme dans un cycle d'essais et d'erreurs, consomme des ressources (jetons, puissance GPU) et fait exploser les coûts sans converger.

Les cinq défaillances de gestion du contexte

Gartner et le cadre UGAIA identifient la gestion du contexte comme l'une des principales sources d'échec des agents autonomes :

  • Information perdue : oubli d'instructions ou de données clés situées au milieu d'une longue fenêtre de contexte.
  • Empoisonnement par hallucination répétée : l'agent réinjecte ses propres hallucinations dans sa mémoire à long terme, ce qui aggrave les erreurs futures.
  • Distraction par excès de contexte : une surabondance d'informations perturbe le raisonnement.
  • Confusion par contenu non pertinent : l'agent ne sépare plus les données utiles du bruit.
  • Conflit entre sources : blocage ou décision incohérente face à des sources contradictoires.

L'inefficacité des règles rédigées uniquement dans le prompt

Une règle de sécurité rédigée comme consigne système (dans le prompt ou un fichier SKILL.md) n'est qu'une recommandation : une injection de prompt documentaire suffit à la neutraliser. Par ailleurs, les moteurs de règles sans état (par exemple OPA/Rego) jugent un appel d'outil isolé, sans pouvoir vérifier s'il respecte l'ordre des étapes précédentes.

L'immaturité de la remédiation et du rollback automatisé

Les garde-fous actuels sont préventifs : ils bloquent ou demandent une approbation, mais ne défont pas automatiquement les conséquences d'une action exécutée. Gartner estime que le rollback automatisé des actions d'agents reste embryonnaire, avec un plateau d'adoption à 5–10 ans. La réversibilité doit donc reposer sur des procédures organisationnelles : sauvegardes avant action, transactions compensatoires.

Les limites d'auditabilité et de gouvernabilité

  • L'agent non auditable : un agent dont les appels d'outils et les décisions ne sont pas tracés de façon immuable est non auditable, donc non conforme.
  • L'agent non gouvernable : sans arrêt d'urgence persistant (kill switch) capable d'interrompre immédiatement l'exécution, un agent ne peut pas satisfaire l'exigence de contrôle humain de l'article 14 de l'AI Act pour les systèmes à haut risque.

4. La réponse de la gouvernance UGAIA

Le cadre UGAIA oppose à chacune de ces limites un point d'application vérifiable, selon le principe directeur « Le prompt exprime, le contexte filtre, le broker contraint, l'OS garantit. » Ces contrôles réduisent les risques ; ils ne les annulent pas.

Face aux quatre risques opérationnels

  • Action irréversible : le broker (Couche 2) classe les actions en quatre catégories (READ, DRAFT, SEND, DESTRUCTIVE). Les actions à impact externe (SEND) exigent une validation humaine simple ; les actions critiques (DESTRUCTIVE), une double validation humaine et une sauvegarde préalable obligatoire.
  • Enchaînement d'outils imprévu : AgentLTL contrôle la séquence temporelle de la trace. Il impose un ordre d'exécution (déployer en préproduction avant la production) et lie les variables entre appels (appliquer exactement l'artefact relu). Le broker réévalue les autorisations à chaque décision.
  • Exfiltration via les outils : Presidio pseudonymise les données personnelles avant tout appel d'outil ou envoi externe. Le confinement en Couche 1 enferme l'agent dans un namespace sans route sortante ni DNS, et le broker applique une liste blanche stricte des destinations autorisées.
  • Boucle non bornée et explosion des coûts : le garde-fou « Bornage de la boucle et kill switch » fixe des plafonds d'étapes, de durée et de budget. En cas de dépassement, la passerelle bloque l'exécution et le kill switch persistant interrompt l'agent.

Face aux cinq défaillances de gestion du contexte

  • Contexte surchargé, distrait ou confus : le registre des sources de contexte (phase 4) garantit qu'un agent ne lit que des sources enregistrées, vérifiées et adaptées à son niveau d'habilitation. Le broker applique une allowlist d'outils et de sources restreinte par tâche.
  • Empoisonnement par hallucination et conflits : la provenance est obligatoire en mémoire durable (aucun contenu non sourcé ne devient persistant) ; le principe cite-or-abstain s'ajoute à la détection automatique des contradictions.

Face aux règles « prompt-only »

  • Bascule vers des contrôles appliqués : une consigne dans le prompt ou un SKILL.md reste une recommandation vulnérable aux injections. UGAIA déplace la contrainte vers le broker (Couche 2), via des politiques externes OPA/Rego, et vers l'OS (Couche 1).
  • Règles temporelles opposables (AgentLTL, TR-070) : les instructions sont converties en règles formelles exécutées en modes bloquants (block, ask, stop). Les commandes masquées ou non analysables (eval, variables de commande $CMD) sont refusées pour empêcher tout contournement par reformulation.

Face à l'immaturité du rollback automatisé

Garde-fou 7 — Remédiation par procédure : faute de rollback automatisé mature, UGAIA compense par l'organisation. Aucune action SEND ou DESTRUCTIVE n'est autorisée sans plan de rollback documenté, instantané d'état préalable ou transactions compensatoires testées.

Face aux limites d'auditabilité et de gouvernabilité

  • Garde-fou 5 — Journalisation via mlflow_run_id étendu : chaque décision consigne l'outil appelé, ses paramètres pseudonymisés, la version du modèle, la validation humaine horodatée et l'effet produit. Les journaux sont exportés sur un volume append-only en Couche 1, hors d'atteinte de l'agent.
  • Garde-fou 3 — Kill switch persistant : le RSSI peut interrompre le système en temps réel. Le coupe-circuit désactive les outils, survit au redémarrage et bloque le lancement de tout nouveau run.
  • Garde-fou 8 — Évaluation continue : suites de tests automatisées (hallucination, toxicité, dérive) en intégration continue et en production, avec seuils bloquants.

Sources


L'orchestration de l'IA sur l'ensemble du cycle de développement logiciel (SDLC — Software Development Lifecycle) repose sur un principe fondateur : la séparation stricte entre la construction (production du code, des tests, des compétences et des définitions) et l'exploitation (exécution en production).

samedi 3 octobre 2026

Prospective sur l’évolution des métiers de l’IA et de leur gouvernance.

Synthèse : les trois couches d’ingénierie IA et l’émergence d’un nouveau métier.

Ce texte met en évidence une transformation profonde : on passe du Prompt Engineering (interaction directe) → au Context Engineering (mémoire, RAG, connaissances) → au Harness Engineering (orchestration d’agents, outils, workflows).

https://gouver2020.blogspot.com/2026/09/mieux-surveiller-et-parametrer-les.html

Ces trois couches ne sont pas des spécialités isolées mais les niveaux d’un même métier, celui de l’Architecte des Systèmes Cognitifs IA, capable de concevoir des systèmes complets combinant :

  1. prompts robustes,

  2. contextes métier structurés,

  3. mémoire et taxonomies,

  4. agents IA autonomes,

  5. outils et APIs,

  6. gouvernance, sécurité, observabilité.

Le texte décrit également une pyramide de compétences allant du Prompt Engineer (L1) au niveau expert L5 : Architecte des Systèmes Cognitifs.

Prospective : comment ces métiers vont évoluer (2026–2035).

1. De l’ingénierie du prompt à l’ingénierie des boucles autonomes

La tendance déjà visible dans votre page — loop engineering — va s’accélérer.

Évolution probable

Les prompts deviennent des composants, non plus des artefacts humains. Les systèmes IA génèrent eux-mêmes leurs instructions internes. Le métier se déplace vers la conception de boucles autonomes (analyse → action → vérification → amélioration).

Conséquence métier

Le Prompt Engineer disparaît comme rôle autonome. Il devient une compétence de base, intégrée dans des rôles plus larges.

2. L’ère des systèmes cognitifs orchestrés

Le Harness Engineering devient le cœur de la valeur économique.

Évolution probable

  1. Les entreprises déploient des systèmes multi‑agents supervisés.

  2. Les workflows deviennent auto‑adaptatifs (agents qui modifient leurs propres stratégies).

  3. Les connecteurs MCP deviennent un standard d’interopérabilité.

  4. Les systèmes IA sont intégrés dans les chaînes d’exécution métier (ITSM, DevOps, finance, juridique, santé).

Conséquence métier

Apparition de rôles spécialisés :

  1. AI Orchestration Engineer (opérationnel)

  2. Agentic Systems Engineer (systèmes autonomes)

  3. Cognitive Systems Architect (vision stratégique)

Ces titres deviennent les nouveaux standards du marché.

3. La gouvernance devient une discipline centrale

Votre page insiste sur la gouvernance, la sécurité, la conformité, l’auditabilité.

Évolution probable

Les IA devront être auditables, traçables, explicables. Les organisations devront prouver la non‑hallucination et la non‑déviation des agents. Les logs signés (SHA256), les journaux d’exécution, les validations humaines obligatoires deviennent normatifs. Les rôles de gouvernance IA se professionnalisent.

Conséquence métier

Émergence de nouveaux rôles :

  1. Responsable de la Gouvernance IA

  2. Auditeur IA / NIS2 / ISO 42001

  3. Architecte de Conformité IA

  4. Superviseur Human‑in‑the‑Loop

4. L’IA devient une infrastructure : naissance du “CognitiveOps”

Comme DevOps a structuré le cloud, CognitiveOps structurera l’IA.

Évolution probable

  1. Pipelines IA versionnés, testés, monitorés.

  2. Observabilité IA (LangSmith, Phoenix, W&B) devient obligatoire.

  3. Les agents IA sont déployés comme des microservices.

  4. Les entreprises créent des centres de contrôle IA (IA Control Rooms).

Conséquence métier

Nouveaux métiers :

  • CognitiveOps Engineer

  • Agent Reliability Engineer (ARE)

  • LLM FinOps Manager (optimisation des coûts d’inférence)

5. L’IA devient un collaborateur : montée des rôles hybrides

Les agents IA deviennent des “collègues numériques”.

Évolution probable

  1. Chaque métier aura son agent spécialisé (IT, RH, juridique, finance).

  2. Les humains deviennent superviseurs, validateurs, architectes.

  3. Les compétences IA deviennent transversales : comme Excel dans les années 2000.

Conséquence métier

Apparition de rôles hybrides :

  • Business Agent Designer

  • AI Workflow Analyst

  • Cognitive Product Owner

6. Vers une certification internationale des métiers IA

Ma page propose déjà une grille L1 → L5.

https://gouver2020.blogspot.com/2026/09/mieux-surveiller-et-parametrer-les.html

GOUVERNANCES.: Cartographie des formations adaptées à la nouvelle génération de métiers de l’IA

https://gouver2020.blogspot.com/p/cartographie-des-formations-adaptees-la.html

Évolution probable

  • Normalisation ISO 42001 (management IA).

  • Certifications professionnelles structurées (comme AWS Architect).

  • Parcours de formation standardisé : Prompt → Context → Harness → Architecture → Gouvernance.

Conséquence métier

Les entreprises recruteront sur des niveaux de maturité IA plutôt que sur des diplômes.

Synthèse prospective (en une phrase)

Les métiers de l’IA évoluent d’une logique d’écriture de prompts vers une ingénierie complète des systèmes cognitifs autonomes, où l’orchestration, la gouvernance, la sécurité et l’auditabilité deviennent les compétences centrales, donnant naissance à une nouvelle famille de professions : Architectes Cognitifs, Orchestrateurs IA, Ingénieurs Agentiques et Experts en Gouvernance IA.


GOUVERNANCES.: Cartographie des formations adaptées à la nouvelle génération de métiers de l’IA

https://gouver2020.blogspot.com/p/cartographie-des-formations-adaptees-la.html

Pierre Erol GIRAUDY — UGAIA / AFEES
Références : profil de gouvernance « Andorre » v2.2 et matrice de traçabilité RGPD / AI Act v2.5 (documents de travail) ; article initial du 19 juillet 2026 sur GOUVERNANCES.
www.ugaia.eu · gouver2020.blogspot.com · about.me/giraudyerol