Intelligence artificielle, RAG, agents, MCP et gouvernance

  • Chapitre8 sur 17
  • PilierSocle technique
  • Sections4 parties
  • Lecture3 min
En bref

Comment déployer l'IA en entreprise sans perdre le contrôle des décisions ?

Distinguer prompting, RAG, fine-tuning et agents, concevoir un cas d'usage IA maîtrisé, et organiser la gouvernance et la sécurité spécifique à l'IA générative.

01

Cinq approches distinctes

Prompting, RAG, fine-tuning, outils et agents répondent à des problèmes différents et n'ont pas le même coût.

02

Validation humaine ciblée

Paiement, remboursement, suppression de données, envoi massif ou décision affectant une personne restent soumis à confirmation.

03

Évaluer avant de croire

Un jeu de cas réels (normaux, difficiles, adversariaux, hors périmètre) avec résultat attendu pour chacun.

Sommaire

Ce que couvre ce chapitre

Chaque partie traite un point de la démarche ; les liens ci-dessous mènent directement à la section correspondante.

Le détail

La démarche, partie par partie

01

De l'IA prédictive à l'IA générative, et le bon cas d'usage

Le machine learning traditionnel apprend des relations pour prédire ou classer (fraude, churn, demande, défaut). Les modèles génératifs produisent ou transforment du texte, des images, de l'audio ou du code ; les LLM peuvent interpréter des instructions et appeler des outils, ce qui permet de construire des agents capables d'enchaîner plusieurs étapes.

Un cas d'usage IA doit préciser : utilisateur, problème, entrée, sortie, décision, niveau de risque, baseline, métrique d'évaluation, coût maximum et procédure d'escalade. Exemples raisonnables : résumé d'appels, extraction de données de documents, classification de tickets, recherche documentaire, assistance au support. Cas plus sensibles nécessitant des contrôles renforcés : décision de crédit, recrutement, action financière, modification massive de données, accès à des données de santé ou décision réglementée.

02

Prompting, RAG, fine-tuning, outils et agents

Prompting : fournir instructions, contexte et exemples. RAG : rechercher des éléments dans une source externe et les injecter dans le contexte, ce n'est pas une base de données de remplacement, et cela ne dispense ni de droits d'accès ni de qualité documentaire. Fine-tuning : adapter un modèle avec des exemples d'entraînement pour modifier certains comportements. Outils : permettre au modèle d'appeler une fonction ou un service externe. Agent : boucle de décision qui sélectionne actions et outils jusqu'à un résultat ou une condition d'arrêt.

Le Model Context Protocol (spécification du 28 juillet 2026) formalise des ressources, prompts et outils exposés par des serveurs, standardisant l'interface entre applications IA et capacités externes. Le risque principal est symétrique : une connexion à un outil donne un pouvoir d'action, authentification, autorisation, validation des paramètres, journalisation et limites deviennent indispensables.

03

Agent unique ou multi-agent, et validation humaine

Ne pas choisir plusieurs agents parce que le diagramme paraît plus avancé : un agent unique avec des outils explicites est plus simple à tester. Plusieurs agents sont utiles lorsque des rôles, permissions ou contextes distincts rendent la séparation utile (ex. un agent support qui lit les tickets et la base documentaire, un agent finance à l'accès limité aux factures), l'orchestrateur ne doit pas transmettre automatiquement des données sensibles à tous les sous-agents.

Actions qui doivent nécessiter une confirmation humaine : paiement, remboursement, annulation, envoi à un large public, suppression de données, modification contractuelle, décision affectant fortement une personne, action inhabituelle ou hors politique, réponse quand la confiance est faible. Une validation humaine doit afficher les informations nécessaires à la décision, un simple bouton "Approuver" sans contexte n'est pas un contrôle efficace. C'est ce principe qui s'applique quand un agent gère à la fois WhatsApp et un moyen de paiement mobile : voir notre guide sur l'automatisation de WhatsApp, Orange Money, MTN MoMo et Wave.

04

Évaluer avant de croire, gouvernance et sécurité GenAI

Construire un dataset de cas réels (normaux, difficiles, adversariaux, hors périmètre) avec pour chacun un résultat attendu ou des critères de réussite. Métriques utiles : exactitude, complétude, groundedness, refus approprié, taux d'escalade, latence, coût, taux d'action correcte.

Le NIST AI RMF organise la gestion du risque autour de quatre fonctions : Govern, Map, Measure et Manage. Pour une entreprise, la gouvernance IA doit couvrir : inventaire des systèmes et cas d'usage, classification du risque, owner métier et technique, fournisseurs et modèles utilisés, données accessibles, règles de conservation, évaluations, limites d'action, incidents et changements de modèle, procédure d'arrêt. L'AI Act européen impose depuis le 2 août 2026 des obligations de transparence dans certaines interactions avec des systèmes IA et pour certains contenus générés, les obligations précises dépendent du rôle et du cas d'usage, et doivent être vérifiées au cas par cas.

Les risques spécifiques aux applications LLM/agentiques identifiés par OWASP incluent notamment les injections de prompt, les sorties non sûres, la mauvaise gestion des outils, la confiance excessive et les fuites de données. Mesures pratiques : isoler les secrets, filtrer les outils disponibles, appliquer le moindre privilège, valider les arguments, journaliser les appels, limiter fréquence et montants, demander confirmation pour les actions sensibles, et tester avec des prompts adversariaux.

À retenir

Les points que nous vérifions systématiquement

  • Un cas d'usage IA précise utilisateur, problème, entrée, sortie, décision, niveau de risque, baseline, métrique, coût maximum et escalade.
  • Un agent unique avec des outils explicites est plus simple à tester qu'une architecture multi-agent.
  • Le NIST AI RMF structure la gouvernance autour de quatre fonctions : Govern, Map, Measure, Manage.
  • L'AI Act impose depuis le 2 août 2026 des obligations de transparence sur certaines interactions et certains contenus générés.
Pièges fréquents

Les erreurs qui coûtent le plus cher

Ces écueils reviennent régulièrement en mission. Les identifier tôt évite de reconstruire un chantier déjà livré.

  • Choisir le multi-agent parce que le schéma paraît plus avancé, alors qu'un agent outillé suffirait.

  • Afficher un simple bouton « Approuver » sans le contexte nécessaire à la décision : ce n'est pas un contrôle.

  • Écrire « ne fais pas ceci » dans le prompt en guise de sécurité, sans permissions au niveau système.

  • Transmettre automatiquement des données sensibles à tous les sous-agents d'une orchestration.

En pratique

Comment Audyxa applique ce chapitre

Nous livrons chaque cas d'usage IA avec son jeu d'évaluation, ses limites d'action et son point de validation humaine. Un assistant qui répond bien 9 fois sur 10 sans garde-fou n'est pas déployable en production.

Questions fréquentes

Ce qu'on nous demande sur « Intelligence artificielle, RAG, agents, MCP et gouvernance »

Qu'est-ce que le RAG et quand l'utiliser ?

Le RAG (retrieval-augmented generation) recherche des éléments dans une source externe et les injecte dans le contexte du modèle. Il convient quand la réponse dépend d'une documentation d'entreprise, mais il ne remplace pas une base de données et ne dispense ni de droits d'accès ni de qualité documentaire.

Qu'est-ce que le Model Context Protocol (MCP) ?

Une spécification qui formalise les ressources, prompts et outils exposés par des serveurs, standardisant l'interface entre applications IA et capacités externes. Comme toute connexion d'outil donne un pouvoir d'action, elle impose authentification, autorisation, validation des paramètres, journalisation et limites.

Quelles actions doivent rester validées par un humain ?

Paiement, remboursement, annulation, envoi à un large public, suppression de données, modification contractuelle, décision affectant fortement une personne, action inhabituelle ou hors politique, et toute réponse produite avec une confiance faible.

Envie d'appliquer cette méthodeà votre organisation ?