Comment sécuriser une automatisation ou un agent IA

Guide pratique

Comment sécuriser une automatisation ou un agent IA

Chaque automatisation et chaque agent IA ajoute des identités, des secrets et des flux à protéger. Voici les principes de conception qui évitent les incidents les plus fréquents.

Les règles de robustesse que les démonstrations oublient

Idempotence : un même événement reçu deux fois ne doit pas créer deux factures. Retry : une API indisponible doit pouvoir être rappelée avec temporisation. File d'échec : les cas non résolus doivent rester visibles, jamais silencieusement perdus. Timeout : une étape ne doit pas attendre indéfiniment. Traçabilité : chaque exécution doit avoir un identifiant et un statut consultable.

Reprise manuelle : un humain doit pouvoir corriger une exception sans casser le workflow. Permissions : le compte technique ne possède que les droits nécessaires, jamais un accès administrateur global par défaut. Secrets : clés API et tokens sont gérés hors du workflow exporté publiquement.

Les risques spécifiques à l'IA

Au-delà des risques classiques, un registre cyber doit intégrer les risques propres à l'IA : injection de prompt, données sensibles présentes dans le contexte, outils trop permissifs, fuite via les logs, exfiltration par un outil, contenus non fiables et modification de comportement après une mise à jour de modèle.

Le bon contrôle ne consiste pas uniquement à écrire "ne fais pas ceci" dans le prompt. Les permissions et validations doivent exister au niveau système, pas seulement dans les instructions données au modèle.

Le registre de risques

Chaque fiche de risque documente : actif concerné, menace, vulnérabilité, probabilité, impact, risque brut, traitement prévu, owner, échéance et risque résiduel après traitement. Exemple : un compte administrateur partagé sans MFA représente un risque brut élevé ; le traitement (MFA + compte séparé + journalisation) doit ramener ce risque à un niveau acceptable, documenté et daté.

Services liés

Nos services associés à ce sujet

Questions fréquentes

Pour aller plus loin sur ce sujet

Un compte technique d'automatisation doit-il être administrateur ?

Non, sauf justification exceptionnelle documentée. Le principe de moindre privilège s'applique systématiquement aux comptes techniques utilisés par les automatisations.

Une sauvegarde sur le même serveur suffit-elle contre la perte du serveur ?

Non. Une sauvegarde n'est validée que si elle est testée et stockée séparément. Une copie sur le même serveur ne protège pas contre une panne ou une compromission de ce serveur.

Envie d'appliquer ce guideà votre organisation ?