Chaque automatisation et chaque agent IA ajoute des identités, des secrets et des flux à protéger. Voici les principes de conception qui évitent les incidents les plus fréquents.
Idempotence : un même événement reçu deux fois ne doit pas créer deux factures. Retry : une API indisponible doit pouvoir être rappelée avec temporisation. File d'échec : les cas non résolus doivent rester visibles, jamais silencieusement perdus. Timeout : une étape ne doit pas attendre indéfiniment. Traçabilité : chaque exécution doit avoir un identifiant et un statut consultable.
Reprise manuelle : un humain doit pouvoir corriger une exception sans casser le workflow. Permissions : le compte technique ne possède que les droits nécessaires, jamais un accès administrateur global par défaut. Secrets : clés API et tokens sont gérés hors du workflow exporté publiquement.
Au-delà des risques classiques, un registre cyber doit intégrer les risques propres à l'IA : injection de prompt, données sensibles présentes dans le contexte, outils trop permissifs, fuite via les logs, exfiltration par un outil, contenus non fiables et modification de comportement après une mise à jour de modèle.
Le bon contrôle ne consiste pas uniquement à écrire "ne fais pas ceci" dans le prompt. Les permissions et validations doivent exister au niveau système, pas seulement dans les instructions données au modèle.
Chaque fiche de risque documente : actif concerné, menace, vulnérabilité, probabilité, impact, risque brut, traitement prévu, owner, échéance et risque résiduel après traitement. Exemple : un compte administrateur partagé sans MFA représente un risque brut élevé ; le traitement (MFA + compte séparé + journalisation) doit ramener ce risque à un niveau acceptable, documenté et daté.
Non, sauf justification exceptionnelle documentée. Le principe de moindre privilège s'applique systématiquement aux comptes techniques utilisés par les automatisations.
Non. Une sauvegarde n'est validée que si elle est testée et stockée séparément. Une copie sur le même serveur ne protège pas contre une panne ou une compromission de ce serveur.