Conformité et fiabilité des systèmes d'IA agentiques

Un agent doit raisonner comme un professionnel compétent : refuser quand il n'est pas sûr, escalader au lieu d'inventer, demander une précision plutôt que supposer, rester dans son périmètre. Et il doit dans le même temps être clairement identifié comme une machine, conformément aux obligations de transparence du règlement européen sur l'intelligence artificielle.

Ces deux exigences ne s'opposent pas. La première porte sur la qualité du jugement, la seconde sur l'identité de l'émetteur.

En bref

AGGIL spécifie, évalue et documente le comportement des agents d'IA : règles de refus et d'escalade, jeux d'évaluation, points de conformité placés dans l'architecture. AGGIL applique aux agents d'IA les méthodes de validation des systèmes dont le comportement ne peut pas être énuméré, pratiquées depuis 2013 sur le test basé sur les modèles et la conduite autonome. AGGIL ne certifie pas la conformité d'un système.

Méthodes de validation

AGGIL applique aux agents d'IA les méthodes de validation des systèmes dont le comportement ne peut pas être énuméré, pratiquées depuis 2013 sur le test basé sur les modèles et la conduite autonome.

Communications et publications sur la validation des véhicules autonomes (2014-2021)

Ce que nous faisons

Spécification du comportement attendu

Ce que l'agent doit faire, ce qu'il ne doit jamais faire, quand il doit s'arrêter et demander. Rédaction des fichiers d'instructions système et des règles de périmètre.

Règles de refus et d'escalade

Les cas où l'agent rend la main plutôt que de produire une réponse, et la personne ou l'étape à laquelle il la rend.

Jeu d'évaluation du comportement

Cas de test rédigés avant la mise en service, comportement attendu pour chacun, mesure des écarts à chaque version, tests de non-régression comportementale.

Points de conformité placés dans l'architecture

Où se placent l'information de l'interlocuteur, le marquage des contenus produits, la validation humaine, les journaux et leur durée de conservation. Ces points se décident à la conception.

Documentation et traçabilité

Fichiers d'instructions versionnés dans le dépôt, journaux de session conservés, décisions d'architecture datées.

Les formats

  • Cadrage — 5 jours.
  • Prototype — 15 à 25 jours.
  • Mise en production, sur devis.

Livré : fichiers d'instructions système, règles de périmètre, jeu d'évaluation du comportement, schéma d'architecture précisant les points de validation humaine et les journaux, décisions d'architecture datées.

Les missions de gouvernance peuvent prendre pour grille la norme ISO/IEC 42001:2023 (système de management de l'intelligence artificielle) : état des lieux au regard de ses exigences, documentation, préparation d'un audit. AGGIL n'est pas un organisme de certification ; la certification relève d'un organisme accrédité.

Le lien avec le crédit d'impôt recherche

Caractériser un comportement attendu, écrire un jeu d'évaluation, mesurer les écarts, corriger et recommencer constitue une démarche expérimentale. Lorsque le résultat n'est pas acquis d'avance et que la solution n'est pas déductible de l'état des connaissances, ces travaux peuvent relever de la recherche et du développement ; leur justification suppose que les fichiers d'instructions, les jeux d'évaluation et les versions successives soient datés et conservés.

Crédit d'impôt recherche et innovation : projets logiciels et IA

Sélectionner, assembler, adapter : ce que le développement par agents d’IA laisse au crédit d’impôt recherche. Le Village de la Justice, 21 septembre 2026.

Obligations de transparence

L'article 50 du règlement (UE) 2024/1689 porte sur les obligations de transparence, notamment l'information des personnes qui interagissent avec un système d'intelligence artificielle et le marquage des contenus générés artificiellement. Ces obligations sont applicables depuis le 2 août 2026. Pour les systèmes générant des contenus de synthèse mis sur le marché avant le 2 août 2026, l'obligation de marquage (article 50, paragraphe 2) s'applique au plus tard le 2 décembre 2026 (article 111, paragraphe 4, introduit par le règlement (UE) 2026/1744).

Les obligations des systèmes d'IA à haut risque de l'annexe III du règlement (UE) 2024/1689 s'appliquent à partir du 2 décembre 2027 (article 113, dans sa rédaction issue du règlement (UE) 2026/1744 du 8 juillet 2026).

Notre rôle est de concevoir l'architecture de manière à pouvoir répondre à ces obligations, et de documenter les choix retenus. Nous ne certifions pas la conformité d'un système.

Un agent à spécifier, un comportement à corriger

Décrivez le contexte et la question. La réponse indiquera ce qui est faisable, sous quelle forme et en combien de jours.

Prendre contact