Spécification du comportement attendu
Ce que l'agent doit faire, ce qu'il ne doit jamais faire, quand il doit s'arrêter et demander. Rédaction des fichiers d'instructions système et des règles de périmètre.
Aligner le comportement, pas usurper l'humain
Un agent doit raisonner comme un professionnel compétent : refuser quand il n'est pas sûr, escalader au lieu d'inventer, demander une précision plutôt que supposer, rester dans son périmètre. Et il doit dans le même temps être clairement identifié comme une machine, conformément aux obligations de transparence du règlement européen sur l'intelligence artificielle.
Ces deux exigences ne s'opposent pas. La première porte sur la qualité du jugement, la seconde sur l'identité de l'émetteur.
Ce que je fais
Règles de refus et d'escalade
Les cas où l'agent rend la main plutôt que de produire une réponse. Point le plus négligé en production, première cause d'incident.
Jeu d'évaluation du comportement
Cas de test rédigés avant la mise en service, comportement attendu pour chacun, mesure des écarts à chaque version, tests de non-régression comportementale.
Points de conformité placés dans l'architecture
Où se placent l'information de l'interlocuteur, le marquage des contenus produits, la validation humaine, les journaux et leur durée de conservation. Ces points se décident à la conception.
Documentation et traçabilité
Fichiers d'instructions versionnés dans le dépôt, journaux de session conservés, décisions d'architecture datées.
Les formats
- Cadrage — 5 jours.
- Prototype — 15 à 25 jours.
- Mise en production, sur devis.
Livré : fichiers d'instructions système, règles de périmètre, jeu d'évaluation du comportement, schéma d'architecture précisant les points de validation humaine et les journaux, décisions d'architecture datées.
Le lien avec le crédit d'impôt recherche
Caractériser un comportement attendu, écrire un jeu d'évaluation, mesurer les écarts, corriger et recommencer constitue une démarche expérimentale. Lorsque le résultat n'est pas acquis d'avance et que la solution n'est pas déductible de l'état des connaissances, ces travaux peuvent relever de la recherche et du développement, à condition que les fichiers d'instructions, les jeux d'évaluation et les versions successives soient datés et conservés.
Crédit d'impôt recherche et innovation : projets logiciels et IAObligations de transparence
L'article 50 du règlement (UE) 2024/1689 porte sur les obligations de transparence, notamment l'information des personnes qui interagissent avec un système d'intelligence artificielle et le marquage des contenus générés artificiellement. Ces obligations sont applicables depuis le 2 août 2026.
Mon rôle est de concevoir l'architecture de manière à pouvoir répondre à ces obligations, et de documenter les choix retenus. Je ne certifie pas la conformité d'un système.
Un agent à spécifier, un comportement à corriger
Décrivez le contexte et la question. La réponse indiquera ce qui est faisable, sous quelle forme et en combien de jours.
Prendre contact