Guardrails
Vérifiez un contenu par rapport à du JSON, une expression régulière ou la politique DLP de votre organisation, puis branchez selon le résultat
Le bloc Guardrails vérifie un texte et indique s'il a réussi la vérification. Utilisez-le comme barrière avant un LLM, avant un système en aval ou avant qu'un humain ne voie le contenu. Le bloc ne réécrit jamais le texte : il répond seulement par réussite ou échec.
Configuration
- Validation Type — la vérification à exécuter. Par défaut : Validate JSON.
- Input — obligatoire. Le contenu à valider. Saisissez-le, ou référencez une valeur en amont comme
<agent1.content>. - Regex Pattern — obligatoire, et affiché uniquement pour Validate Regex.
Types de validation
| Type de validation | Ce qui est vérifié |
|---|---|
| Validate JSON | L'entrée est analysée comme du JSON. Le bloc vérifie qu'elle est bien formée, pas qu'elle respecte un schéma. |
| Validate Regex | L'entrée correspond à votre motif. Le motif n'est pas ancré : la validation réussit si le motif correspond n'importe où dans l'entrée ; ajoutez ^ et $ pour exiger une correspondance complète. |
| PII Detection | L'entrée ne contient aucune des données sensibles recherchées par la politique DLP de votre organisation. |
PII Detection applique la politique de votre organisation
PII Detection n'a pas de paramètres propres. Il applique les règles que les administrateurs de votre organisation maintiennent sous Settings → Governance → DLP, sous forme d'analyse du canal tool_call, et ne réussit que si aucune règle ne correspond. Un workflow ne peut ni restreindre, ni étendre, ni remplacer cet ensemble de règles. Les listes d'entités, méthodes de détection et actions PII enregistrées sur le bloc par d'anciens workflows sont ignorées.
La validation échoue, au lieu de réussir, lorsqu'elle ne peut pas être évaluée : la politique de l'organisation est indisponible, elle est désactivée, ou elle n'analyse pas le canal tool_call. Dans ce cas, evaluated vaut false et error en donne la raison, de sorte qu'une panne n'est jamais confondue avec un contenu « propre ».
Voir Prévention des pertes de données pour la configuration de la politique de l'organisation.
Limites de sécurité des expressions régulières
Avant d'être utilisé, un motif est contrôlé. Un motif est refusé, et la validation échoue avec passed: false et une error, lorsqu'il :
- est vide ;
- dépasse 512 caractères ;
- n'est pas une syntaxe d'expression régulière valide (l'erreur reprend l'erreur de syntaxe) ;
- est jugé dangereux pour la recherche de correspondances, par exemple une répétition imbriquée qui pourrait prendre un temps exponentiel sur une entrée conçue à cet effet.
Chaque cas indique sa propre raison : une faute de frappe n'est donc pas présentée comme un problème de sécurité.
Entrées et sorties
| Champ | Type | Description |
|---|---|---|
input (entrée) | string | Contenu à valider. |
regex (entrée) | string | Motif pour Validate Regex. |
passed (sortie) | boolean | true lorsque le contenu a réussi la vérification. |
validationType (sortie) | string | json, regex ou pii. |
error (sortie) | string | Pourquoi la vérification a échoué ou n'a pas pu s'exécuter. Absent lorsque le contenu a réussi. |
PII Detection ajoute ces sorties :
| Champ | Type | Description |
|---|---|---|
evaluated | boolean | false lorsque la politique n'a pas pu être appliquée. |
policyMode | string | Le mode de la politique de l'organisation, ou unavailable. |
findings | array | Une entrée par correspondance : ruleId, entityType, detector, confidence, channel, ainsi que l'étendue en caractères start et end. Le texte détecté n'est jamais renvoyé. |
Brancher selon le résultat
Une validation échouée est une exécution réussie avec passed: false. Le bloc n'arrête pas le workflow et n'emprunte aucun chemin d'erreur. Ajoutez un bloc Condition après lui et branchez selon le résultat :
<guardrails1.passed>Un bloc nommé Guardrails 1 est référencé par <guardrails1.passed> : les espaces sont supprimés et le nom est mis en minuscules. Envoyez la branche vraie vers la suite, et la branche fausse vers un rejet, une nouvelle tentative ou une revue humaine. Utilisez <guardrails1.error> dans le message de rejet pour afficher la raison.
Sans bloc Condition, le workflow continue exactement comme si le contenu avait réussi.
Les vérifications d'hallucination ne sont pas disponibles
Le bloc Guardrails n'a aucune vérification d'hallucination : elle a été supprimée (les champs Model et Knowledge Base ont disparu avec elle), et Validation Type ne propose que PII, JSON et Regex. Ne vous fiez pas à Guardrails comme barrière d'ancrage. Pour évaluer la qualité d'une réponse, utilisez le bloc Evaluator.
Exemple
Valider la réponse d'un LLM avant de la renvoyer :
- Un bloc Agent nommé
Agent 1rédige la réponse. - Un bloc Guardrails réglé sur PII Detection prend
<agent1.content>comme entrée. - Un bloc Condition teste
<guardrails1.passed>. Si c'est vrai, un bloc Response renvoie la réponse ; sinon, le workflow envoie la réponse vers une étape de revue.