Les politiques de résilience évaluent vos flux de données et appliquent des règles sur des thèmes définis. Elles peuvent bloquer ou avertir sur les entrées, les sorties, ou les deux.
Le but est de permettre la mise en place de politiques sur la données afin de garantir un certain niveau de qualité sur les réponses de l’IA et les thématiques que cette dernière accepte de traiter. Ce mécanisme est base sur l’approche « LLM as judge », où une autre IA va analyser ce qui a été dit, et émettre un jugement validant ou invalidant le contenu.
Paramétrer une politique
Le paramètrage d’une politique se fait dans l’écran du centre de résilience. Commencez par donner un nom (et une description) à votre nouvelle politique. Vous aurez ensuite un certain nombre de paramètres à disposition.
Cible
La cible définit sur quelles données la politique s’appliquera. Par défaut, elle s’appliquera à touts les connecteurs API (chatbots) ainsi que le studio de votre organisation / espace de travail. Pour les connecteurs, il est possible de faire une sélection plus fine en cliquant sur un lien avancé.
Flux
Le flux définit à quel moment la politique est évaluée. les options sont:
- Entrée: l’IA analyse ce qu’un·e utilisateur·ice a écrit
- Sortie: l’IA analyse ce que le système a généré
- Bidirectionnel: la combinaison des deux points précédents
Taxonomies
Une taxonomie est une règle qui indique au système les critères pour classer et évaluer les réponses. Notre plateforme propose deux types de taxonomies: prédéfinies et personnalisées.
Les taxonomies prédéfinies sont les grands classiques et permettent en un clic d’activer ces protections. Il y a actuellement les sujets sur la violence / préjudice, les contenus à caractère sexuel, les informations personnelles identifiables, etc.
Taxonomie personnalisée
Les taxonomies personnalisées vous permettent d’aller plus loin et de répondre à des besoins sur mesure, en lien avec votre métier. Les paramètres à fournir sont:
- Nom: utilisé par l’IA pour faire référence à la taxonomie, il doit donc être concis et descriptif, et être rédigé en anglais
- Définition: utilisé par l’IA pour comprendre quel contenu relève de la taxonomie, il doit donc être détaillé et précis quant au contenu qu’il couvre. Il doit être rédigé en anglais.
- Message d’avertissement: le texte qui sera affiché à l’utilisateur·ice en cas de détection de cette taxonomie.
Exemple avec le blanchiment d’argent:
Nom: Money Laundering / Financial Crime
Définition: Content that provides guidance, advice, or instructions related to money laundering, illegal financial transactions, or circumvention of financial regulations.
Message d'avertissement: I’m unable to provide guidance on illegal financial activities, including money laundering.
Action
Les actions décrivent ce qui est exécuté lorsqu’une politique de résilience est détectée. Soit le système va informer (l’utilisateur·ice) de la détection, soit le système va rejeter ce qui est en train de se passer. Cette deuxième action permet notamment de ne jamais répondre avec des actes qui seraient contraires à l’éthique, par exemple.
Divers
Au moment de la sauvegarde, vous pouvez choisir d’activer ou laisser inactive une politique, et de l’activer ultérieurement.
Il est à noter également qu’il est possible d’avoir plusieurs politiques sur un même connecteur API ou studio.