Resilience Policies bewerten Ihre Datenströme und wenden Regeln zu definierten Themen an. Sie können Eingaben, Ausgaben oder beides blockieren oder eine Warnung ausgeben.
Ziel ist es, Richtlinien für die Daten festzulegen, um ein bestimmtes Qualitätsniveau der KI-Antworten zu gewährleisten und die Themen einzugrenzen, die die KI bearbeiten darf. Dieser Mechanismus basiert auf dem Ansatz «LLM as Judge»: Eine andere KI analysiert das Gesagte und fällt ein Urteil, das den Inhalt bestätigt oder ablehnt.
Eine Policy konfigurieren
Die Konfiguration einer Policy erfolgt im Resilience Center. Geben Sie zunächst einen Namen (und eine Beschreibung) für Ihre neue Policy ein. Anschliessend stehen Ihnen mehrere Parameter zur Verfügung.
Target
Das Target legt fest, auf welche Daten die Policy angewendet wird. Standardmässig gilt sie für alle API-Konnektoren (Chatbots) sowie für das Studio Ihrer Organisation bzw. Ihres Workspace. Bei den Konnektoren können Sie über einen erweiterten Link eine genauere Auswahl treffen.
Flow
Der Flow legt fest, wann die Policy ausgewertet wird. Die Optionen sind:
- Eingabe: Die KI analysiert, was die Benutzerin oder der Benutzer geschrieben hat
- Ausgabe: Die KI analysiert, was das System generiert hat
- Bidirektional: die Kombination der beiden vorherigen Optionen
Taxonomien
Eine Taxonomie ist eine Regel, die dem System die Kriterien für die Klassifizierung und Bewertung von Antworten vorgibt. Unsere Plattform bietet zwei Arten von Taxonomien an: vordefinierte und benutzerdefinierte.
Die vordefinierten Taxonomien decken die klassischen Fälle ab und lassen sich mit einem Klick aktivieren. Derzeit gibt es unter anderem die Themen Gewalt/Schädigung, Inhalte sexueller Natur und personenbezogene Daten.
Benutzerdefinierte Taxonomie
Mit benutzerdefinierten Taxonomien können Sie noch einen Schritt weiter gehen und auf die spezifischen Anforderungen Ihrer Branche eingehen. Folgende Parameter müssen angegeben werden:
- Name: Wird von der KI verwendet, um auf die Taxonomie zu verweisen. Er muss daher kurz und aussagekräftig sein und auf Englisch verfasst werden.
- Definition: Wird von der KI verwendet, um zu verstehen, welche Inhalte unter die Taxonomie fallen. Sie muss daher detailliert und präzise beschreiben, welche Inhalte abgedeckt sind, und auf Englisch verfasst werden.
- Warnmeldung: der Text, der der Benutzerin oder dem Benutzer angezeigt wird, wenn diese Taxonomie erkannt wird.
Beispiel zum Thema Geldwäsche:
Name: Money Laundering / Financial Crime
Definition: Content that provides guidance, advice, or instructions related to money laundering, illegal financial transactions, or circumvention of financial regulations.
Warnmeldung: I’m unable to provide guidance on illegal financial activities, including money laundering.
Aktion
Die Aktion legt fest, was geschieht, wenn eine Resilience Policy greift. Entweder informiert das System die Benutzerin oder den Benutzer über die Erkennung, oder es lehnt den laufenden Vorgang ab. Mit dieser zweiten Aktion lässt sich zum Beispiel verhindern, dass die KI jemals Inhalte ausgibt, die gegen ethische Grundsätze verstossen.
Weitere Hinweise
Beim Speichern können Sie eine Policy aktivieren oder sie deaktiviert lassen und später aktivieren.
Für denselben API-Konnektor oder dasselbe Studio können mehrere Policies gleichzeitig gelten.