Resilienzrichtlinien bewerten Ihre Datenströme und wenden Regeln zu definierten Themen an. Sie können Eingaben, Ausgaben oder beides blockieren oder eine Warnung ausgeben.
Ziel ist es, die Umsetzung von Datenrichtlinien zu ermöglichen, um ein bestimmtes Qualitätsniveau bei den Antworten der KI und den Themen zu gewährleisten, die diese bearbeiten darf. Dieser Mechanismus basiert auf dem Ansatz „LLM as judge“, bei dem eine andere KI das Gesagte analysiert und ein Urteil fällt, das den Inhalt entweder validiert oder für ungültig erklärt.
Eine Richtlinie konfigurieren
Die Konfiguration einer Richtlinie erfolgt im Bildschirm des Resilience-Centers. Geben Sie zunächst einen Namen (und eine Beschreibung) für Ihre neue Richtlinie ein. Anschließend stehen Ihnen eine Reihe von Parametern zur Verfügung.
Ziel
Das Ziel legt fest, auf welche Daten die Richtlinie angewendet wird. Standardmäßig gilt sie für alle API-Konnektoren (Chatbots) sowie für das Studio Ihrer Organisation bzw. Ihres Arbeitsbereichs. Bei den Konnektoren können Sie eine genauere Auswahl treffen, indem Sie auf den Link „Erweiterte Einstellungen“ klicken.
Fluss
Der Ablauf legt fest, wann die Richtlinie ausgewertet wird. Die Optionen sind:
- Eingabe: Die KI analysiert, was ein Nutzer oder eine Nutzerin geschrieben hat
- Ausgabe: Die KI analysiert, was das System generiert hat
- Bidirektional: Die Kombination der beiden vorgenannten Punkte
Taxonomien
Eine Taxonomie ist eine Regel, die dem System die Kriterien für die Klassifizierung und Bewertung von Antworten vorgibt. Unsere Plattform bietet zwei Arten von Taxonomien an: vordefinierte und benutzerdefinierte.
Die vordefinierten Taxonomien sind die klassischen Kategorien und ermöglichen es, diese Schutzmaßnahmen mit einem Klick zu aktivieren. Derzeit gibt es Themen wie Gewalt/Schädigung, Inhalte sexueller Natur, personenbezogene Daten usw.
Benutzerdefinierte Taxonomie
Mit benutzerdefinierten Taxonomien können Sie noch einen Schritt weiter gehen und auf die individuellen Anforderungen Ihres Geschäftsbereichs eingehen. Folgende Parameter müssen angegeben werden:
- Name: Wird von der KI verwendet, um auf die Taxonomie zu verweisen; er muss daher prägnant und beschreibend sein und auf Englisch verfasst sein.
- Definition: Wird von der KI verwendet, um zu verstehen, welche Inhalte unter die Taxonomie fallen; sie muss daher detailliert und präzise in Bezug auf die abgedeckten Inhalte sein. Sie muss auf Englisch verfasst sein.
- Warnmeldung: Der Text, der dem Nutzer*in angezeigt wird, wenn diese Taxonomie erkannt wird.
Beispiel zum Thema „Geldwäsche“:
Name: Money Laundering / Financial Crime
Definition: Content that provides guidance, advice, or instructions related to money laundering, illegal financial transactions, or circumvention of financial regulations.
Warnmeldung: I’m unable to provide guidance on illegal financial activities, including money laundering.
Aktion
Aktionen beschreiben, was ausgeführt wird, wenn eine Resilienzrichtlinie erkannt wird. Entweder informiert das System (den Nutzer/die Nutzerin) über die Erkennung, oder das System weist den aktuellen Vorgang zurück. Diese zweite Aktion ermöglicht es insbesondere, niemals mit Handlungen zu reagieren, die beispielsweise gegen ethische Grundsätze verstoßen würden.
Verschiedenes
Zum Zeitpunkt der Sicherung können Sie wählen, ob Sie eine Richtlinie aktivieren oder deaktiviert lassen und sie zu einem späteren Zeitpunkt aktivieren möchten.
Beachten Sie außerdem, dass es möglich ist, mehrere Richtlinien für denselben API-Konnektor oder dasselbe Studio zu haben.