Chatbot einfach erklärt
Ein Chatbot sitzt dort, wo sonst ein Mensch Fragen beantworten würde: im Chatfenster einer Website, im internen Nachrichtenkanal oder im Intranet. Man schreibt eine Frage, der Bot antwortet in ganzen Sätzen, und das Gespräch kann mit Rückfragen weitergehen.
Ältere Chatbots arbeiten mit Entscheidungsbäumen. Sie erkennen Schlüsselwörter oder bieten Schaltflächen an und führen Schritt für Schritt zu einer vorbereiteten Antwort. Das ist berechenbar, endet aber in einer Sackgasse, sobald jemand anders fragt als vorgesehen. Die Chatbots der neueren Generation arbeiten mit einem Large Language Model aus dem Feld der Künstlichen Intelligenz. Damit kommen sie auch mit Tippfehlern oder umständlichen Sätzen zurecht, und die Antwort ist kein fester Textbaustein, sondern wird jedes Mal neu formuliert.
Woher ein Chatbot sein Wissen nimmt
Ein Sprachmodell allein kennt Ihr Unternehmen nicht. Damit ein Chatbot zu Ihren Abläufen, Produkten oder Regeln Auskunft geben kann, wird er mit einer Wissensbasis verbunden: ausgewählten Dokumenten, Anleitungen oder Fragenkatalogen. Bei jeder Frage sucht die Anwendung in dieser Sammlung nach passenden Abschnitten, und das Modell formuliert seine Antwort auf Grundlage dieser Auszüge. Je nach Lösung zeigt der Bot dabei an, aus welchem Dokument eine Antwort stammt; so lässt sie sich nachprüfen.
Die Qualität der Antworten hängt deshalb an der Wissensbasis: Veraltete oder widersprüchliche Unterlagen ergeben veraltete oder widersprüchliche Auskünfte. Hinzu kommt eine Eigenheit von Sprachmodellen, die das BSI ausdrücklich beschreibt. Sie können Inhalte erfinden, die weder in der Frage noch in den Unterlagen standen, und diese glaubhaft formulieren. Ein Chatbot braucht deshalb klare Grenzen. Fehlt ihm eine Information, sollte er das offen sagen und eine zuständige Person nennen, statt zu raten.
Personalfragen, die sich wiederholen
Angenommen, eine Möbelschreinerei mit 45 Beschäftigten hat ihre Personalthemen in einem Handbuch gesammelt: Urlaubsregeln, Reisekosten, Arbeitskleidung, Ansprechpersonen für den Betriebsarzt. Trotzdem landen dieselben Fragen bei der Personalsachbearbeiterin, oft zwischen Tür und Angel.
Die Schreinerei richtet einen internen Chatbot ein, der nur dieses Handbuch und zwei weitere freigegebene Dokumente kennt. Wer wissen will, bis wann Resturlaub genommen werden muss, bekommt die Regel samt Verweis auf den Abschnitt im Handbuch. Fragen zum eigenen Gehalt oder zu persönlichen Anliegen beantwortet der Bot nicht; er verweist auf die zuständige Person. Einmal im Monat sieht die Sachbearbeiterin eine Liste der Fragen ohne Antwort durch, ohne Namen der Fragenden, und ergänzt das Handbuch an den passenden Stellen.
Datenschutz, Transparenz und Übergabe
Vor dem Start eines Chatbots sollten drei Fragen beantwortet sein.
Welche Daten sieht der Bot? Viele Chatbots laufen als Cloud-Dienst; Eingaben und Unterlagen werden dann auf Servern des Anbieters verarbeitet. Gelangen dabei personenbezogene Daten zum Anbieter, der sie für Sie verarbeitet, ist mit ihm eine Vereinbarung zur Auftragsverarbeitung nach Art. 28 DSGVO zu schließen. Prüfen Sie außerdem, wo die Daten verarbeitet werden und ob der Anbieter sie für eigene Zwecke verwendet.
Wissen die Nutzenden, mit wem sie schreiben? Die KI-Verordnung der EU sieht in Art. 50 Transparenzpflichten vor: Menschen sollen erfahren, dass auf der anderen Seite eine Maschine schreibt, es sei denn, das liegt ohnehin auf der Hand. Verpflichtet ist hier in erster Linie der Anbieter des Systems; klären Sie deshalb vor dem Vertrag, wie der Dienst diesen Hinweis anzeigt. Ein Satz wie „Hier antwortet ein KI-Assistent“ am Anfang des Chats schafft Klarheit. Einzelheiten und Fristen erläutert der verlinkte Glossarbegriff; eine Rechtsberatung ersetzt das nicht.
Wie kommt ein Mensch ins Spiel? Ein Chatbot sollte erkennen lassen, wann er nicht weiterkommt, und einen einfachen Weg zu einer Person bieten, etwa über einen Rückrufwunsch oder die Weiterleitung des bisherigen Verlaufs. Beschwerden, Vertragsfragen und heikle Anliegen gehören zu Ihrem Team.
Dazu kommt ein Sicherheitsthema, das das BSI als Indirect Prompt Injection beschreibt. Angreifende platzieren Anweisungen in ungeprüften Drittquellen, etwa auf einer Webseite oder in einer eingereichten Datei. Das Sprachmodell behandelt sie dann wie einen Teil seines Auftrags.
Für einen Chatbot im Unternehmen folgt daraus zweierlei. Als Wissensquelle dienen am besten nur geprüfte, freigegebene Unterlagen. Und soll der Bot Daten ändern oder Nachrichten verschicken, gehört vor jede solche Aktion die Bestätigung durch einen Menschen.
Wie ProNet unterstützt
Am Anfang steht die Frage, ob ein Chatbot zu Ihren Anliegen passt oder ob eine gut gepflegte Wissensseite genügt. In einem Pilotprojekt vergleichen wir infrage kommende Dienste aus Sicht von Datenschutz und Vertrag; die Entscheidung treffen Sie. Auf Wunsch bereiten wir anschließend gemeinsam die Wissensbasis auf und legen Grenzen und Übergabewege fest. Soll der Bot Anliegen nicht nur beantworten, sondern weitergeben, verbinden wir ihn mit einem automatisierten Ablauf, wie ihn die Seite zur Prozessautomatisierung beschreibt. Weitere Einsatzfelder zeigt unser Bereich KI und Automatisierung.