Wie Chatbots wirklich funktionieren: Regeln, Abruf, LLMs, Tools und Übergabe an Menschen

Ein Chatbot-Gespräch kann mühelos wirken, bis genau der Moment kommt, in dem es fehlschlägt. Sie fragen, wo ein Paket ist. Der Bot wiederholt eine allgemeine Lieferpolitik. Sie geben die Bestellnummer an. Er fragt erneut nach der Bestellnummer. Nach drei Schleifen ist die kleine Chatblase, die Bequemlichkeit versprach, zu einer verschlossenen Tür zwischen Ihnen und der Antwort geworden.

Das gegenteilige Erlebnis ist fast unsichtbar. Der Chatbot erkennt, dass Sie eine Bestellung verfolgen möchten, erfasst die korrekte Nummer, überprüft einen aktuellen Datensatz, erklärt das Ergebnis in einem Satz und bietet eine Person an, falls der Fall ungewöhnlich ist. Der Unterschied besteht nicht einfach darin, dass ein Bot mehr künstliche Intelligenz hat. Es liegt daran, dass ein Konversationssystem eine klarere Aufgabe, einen besseren Zustand, zuverlässige Werkzeuge, sicherere Grenzen und eine geplante Möglichkeit zur Wiederherstellung hat.

Dieser Leitfaden blickt hinter die Chatblase. Er erklärt die wichtigsten Arten von Chatbots, verfolgt eine Nachricht durch eine echte Architektur und zeigt, warum fließende Sprache nur ein Teil einer zuverlässigen Konversation ist.

Was ist ein Chatbot?

Ein Chatbot ist eine Software, die Nachrichten mit einer Person über Text, Sprache oder einen anderen Kommunikationskanal austauscht. Er interpretiert eine Eingabe, entscheidet, was als Nächstes geschehen soll, und gibt eine Antwort oder Handlung zurück. Diese breite Definition umfasst ein festgelegtes Menü in einem Support-Widget, einen Sprachablauf, der eine Kontonummer sammelt, einen Wissensassistenten, der Dokumente durchsucht, und ein Sprachmodell-System, das offene Antworten entwerfen kann.

Das Gespräch ist die Schnittstelle, nicht die zugrunde liegende Technologie. Zwei Chatbots können identisch aussehen, während sie auf völlig unterschiedliche Weise arbeiten. Der eine folgt einem Entscheidungsbaum. Ein anderer erkennt eine Absicht und ruft ein Webhook auf. Ein dritter ruft Dokumente ab und bittet ein großes Sprachmodell, eine Antwort zu schreiben. Die nützlichsten Systeme kombinieren oft mehrere Ansätze.

Eine Lektion von ELIZA, sechzig Jahre später

Im Jahr 1966 veröffentlichte Joseph Weizenbaum ELIZA, ein Programm für natürliche Sprachkommunikation. Sein bekanntes DOCTOR-Skript verwendete Muster und Transformationen, um Teile der Aussage eines Benutzers in eine Antwort umzuwandeln. Ein Satz wie „Ich bin unglücklich“ konnte erkannt, umgestellt und als Frage reflektiert werden. Der Austausch konnte aufmerksam wirken, obwohl das Programm nur wenig Informationen über das Leben der Person und kein modernes Sprachmodell hatte.

ELIZA bleibt relevant, weil Menschen sprachlich sozial reagieren. Eine rechtzeitige Frage, eine mitfühlende Bemerkung oder eine selbstbewusste Antwort kann den Eindruck von Verständnis erzeugen, der die darunterliegende Mechanik übertrifft. Moderne Modelle sind weitaus leistungsfähiger, aber die Schnittstelle lädt immer noch zum gleichen Fehler ein: zu beurteilen, was ein System weiß, basierend darauf, wie natürlich es klingt.

Ein professioneller Chatbot sollte daher Vertrauen durch korrekte Aufgabenerfüllung, sichtbare Grenzen und behebbare Fehler gewinnen. Persönlichkeit kann eine Interaktion verbessern. Sie kann jedoch weder den Zugang zu den richtigen Informationen noch einen sicheren Ablauf ersetzen.

Drei Hauptarchitekturen von Chatbots

Chatbots lassen sich leichter verstehen, wenn wir drei architektonische Familien unterscheiden. Diese sind keine strikten Generationen, bei denen jede neue die anderen obsolet macht. Sie sind Werkzeuge mit unterschiedlichen Stärken.

1. Regeln und Gesprächsabläufe

Ein regelbasierter Chatbot folgt vorab entworfenen Pfaden. Er kann Schaltflächen anzeigen, Schlüsselwörter erkennen, ein Formular ausfüllen oder zwischen Zuständen wechseln, wenn Bedingungen erfüllt sind. Die Logik kann explizit sein: Wenn der Benutzer das Lieferdatum ändern möchte, sammle die Bestellnummer, überprüfe, ob das Paket berechtigt ist, zeige verfügbare Termine an und frage nach einer Bestätigung.

Regeln sind wertvoll, wenn der Prozess eng gefasst ist und die akzeptablen Handlungen bekannt sind. Sie erleichtern die Kontrolle von Compliance-Schritten und destruktiven Aktionen. Ihre Schwäche zeigt sich, wenn Menschen Anfragen auf unerwartete Weise formulieren oder den entworfenen Pfad verlassen. Ein gutes Regelsystem benötigt Fallbacks, Korrekturen und Ausweichmöglichkeiten, nicht nur einen perfekten Happy Path.

2. Intent-Erkennung und Abruf

Ein auf Absichten basierendes System schätzt, was der Benutzer zu tun versucht, und extrahiert dann nützliche Details, die Entitäten oder Parameter genannt werden. „Bestellung 4821 verfolgen“ kann einer Track-Order-Absicht und einem Bestellnummer-Parameter zugeordnet werden. Die Dialogflow-Absichtsdokumentation von Google Cloud beschreibt dieses Muster als Vergleich einer Eingabe mit Trainingsphrasen, um eine Übereinstimmung zu finden.

Retrieval fügt eine Suchschicht hinzu. Anstatt nur aus einer festen Antwort zu antworten, findet das System relevante Passagen, Richtlinieneinträge, Hilfearikel oder Aufzeichnungen. Ein Retrieval-Chatbot kann eine bekannte Antwort direkt zitieren oder ausgewähltes Material an einen Generator weitergeben. Seine Qualität hängt davon ab, was indexiert wurde, wie die Abfrage formuliert wurde, ob die Quelle aktuell ist und ob das System die richtige Passage gefunden hat.

3. Sprachmodelle, Werkzeuge und Hybridsysteme

Ein großes Sprachmodell kann unterschiedliche Formulierungen interpretieren und natürliche Antworten auf eine viel größere Bandbreite von Eingaben erzeugen. Es kann zusammenfassen, erklären, übersetzen, eine klärende Frage stellen oder strukturierte Tool-Ausgaben in lesbare Sprache umwandeln. Für eine ausführlichere Erklärung der Token-Generierung und der Modellgrenzen siehe Was ist KI wirklich?.

Das Modell benötigt weiterhin Hilfe bei aktuellen Fakten und Aktionen. Es kann den aktuellen Standort der Bestellung 4821 nicht wissen, es sei denn, die Anwendung liefert diese Informationen über Kontext, Abruf oder ein Werkzeug. Es kann nicht sicher eine Rückerstattung ausstellen, nur weil es den Satz „Ihre Rückerstattung ist abgeschlossen“ schreiben kann. Die Anwendung muss das Modell mit autorisierten Diensten verbinden und das Ergebnis überprüfen.

Deshalb sind viele moderne Chatbots Hybride. Regeln schützen kritische Übergänge. Abruf liefert aktuelles Wissen. Ein Sprachmodell übernimmt flexible Sprache. Werkzeuge lesen oder ändern den externen Status. Konventioneller Code überprüft Berechtigungen und Ausgaben. Ein Mensch bearbeitet Fälle, die Urteilskraft oder Autorität erfordern.

Was während einer Chatbot-Runde passiert

Folgen Sie einer einfachen Nachricht: „Wo ist Bestellung 4821?“ Eine echte Implementierung kann die Schritte kombinieren oder umbenennen, aber die zugrunde liegenden Verantwortlichkeiten bleiben erkennbar.

1. Empfangen und normalisieren Sie die Eingabe. Der Kanal kann getippten Text, transkribierte Sprache, Button-Auswahlen, Sprache oder Sitzungs-Metadaten bereitstellen.
2. Identifizieren Sie das Ziel. Das System bestimmt, ob die Anfrage die Nachverfolgung, Stornierung, Zahlung, ein anderes Thema oder etwas nicht Unterstütztes betrifft.
3. Extrahieren Sie die erforderlichen Details. In diesem Fall ist die Bestellnummer 4821. Wenn sie fehlt oder unklar ist, sollte der Bot nachfragen, anstatt sie zu erfinden.
4. Überprüfen Sie den Konversationsstatus. Das System bestimmt, was es bereits weiß, was es behalten darf und welcher Schritt aktiv ist.
5. Wissen abrufen oder ein Werkzeug aufrufen. Ein Tracking-Dienst gibt den aktuellen Status zurück. Der Chatbot sollte diesen Status nicht aus Sprachmustern erzeugen.
6. Antwort erstellen und validieren. Die Anwendung wandelt das Ergebnis in klare Sprache um, überprüft erforderliche Felder und vermeidet es, interne oder persönliche Daten preiszugeben.
7. Antworten, wiederherstellen oder weitergeben. Ein normales Ergebnis wird an den Benutzer zurückgegeben. Ein Fehler, ein nicht unterstützter Fall oder eine Anfrage an eine Person folgt einem anderen Weg.

Google Cloud verwendet den Begriff „Fulfillment“ für den Teil eines Konversationsablaufs, der eine statische Antwort zurückgibt, einen Webhook für dynamische Informationen aufruft, Parameter setzt oder eine Aktion ausführt. Dialogflow-Fulfillment-Dokumentation macht eine wichtige Unterscheidung: die Anfrage zu verstehen und sie zu erfüllen sind separate Verantwortlichkeiten.

Der Gesprächszustand ist kein menschliches Gedächtnis

Ein Chatbot benötigt genügend Zustand, um nicht bei jeder Eingabe von vorne beginnen zu müssen. Der Sitzungszustand könnte aufzeichnen, dass die aktuelle Aufgabe die Sendungsverfolgung ist, die Bestellnummer 4821 lautet und der Benutzer bereits eine Postleitzahl bestätigt hat. Ohne Zustand hat die Frage „Wie sieht es mit dem zweiten Paket aus?“ keinen verwertbaren Bezug.

Dieser Zustand besteht aus erzeugten Daten, nicht aus einer menschlichen Erinnerung. Manche Systeme speichern nur die aktuelle Sitzung. Andere speichern den Gesprächsverlauf, Zusammenfassungen, Präferenzen oder Kontoinformationen. Ein Modell kann auch nur einen Teil eines langen Gesprächs erhalten, weil sein Kontext eine begrenzte Kapazität hat oder weil die Anwendung absichtlich die gesendeten Informationen einschränkt.

Benutzer sollten nicht annehmen, dass ein Chatbot vergisst, wenn ein Fenster geschlossen wird, oder sich erinnert, nur weil er so spricht, als ob er es tut. Speicherung, Kontoverknüpfung, Trainingsnutzung und Löschung hängen vom jeweiligen Dienst ab. Bevor sensible Informationen geteilt werden, sollte die Datenschutzerklärung des Dienstes geprüft und nur die minimal erforderlichen Informationen für die Aufgabe verwendet werden.

Wie abrufunterstützte Generierung funktioniert

Die Parameter eines Sprachmodells sind ein schlechter Ort, um eine sich häufig ändernde Rückgaberichtlinie zu speichern. Retrieval-augmented generation, üblicherweise zu RAG verkürzt, löst dieses Problem, indem es eine externe Sammlung nach relevantem Material durchsucht und ausgewählte Passagen in den Kontext des Modells einfügt, bevor es die Antwort schreibt.

Das ursprüngliche Retrieval-Augmented Generation-Papier kombinierte einen vortrainierten Generator mit einem expliziten nicht-parametrischen Speicher, der aus einem Index abgerufen wurde. Das breite Muster erscheint jetzt in vielen Wissensassistenten: zuerst suchen, dann generieren.

Eine nützliche RAG-Pipeline hat mindestens vier Möglichkeiten zu scheitern. Die Quellensammlung könnte unvollständig sein. Das Dokument könnte veraltet sein. Die Abfrage könnte einen irrelevanten Abschnitt auswählen. Der Generator könnte das, was er erhalten hat, falsch lesen oder ausschmücken. Zitate helfen nur, wenn sie auf die genau unterstützende Quelle verweisen und der Benutzer sie einsehen kann.

RAG verbessert daher den Zugang zu aktuellem, überprüfbarem Wissen, garantiert aber nicht die Wahrheit. Sie sollte Ende-zu-Ende bewertet werden: Wurde die korrekte Quelle in den Index aufgenommen, hat die Suche sie gefunden, blieb die Antwort innerhalb der Beweise und unterstützte das Zitat die Aussage?

Antworten und Handlungen erfordern unterschiedliche Kontrollstufen

Ein Chatbot, der eine Rückerstattungsrichtlinie erklärt, ist nicht dasselbe wie ein Chatbot, der eine Rückerstattung ausstellt. Das zweite System kann den externen Zustand ändern. Es kann einen Kontodienst, Kalender, Zahlungssystem, Messaging-Tool oder Gerätesteuerung aufrufen. Diese Fähigkeit wird manchmal als Handlungsfähigkeit beschrieben, aber die praktische Frage ist einfacher: Was kann diese Anwendung über die reine Texterzeugung hinaus tun?

Ein sicherer Aktionspfad sollte wichtige Prüfungen außerhalb des Textes des Modells halten:

• Authentifizieren Sie den Benutzer und bestätigen Sie, dass das Konto oder die Ressource ihm gehört.
• Autorisieren Sie die spezifische Aktion, anstatt dem Chatbot umfangreiche Zugriffsrechte zu geben.
• Validieren Sie Tool-Parameter, Beträge, Ziele und erlaubte Bereiche mit herkömmlichem Code.
• Erfordern Sie eine explizite Bestätigung vor irreversiblen oder kostspieligen Aktionen.
• Geben Sie ein überprüftes Tool-Ergebnis zurück, anstatt anzunehmen, dass eine Aktion erfolgreich war.
• Zeichnen Sie genügend Informationen auf, um Fehler zu untersuchen, ohne unnötige sensible Daten preiszugeben.

Die Abbildung zeigt eine Zielarchitektur, kein Versprechen über einen bestimmten Chatbot. Ein Sprachmodell kann vorschlagen, welches Werkzeug aufgerufen werden soll, aber die umgebende Anwendung sollte entscheiden, ob der Aufruf erlaubt ist. Mehr Autonomie erhöht den Wert von Berechtigungsgrenzen, Ratenbegrenzungen, Bestätigung, Überwachung und menschlicher Überprüfung.

Prompt-Injektion: wenn Inhalte versuchen, zu einer Anweisung zu werden

Ein Werkzeug-verwendender oder abrufender Chatbot kann Texte lesen, die von Benutzern, Websites, E-Mails oder Dokumenten bereitgestellt werden. Ein Teil dieses Textes kann Anweisungen enthalten, die auf das Modell abzielen, wie zum Beispiel ihm zu sagen, frühere Regeln zu ignorieren, versteckte Informationen preiszugeben oder ein Werkzeug auf eine nicht beabsichtigte Weise zu verwenden. Dies ist Prompt-Injektion.

Die OWASP GenAI Security Projekt führt Prompt-Injektion als ein Hauptrisiko für Anwendungen von Sprachmodellen auf. Das Kernproblem besteht darin, dass Modelle Anweisungen und gewöhnliche Inhalte über denselben Sprachkanal verarbeiten. Ein nicht vertrauenswürdiges Dokument kann grammatikalisch ähnlich wie eine Anweisung der Anwendung aussehen.

Kein Prompt kann Systemkontrollen auf Systemebene ersetzen. Anwendungen sollten abgerufene und vom Benutzer bereitgestellte Inhalte als nicht vertrauenswürdig behandeln, verfügbare Werkzeuge einschränken, das Prinzip der minimalen Rechte anwenden, Werkzeugaufrufe validieren, sensible Vorgänge isolieren und um Bestätigung bitten, wo Folgen relevant sind. Das Modell sollte keinen Hauptschlüssel erhalten, nur weil die Schnittstelle konversationell ist.

Warum Chatbots falsche oder frustrierende Antworten geben

Sie verstehen die Anfrage falsch

Sprache ist mehrdeutig. „Mein Konto schließen“ könnte bedeuten, sich abzumelden, ein Profil zu löschen, ein Abonnement zu kündigen oder ein Finanzkonto zu schließen. Ein verlässlicher Chatbot erkennt, wann die Kosten eines Rates höher sind als die Kosten einer klärenden Frage.

Ihnen fehlen die erforderlichen Informationen

Ein Modell kennt möglicherweise allgemeines Versandvokabular, verfügt aber nicht über die Bestellhistorie des Nutzers. Die Suche könnte die relevante Richtlinie übersehen. Ein Werkzeug könnte nicht verfügbar sein. Die korrekte Reaktion besteht darin, die Einschränkung zu nennen oder eine Alternative zu nutzen, nicht die Lücke mit einer plausiblen Geschichte zu füllen.

Sie erzeugen eine zuversichtlich vorgetragene Falschinformation

NIST bezeichnet zuversichtlich präsentierte falsche oder fehlerhafte generative Inhalte als Konfabulation. Ihr Generative AI Profil weist darauf hin, dass dieses Verhalten erfundene Logik oder Zitate enthalten kann. Flüssigkeit macht diese Fehler schwerer zu erkennen, nicht weniger relevant.

Sie verlieren den Zustand oder übertragen den falschen Zustand weiter

Eine Sitzung kann ein Detail vergessen, zwei Aufträge verwechseln, eine falsche Annahme beibehalten oder Informationen von einer Aufgabe auf eine andere anwenden. Der Zustand sollte sichtbar genug sein, um korrigiert zu werden, und eng genug abgegrenzt, um unbeabsichtigte Vermischungen zu vermeiden.

Sie haben keinen sanften Ausstieg

Die schmerzhafteste Schleife ist oft ein Designfehler. Der Bot hat die Grenze seiner Fähigkeiten erreicht, wiederholt jedoch immer wieder dieselbe Antwort. Ein Fallback sollte den Weg ändern: frage nach einem fehlenden Detail, zeige eine unterstützte Option, erstelle einen Fall oder übergebe das Gespräch.

Die Übergabe an einen Menschen ist Teil des Systems, kein Eingeständnis der Niederlage.

Einige Anfragen sind mehrdeutig, emotional, außergewöhnlich oder folgenschwer. Andere erfordern eine Autorität, die der Chatbot nicht haben sollte. Ein menschlicher Spezialist kann den Kontext interpretieren, eine Ausnahme verhandeln, Verantwortung übernehmen oder erkennen, dass der dokumentierte Prozess nicht auf den Fall zutrifft.

Ein Handoff funktioniert nur, wenn der Kontext mitgeführt wird. Die Person sollte das Ziel des Benutzers, bestätigte Details, relevante Tool-Ergebnisse und den Grund für die Eskalation erhalten. Den Benutzer zu zwingen, das gesamte Gespräch zu wiederholen, verwandelt eine technisch erfolgreiche Übergabe in eine schlechte Erfahrung.

Dialogflows Dokumentation zum Live-Agent-Handoff behandelt den Handoff als einen expliziten Übergang. Dieses Gestaltungsprinzip ist weiter gefasst als eine einzelne Plattform: Eskalation sollte ein getesteter Ablauf mit Verantwortung sein, nicht ein Satz, den der Bot improvisiert, wenn er nicht weiterkommt.

Wie man beurteilt, ob ein Chatbot gut ist

Eine überzeugende Demo ist leicht inszeniert. Ein verlässlicher Chatbot muss gewöhnliche Variationen und sichtbare Fehler bewältigen. Die Bewertung sollte mit der Aufgabe beginnen, die der Benutzer erledigen wollte.

• Aufgabenerfüllung: Hat der Benutzer die Antwort erhalten oder die Aktion korrekt abgeschlossen?
• Grundlagen: Folgten die faktischen Behauptungen der bereitgestellten Quelle oder dem überprüften Tool-Ergebnis?
• Wiederherstellung: Führten fehlende Informationen, nicht übereinstimmende Ereignisse und Tool-Fehler zu einem nützlichen nächsten Schritt?
• Sicherheit: Wurden Autorisierung, Bestätigung, Datenverarbeitung und Tool-Grenzen bei feindlichen Eingaben eingehalten?
• Übergabequalität: Wurde das Gespräch mit der richtigen Person mit genügend Kontext geführt?
• Sprache und Barrierefreiheit: Funktionierte der Ablauf über unterstützte Sprachen, Schreibstile, Sprachbedingungen, Tastaturnavigation und assistive Technologien hinweg?
• Benutzeraufwand: Wie viele Runden, Wiederholungen und Korrekturen waren erforderlich, um die Aufgabe zu erledigen?

Testgespräche sollten mehr als nur den idealen Ablauf enthalten. Verwenden Sie fehlende Bestellnummern, zwei Nummern in einer Nachricht, Rechtschreibfehler, nicht unterstützte Anfragen, veraltete Dokumente, Tool-Zeitüberschreitungen, Anfragen, das Thema zu wechseln, direkte Anfragen nach einer Person und schädliche Anweisungen, die im abgerufenen Inhalt verborgen sind. Google Cloud's Agenten-Design-Richtlinien empfehlen ähnlich iterative Design- und Testfälle anstelle des Versuchs, jeden Pfad auf einmal zu entwerfen.

Wie man einen Chatbot nutzt, ohne das eigene Urteilsvermögen aufzugeben

1. Geben Sie das Ziel und den minimal relevanten Kontext an. Eine präzise Anfrage reduziert unnötige Austauschzyklen.
2. Fügen Sie keine Passwörter, Authentifizierungscodes, Zahlungsdaten, privaten Schlüssel oder sensiblen Aufzeichnungen ein, es sei denn, der spezifische vertrauenswürdige Dienst verlangt dies ausdrücklich und schützt diese Eingabe.
3. Unterscheiden Sie eine Erklärung von einem Live-Ergebnis. Fragen Sie, ob die Antwort aus einem aktuellen Datensatz, einer zitierten Quelle oder allgemeinem Modellwissen stammt.
4. Öffnen Sie Zitate und überprüfen Sie folgenreiche Angaben. Ein Quelllink kann irrelevant, veraltet oder inkonsistent mit der Antwort sein.
5. Überprüfen Sie jede Aktion, bevor Sie sie bestätigen. Prüfen Sie das Konto, den Betrag, das Ziel, das Datum und ob die Änderung rückgängig gemacht werden kann.
6. Bitten Sie um eine Person, wenn der Bot sich wiederholt, keine Autorität hat, ein sensibles Thema missversteht oder nicht zeigen kann, woher die Antwort stammt.

Das mentale Modell, das es wert ist, behalten zu werden

Ein Chatbot ist keine Persönlichkeit, die in einer Blase lebt. Er ist eine Gesprächsschnittstelle, die an eine Kombination aus Abläufen, Klassifikatoren, Suche, Sprachmodellen, Aufzeichnungen, Werkzeugen, Richtlinien, Sicherheitsprüfungen und Menschen angeschlossen ist. Die Antwort, die Sie sehen, ist der letzte Schritt dieses größeren Systems.

Die beste Frage ist nicht „Klingt dieser Bot menschlich?“ Fragen Sie, ob er die Aufgabe verstanden hat, die richtigen Beweise verwendet hat, seine Berechtigungen respektiert hat, ehrlich reagierte und Ihnen die Kontrolle überließ. Natürliche Sprache macht das System zugänglicher. Gute Technik macht es lohnenswert, es zu verwenden.

Primäre und technische Referenzen

• Joseph Weizenbaum, ELIZA: Ein Computerprogramm zur Untersuchung der natürlichen Sprachkommunikation zwischen Mensch und Maschine, 1966.
• Lewis et al., Retrieval-Augmented Generation für wissensintensive NLP-Aufgaben, 2020.
• NIST, Rahmenwerk für das Risikomanagement Künstlicher Intelligenz: Generatives Künstliches Intelligenzprofil, 2024.
• Google Cloud, Dialogflow CX Dokumentation für Intents, Fulfillment, Agentendesign und Übergabe an Menschen.
• OWASP GenAI Sicherheitsprojekt, LLM01:2025 Prompt Injection.