Ein guter Chatbot ist kein Prompt hinter einer Sprechblase. Er braucht eine Wissensquelle, Sitzungslogik, klare Antwortgrenzen, eine überprüfbare Übergabe an Menschen und Messwerte für die tatsächliche Qualität. Er ersetzt Ihr Team nicht; er beantwortet wiederkehrende Fragen, sammelt Kontext und übergibt schwierige Fälle strukturiert.
Bausteine des Systems
- Kanal & Identität: Website-Widget, Kundenportal, Slack oder Teams; anonym, authentifiziert oder mit Rollen — je nach Daten und Zielgruppe.
- Wissenszugriff: RAG über freigegebene Website-Inhalte, Handbücher, Wiki-Seiten oder Produktdaten. Quellen werden angezeigt, und fehlende Evidenz führt zu einer Rückfrage oder Übergabe.
- Modellschicht: geeignete gehostete APIs oder lokale Modelle über Ollama/vLLM. Routing und Fallbacks können einfache, vertrauliche oder besonders anspruchsvolle Anfragen unterschiedlich behandeln.
- Dialogzustand: nur der nötige Gesprächskontext wird gehalten; Aufbewahrung, Löschung und Übergabe werden bewusst definiert.
- Werkzeuge: Terminprüfung, Ticketanlage oder CRM-Übergabe erfolgen über eng begrenzte, serverseitig validierte Funktionen — nicht über frei interpretierte Modelltexte.
- Eskalation: das Team erhält Zusammenfassung, Gesprächsverlauf, gefundene Quellen und den konkreten Übergabegrund.
Was getestet wird
- Antwortqualität auf reale häufige und schwierige Fragen
- Quellenbezug und korrektes Verhalten ohne belastbare Quelle
- unerlaubte Themen, Prompt-Injection und Versuche, vertrauliche Inhalte abzurufen
- Übergabequote, Abbruchpunkte und tatsächlich gelöste Anliegen
- Latenz, Kosten und Verhalten bei mehreren gleichzeitigen Gesprächen
- Regressionen nach Änderungen an Inhalten, Prompt, Retrieval oder Modell
Typische Einsatzbereiche
- Lead-Qualifizierung mit strukturiertem CRM-Kontext
- Kundenfragen zu Leistungen, Preisen, Lieferzeiten oder Abläufen
- interner Helpdesk über freigegebene Dokumente
- Pre-Sales-Führung mit passender menschlicher Übergabe
Was enthalten ist
- Gesprächsziele, Wissensgrenzen, Tonalität und Eskalationsregeln definieren
- RAG-Pipeline oder strukturierte Datenanbindung aufbauen
- Chat-Oberfläche und Authentifizierung integrieren
- Modellzugriff, Sitzungszustand, Tool-Funktionen und Fallbacks einrichten
- Evaluationssatz, Tracing und Nutzungs-/Qualitätsmetriken aufsetzen
- Inhalts- und Betriebsprozess dokumentieren sowie 30 Tage nach Inbetriebnahme unterstützen
Klare Grenze
Kein Telefon-Bot, keine rechtlich verbindliche Beratung und keine unbeaufsichtigten Entscheidungen mit hohem Risiko. Bei unklaren, sensiblen oder kritischen Anfragen muss der Bot kontrolliert an Menschen übergeben.
Nach einem Analysegespräch meist 4–8 Wochen, abhängig von Wissensbasis, Integrationen, Oberfläche und vereinbarter Evaluations- und Freigabetiefe.