Zum Inhalt springen

Projekte

Ein Multichannel-KI-Concierge im produktiven Einsatz

Im produktiven Einsatz: ein KI-Concierge, der Kunden im Web, auf Telegram, Messenger, Instagram und WhatsApp antwortet, mit kostenbewusstem Modell-Routing und einem Dashboard für das Personal, das die Ausgaben pro Kanal zeigt.

Was es belegt
Dass wir KI im produktiven Einsatz betreiben und verfolgen, was jeder Kanal kostet.
Gebaut aus
  • Modell-Routing über mehrere Anbieter mit kostenbewusstem Ausweichen
  • Kanalanbindungen für Web, Telegram, Messenger, Instagram und WhatsApp
  • Zusammenfassung von Gesprächen
  • Dashboard für das Personal: Clustering von Fragen und Kostenschätzung pro Kanal

Die Ausgangslage

Kunden nutzen den Kanal, der auf ihrem Telefon ohnehin offen ist, und ein Concierge, der nur auf einer Website lebt, verpasst den Rest. Fünf Kanäle werfen auch eine Kostenfrage auf: Was kostet ein Gespräch pro Kanal, bei hohem Volumen, Monat für Monat?

Was wir gebaut haben

Web-Chat, Telegram, Messenger, Instagram und WhatsApp sind an eine gemeinsame Schicht für Reasoning und Wissen angebunden. Ein Kunde erhält auf jedem Kanal dieselbe Antwort. Gespräche werden zusammengefasst, damit der Kontext erhalten bleibt.

Anfragen werden über mehrere Modellanbieter mit kostenbewusstem Ausweichen geleitet. Hat ein Anbieter einen schlechten Tag oder steigt die Last auf einem Kanal sprunghaft an, wechselt der Verkehr auf eine andere Route, und das Budget hält.

Das Dashboard für das Personal hat zwei Aufgaben. Es gruppiert die Fragen der Kunden, damit das Personal sieht, was am häufigsten vorkommt und wo der Assistent Mühe hat. Und es schätzt die Kosten pro Kanal, sodass die Frage «Lohnt sich dieser Kanal?» eine Zahl hat.

Was es für Kunden belegt

Das Routing übersteht den Ausfall eines Anbieters, die Kosten sind ab dem ersten Tag pro Kanal sichtbar, und das Personal sieht, wo der Assistent zu kurz greift. Es ist das einzige KI-System, das wir derzeit im produktiven Einsatz betreiben.

Phasen der Methode

Es kommt Phase 06 · Betreiben und weiterentwickeln am nächsten: ein System, das betrieben wird, auf Kosten beobachtet und von dem gespeist wird, was Kunden fragen. Für die früheren Phasen siehe die KARPINITY-Methode.