Avatar-Chatbot, was zwischen Frage und Antwort passiert

Drei Bauformen, die oft verwechselt werden

Video, Textdialog und sprechendes Gespräch haben verschiedene Kostenmodelle.

Wer einen sprechenden Avatar beauftragt, meint häufig eine von drei Sachen, und die drei unterscheiden sich nicht in der Oberfläche, sondern darin, wann der Inhalt entsteht und wer ihn vorher gelesen hat. Diese Unterscheidung entscheidet über Kosten, Prüfbarkeit und Haftung, deshalb steht sie hier vor allem anderen.

Der Rest dieser Seite behandelt die dritte Bauform. Sie ist die aufwendigste und die einzige, bei der eine Antwort das Haus verlässt, ohne dass ein Mensch sie gesehen hat. Genau daraus ergeben sich die Entscheidungen weiter unten.

Was zwischen Frage und Antwort passiert

Fünf Glieder, deren Zeiten sich addieren.

Von außen sieht es aus wie ein Videogespräch. Innen ist es eine Kette aus fünf Gliedern, die hintereinander arbeiten. Jedes Glied braucht Zeit, und weil sie aufeinander warten, ist die Verzögerung die Summe und nicht der Höchstwert. Wer wissen will, warum eine Antwort zäh wirkt, muss wissen, welches Glied bremst.

Zwei Stellen lohnen Aufmerksamkeit. Die erste ist die Spracherkennung: wer erst am Satzende beginnt, verliert eine ganze Sprechpause, die niemand mehr aufholt. Die zweite ist die Sprachsynthese: gibt sie erst aus, wenn der ganze Satz formuliert ist, wartet der Nutzer auf einen Satz, den das Modell längst begonnen hat. Beide Stellen lassen sich stückweise betreiben, und das ist der größte Unterschied zwischen einem zähen und einem flüssigen Aufbau.

Warum eine Sekunde viel ist

Der Maßstab ist nicht die Ladezeit einer Webseite, sondern die Gesprächspause.

Bei Webseiten gilt eine Sekunde als schnell. In einem Gespräch ist sie lang, und zwar messbar: eine Untersuchung von Gesprächsaufnahmen aus zehn Sprachgemeinschaften fand die typische Lücke zwischen zwei Sprechern im Bereich von etwa 0 bis 200 Millisekunden, mit geringen Unterschieden zwischen den Sprachen. Alles darüber nehmen Menschen als Zögern wahr, nicht als Technik.

Der Maßstab für einen sprechenden Avatar ist keine Ladezeit, sondern eine Sprechpause. Deshalb fällt hier ein Rückstand auf, der bei jedem anderen Web-Element unbemerkt bliebe.

Stivers u. a., Universals and cultural variation in turn-taking in conversation, PNAS 106 (26), 2009

Daraus folgt keine Zahl, die man zusagen könnte, sondern eine Bauentscheidung. Wer die Verzögerung nicht auf Gesprächsmaß drücken kann, und das kann derzeit niemand über alle Sprachen und Netze hinweg, gestaltet sie sichtbar: ein kurzes Nicken, ein hörbares Ansetzen, eine Rückfrage. Menschen verzeihen ein Zögern, das sie sehen, deutlich eher als eine stehende Bildfläche.

Probieren statt lesen

Die Vorführung auf dieser Seite, und was sie zeigt.

Der folgende Avatar läuft auf unserer eigenen Anwendung. Sie können ihn anschreiben oder mit ihm sprechen. Achten Sie dabei auf drei Dinge: wie lange es vom Ende Ihrer Frage bis zum ersten Wort dauert, was passiert, wenn Sie ihn unterbrechen, und was er antwortet, wenn Sie etwas fragen, das nicht zu seinem Thema gehört. Das dritte ist das Aufschlussreichste.

Was diese Vorführung nicht zeigt: Ihre eigenen Inhalte, Ihre Themengrenze und Ihre Übergabe an Menschen. Sie zeigt das Verfahren, nicht das Ergebnis für Ihren Fall. Ein belastbarer Eindruck entsteht erst, wenn die Wissensbasis Ihre Unterlagen enthält, weil sich dann zeigt, an welchen Ihrer Fragen der Abruf vorbeigreift.

Woher der Avatar sein Wissen nimmt

Abruf aus Ihren Unterlagen, und die drei Stellen, an denen es schiefgeht.

Das Sprachmodell weiß nichts über Ihr Unternehmen. Es formuliert nur. Das Wissen kommt aus einem Abruf, der zu jeder Frage passende Stellen aus Ihren Unterlagen sucht und sie dem Modell zusammen mit der Frage vorlegt. Dieses Verfahren heißt in der Literatur Retrieval Augmented Generation und ist der Grund, warum ein Avatar über Ihre Produkte reden kann, ohne dafür trainiert worden zu sein.

Es geht an drei Stellen schief, und alle drei sehen für den Nutzer gleich aus, nämlich wie eine falsche Antwort. Erstens: die Stelle steht nicht in den Unterlagen, dann antwortet das Modell aus allgemeinem Training. Zweitens: die Stelle steht drin, der Abruf findet sie nicht, weil die Frage anders formuliert ist als die Unterlage. Drittens: der Abruf findet zwei widersprüchliche Stellen, etwa eine alte und eine neue Preisliste, und das Modell mischt sie.

Der Aufwand für einen brauchbaren Avatar liegt deshalb nicht im Gesicht, sondern in den Unterlagen. Das ist die unbequeme Nachricht dieses Abschnitts: wer keine geordneten Antworten hat, bekommt sie durch ein Sprachmodell nicht, sondern bekommt sie erfunden.

Fünf Entscheidungen vor dem Bauen

Wer diese fünf offen lässt, baut eine Vorführung und keinen Dienst.

Die folgenden fünf Punkte kosten in der Klärung wenige Stunden und im Nachhinein einen Umbau. Sie sind der Grund, warum wir vor dem ersten Aufbau ein Gespräch führen und nicht sofort eine Wissensbasis füllen.

1. Zuständigkeit. Welche Fragen soll er beantworten, und welche ausdrücklich nicht? Ein Avatar ohne Themengrenze beantwortet alles, auch was er nicht weiß.
2. Übergabe. Wohin geht das Gespräch, wenn er nicht weiterkommt? An eine Mailadresse, in eine Warteschlange, an ein Formular? Ohne festgelegten Weg endet das Gespräch in einer Entschuldigung.
3. Protokoll. Was wird mitgeschrieben, wie lange aufbewahrt, wer sieht es? Ohne Protokoll erfahren Sie von falschen Antworten durch Beschwerden.
4. Gesicht und Stimme. Eine erfundene Figur oder eine echte Person? Bei einer echten Person kommen Einwilligung, Widerruf und die Frage nach dem Ausscheiden hinzu.
5. Grenze der Verbindlichkeit. Darf er Preise nennen, Fristen zusagen, Auskunft zu einem Vertrag geben? Was er sagt, wird als Aussage Ihres Hauses gelesen.

Datenschutz bei Sprache und Gesprächsverlauf

Mikrofoneingabe ist eine Verarbeitung, und zwar von Anfang an.

Sobald ein Nutzer spricht, entsteht mindestens eine Abschrift, je nach Aufbau auch eine Aufnahme. Dazu kommt der Gesprächsverlauf, der zum Verständnis der nächsten Frage mitgegeben wird. Beides sind personenbezogene Daten, sobald sich daraus ein Bezug herstellen lässt, und das ist bei angemeldeten Nutzern immer der Fall.

• Rechtsgrundlage festlegen. Bei einem Servicegespräch auf Wunsch des Nutzers ist das regelmäßig die Vertragsdurchführung oder das berechtigte Interesse; bei Aufnahme der Stimme über den Gesprächszweck hinaus braucht es die Einwilligung.
• Mikrofon erst auf Zutun. Der Browser darf nicht beim Seitenaufruf fragen, sondern erst, wenn der Nutzer sprechen will. Auf dieser Seite ist es so gelöst.
• Speicherdauer nennen. Eine Frist, die zum Zweck passt, statt eines Verweises auf einen Widerruf, der nie erklärt wird.
• Ort der Verarbeitung klären. Sprachmodell, Spracherkennung und Sprachsynthese können bei verschiedenen Anbietern und in verschiedenen Ländern laufen. Der Ort ergibt sich je Auftrag aus der gewählten Kette, nicht aus einer Grundsatzzusage.
• Training ausschließen. Vertraglich festhalten, dass Eingaben nicht zum Trainieren der Modelle verwendet werden.

Diese Punkte gehören in die Datenschutzerklärung und in das Verzeichnis der Verarbeitungen, nicht in ein internes Wiki. Wer sie erst nach der Freischaltung aufschreibt, hat den Dienst betrieben, bevor die Grundlage stand.

Kennzeichnung ist Pflicht

Artikel 50 der KI-Verordnung, praktisch übersetzt.

Für Systeme, die für den unmittelbaren Umgang mit Menschen bestimmt sind, verlangt Artikel 50 Absatz 1 der Verordnung (EU) 2024/1689, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, das ist aus den Umständen offensichtlich. Bei einem fotorealistischen sprechenden Gesicht ist es nicht offensichtlich, im Gegenteil: die Bauform ist darauf angelegt, wie ein Videogespräch zu wirken.

Praktisch heißt das ein Satz, bevor das Gespräch beginnt, gut lesbar und nicht wegklickbar. Wir setzen ihn in die erste Antwort des Avatars und zusätzlich als Text neben das Fenster. Zwei Dinge sind damit nicht erfüllt: die Kennzeichnung im Impressum und ein Hinweis, der nach dem ersten Satz verschwindet.

Wo sich der Aufwand trägt

Vier Lagen, in denen die Bauform passt, und drei, in denen sie es nicht tut.

Ein sprechender Avatar rechnet sich nicht über eingesparte Personalkosten, sondern über Gespräche, die sonst nicht stattgefunden hätten, oder über eine Auskunft, die außerhalb der Dienstzeiten gebraucht wird. Diese Unterscheidung trennt die tragenden Fälle von den teuren.

• Immer gleiche Fragen in großer Zahl, deren Antworten geordnet vorliegen. Der Abruf hat dann eine tragfähige Grundlage.
• Auskunft außerhalb der Dienstzeiten, wenn die Alternative keine Auskunft ist.
• Empfangs- und Kiosklagen, in denen Lesen unbequem ist: Foyer, Messe, Ladenfläche, Bildschirm im Stehen.
• Übungsgespräche in der Schulung, in denen es nicht auf die Richtigkeit der Auskunft ankommt, sondern auf die Wiederholung einer Gesprächssituation.

Dagegen raten wir in drei Lagen ab. Erstens bei rechtsverbindlicher Beratung, weil eine ungeprüfte Aussage dort unmittelbar Folgen hat. Zweitens bei Gesprächen mit besonderen Kategorien personenbezogener Daten, etwa Gesundheitsangaben, weil die Verarbeitungskette dann jeden Beteiligten einbezieht. Drittens bei Beschwerden, in denen es gerade um mangelnde Aufmerksamkeit geht: dort wirkt eine Maschine als Bestätigung des Vorwurfs.

Nächste Schritte

Wohin es von hier weitergeht.

Wer den Betrieb im Kundenservice plant, also Eskalationsstufen, Erreichbarkeit und die Übergabe an Mitarbeitende, findet das auf der Seite zum interaktiven Avatar im Kundenservice. Wer wissen will, wie das Gesicht entsteht, das hier spricht, findet es auf der Seite zum Modell.

Wer den Avatar in mehreren Sprachen betreiben will, findet die Fragen zur Auswahl der Sprachen und zur Prüfung der Fassungen auf der Seite zu mehrsprachigen Avataren. Und wer noch nicht entschieden hat, ob ein echtes oder ein erfundenes Gesicht sprechen soll, findet die Abwägung auf der Seite zur erfundenen Figur.

Häufige Fragen zum sprechenden Avatar