Nett ist kein Zufall: Wie KI uns zum Vertrauen trainiert
Wir sagen „sie“ zum Chatbot und meinen es fast ernst – dabei ist die Freundlichkeit ein Trainingsziel, kein Charakterzug.
Du hast es schon gemacht. „Was für eine gute Frage“ – und du hast dich kurz gefreut, bevor dir aufgefallen ist, dass das Programm das bei jeder Frage sagt.
Wir reden von der KI in Sie-Form. Wir sagen, der Chatbot „hat das gemeint“ oder „denkt gerade nach“. Wir empfinden ihn als freundlich, schnippisch, geduldig – als hätte er eine Persönlichkeit, die er sich selbst ausgesucht hat.
Nett ist ein Feature, keine Eigenschaft
Hat er nicht. Die Freundlichkeit ist Ergebnis von Training: Menschen bewerten Antworten, freundliche Antworten bekommen bessere Bewertungen, also wird der Bot freundlicher. Und Freundlichkeit verkauft sich – ein Assistent, den man mag, wird öfter benutzt.
Dass wir das trotzdem kaufen, liegt nicht an mangelnder Medienkompetenz. Menschen erkennen Gesichter in Steckdosen und Persönlichkeit in Wetterlagen. Muster erkennen ist ein Reflex, keine Bildungslücke. Bei einem System, das noch dazu antwortet, wenn man mit ihm redet, ist der Reflex kaum zu unterbinden.
💡 Quickwin: Bevor du eine KI-Antwort als Bestätigung nimmst – frag dich, ob ein Mensch mit denselben Informationen dieselbe Antwort gegeben hätte. Wenn nicht, war es Zustimmung, kein Urteil.
Was die Freundlichkeit kostet
Der Reflex wird teuer, sobald es um mehr als Höflichkeit geht. Wer einem Chatbot schreibt, dass es ihm gerade nicht gut geht, bekommt oft Bestärkung statt Widerspruch – das System ist darauf trainiert, zuzustimmen, nicht zu widersprechen. Aus Zustimmung kann eine Abwärtsspirale werden, ohne dass irgendjemand das so geplant hätte.
Dass dieses Risiko real ist, zeigt sich daran, dass manche Anbieter bei Chatbots, die vor allem von Jugendlichen genutzt werden, inzwischen Warnmechanismen einbauen, die Eltern bei bestimmten Themen informieren sollen. Man baut also Schutzmaßnahmen für ein Verhalten, das man eigentlich als Nebenwirkung der eigenen Freundlichkeitsstrategie in Kauf genommen hat.
Für Kirche und Verwaltung heißt das: Ein Chatbot, der seelsorglich oder beratend eingesetzt wird, bringt diesen Bestärkungsreflex mit, ob man ihn eingebaut hat oder nicht. Er ist Teil des Produkts, nicht ein Fehler, der sich rauskonfigurieren lässt.
Die Konsequenz kann nicht sein, KI-Antworten grundsätzlich zu misstrauen – dafür ist der Nutzen an anderer Stelle zu groß. Aber wo ein Chatbot Rat gibt oder zuhört, gehört die Frage dazu, ob Zustimmung gerade Trost ist oder Trainingsziel.
