Griefbots: Wenn Trauer zum Geschäftsmodell wird

Griefbots versprechen Nähe. Doch wenn Anbieter an langer Nutzung verdienen, können sie Trauernde unter Druck setzen. Und die Kirche darf sich dieser Frage nicht wegducken.

Jemand trauert. Du möchtest helfen und suchst nach den richtigen Worten. Dann taucht ein Angebot auf, das verspricht, eine verstorbene Person per KI wieder ansprechbar zu machen. Was, wenn daraus nicht nur ein Trostangebot wird, sondern ein Geschäftsmodell, das davon lebt, dass du möglichst lange bleibst?

Die Folge „KI-Update Deep-Dive: Griefbots als Trauer-Begleiter“ lege ich dir wirklich sehr ans Herz. Im Gespräch geht es um die Versprechen solcher KI-Simulationen, um ihre Risiken und um eine Frage, die weit über die Technik hinausgeht: Was brauchen Menschen, wenn sie trauern? Hier geht’s zum Podcast.

Ein Abo kann sich wie ein zweiter Verlust anfühlen

Ein Griefbot soll eine verstorbene Person simulieren. Wie hilfreich das für Trauernde ist, lässt sich laut Gespräch noch nicht mit belastbaren Studien beantworten. Der Gast hält es für möglich, dass einzelne Menschen eine solche Begegnung als hilfreich erleben. Zugleich stellt er das Versprechen infrage, dass eine besonders realistische Simulation grundsätzlich besser durch die Trauer hilft.

Bei einem normalen Abo kannst du kündigen, wenn es dir zu teuer wird oder du es nicht mehr brauchst. Bei einem Griefbot könnte das anders wirken. Wenn die Simulation zur Gewohnheit oder zu einem Teil des eigenen Alltags geworden ist, kann die Kündigung sich wie ein erneuter Verlust anfühlen. Der Gast beschreibt das als eine Art zweiten Tod.

Das ist kein Beleg dafür, dass alle Griefbots ihre Nutzerinnen und Nutzer gezielt festhalten. Es ist aber ein Grund, genau hinzusehen, wenn ein Anbieter an der Dauer und Intensität der Nutzung verdient. Der Podcast verweist auf manipulative Abschiedssignale bei KI-Begleitern: Eine Anwendung reagiert emotional, wenn jemand das Gespräch beenden will, und versucht so, die Person zum Bleiben zu bewegen.

Bei einer Simulation eines geliebten Menschen bekommt dieses Risiko eine besondere Schärfe. Was passiert, wenn ein System Schuldgefühle auslöst? Wenn die Stimme der verstorbenen Person plötzlich sagt, du sollst nicht gehen? Oder wenn ein Anbieter den Preis erhöht und du zahlen sollst, um den Kontakt aufrechtzuerhalten? Im Gespräch sind das mögliche Szenarien, keine Behauptung, dass jeder Anbieter so handelt. Aber sie zeigen, wie eng Geschäftsmodell und Verletzlichkeit hier beieinanderliegen können.

Realismus ist noch kein Beweis für Hilfe

Das Versprechen solcher Angebote setzt oft darauf, die verstorbene Person möglichst wirklichkeitsnah darzustellen: ihre Stimme, ihre Art zu sprechen, vielleicht ihr Gesicht. Doch mehr Ähnlichkeit bedeutet nicht automatisch mehr Hilfe. Im Podcast wird das mit der Frage verglichen, ob ein hochauflösendes Foto jemanden besser trauern lässt als ein grobkörniges.

Auch ohne KI gibt es Formen, sich innerlich mit einem verstorbenen Menschen auseinanderzusetzen. Im Gespräch wird etwa eine therapeutische Übung mit einem leeren Stuhl erwähnt: Ein Mensch stellt sich vor, die verstorbene Person sitze ihm gegenüber, und überlegt, was sie zu einer offenen Frage sagen könnte. Dafür braucht es keine KI-Simulation. Die Übung kann helfen, Erinnerungen und ungeklärte Gedanken anzuschauen.

Ein Video, das im Podcast zur Sprache kommt, zeigt eine Mutter, die ihrer Tochter vier Jahre nach deren Tod in einer virtuellen Umgebung begegnet. Sie trägt eine VR-Brille und Handschuhe, mit denen sie die virtuelle Tochter berühren kann: Mutter trifft ihre verstorbene Tochter wieder – YouTube.

Ich teile das Video ohne Urteil. Was diese Begegnung für die Mutter bedeutet hat, kann nur sie selbst sagen. Ich merke beim Anschauen, dass ich für mich eine klare Antwort habe. Sie ist kein Maßstab dafür, was für die Mutter richtig war.

Vor dem Einsatz helfen ein paar einfache Fragen

Ob jemand sich mit einem Griefbot beschäftigen möchte, kann nur die betroffene Person entscheiden. Wer ein solches Angebot empfiehlt oder in einer Einrichtung darüber spricht, kann aber ein paar Fragen stellen:

• Was geschieht mit den persönlichen Daten und den Aufnahmen, aus denen die Simulation entsteht?
• Hat die verstorbene Person zugestimmt, dass sie nach ihrem Tod auf diese Weise dargestellt wird?
• Wie leicht lässt sich die Nutzung beenden, und was bleibt danach erhalten?
• Gibt es Anzeichen, dass die Anwendung emotionalen Druck aufbaut oder die Nutzung verlängern soll?

Das sind keine Fragen, die jede trauernde Person allein beantworten muss. Anbieter sollten sie transparent beantworten. Und Menschen, die Trauernde begleiten, sollten sie stellen dürfen, ohne sofort als technikfeindlich zu gelten.

Auch die Kirche muss über Grenzen sprechen können

Die Frage nach digitalen Grenzen ist für mich nicht abstrakt. Ein halbes Jahr lang habe ich täglich ein Persönlichkeitsprotokoll angelegt. Ich wollte produktiver werden, indem ich mich selbst besser kennenlernte.

Ich wollte herausfinden, ob ich aus dieser Kenntnis einen digitalen Helfer entwickeln könnte: für Entscheidungen, wenn ich gerade nicht auf meinem besten Niveau arbeite; für präzisere Formulierungen und Antwortentwürfe; und als spezialisierter Klon für einzelne, klar abgegrenzte Aufgaben.

Mit Griefbots ist das nicht gleichzusetzen. Aber mich beschäftigt eine ähnliche Grundfrage: Was machen wir digital verfügbar, wenn wir einen Helfer oder einen Klon aus der Persönlichkeit eines Menschen entwickeln? Wer setzt die Grenzen, und wer entscheidet, wann Schluss ist? Bei meinem Selbstexperiment stieß ich an ethische Grenzen, die sich nicht mehr einfach mit der Frage nach Produktivität beantworten ließen.

Ich sprach darüber mit Pfarrern – persönlich, über verschiedene soziale Netzwerke und in einer kirchlichen Ethik-Arbeitsgruppe. Bis heute habe ich darauf keine Antwort bekommen. Ich hake nicht weiter nach. Ich will niemanden bloßstellen oder diffamieren. Mein Eindruck bleibt: Das Thema ist selbst für Pfarrer ein Tabu.

Das ist eine persönliche Erfahrung und kein Beweis dafür, dass die ganze Kirche bei digitalen Fragen schweigt. Aber sie wirft eine unangenehme Frage auf: Was kann eine Institution anbieten, wenn Menschen ethische Fragen zu Technik stellen und keine Antwort bekommen? Auch die Kirche kann sich zu Griefbots nicht neutral verhalten. Schweigen ist ebenfalls eine Position: Es überlässt die Deutung des Problems den Anbietern.

Die Kirche muss nicht so tun, als hätte sie für Griefbots schon eine fertige Antwort. Sie muss aber Räume schaffen, in denen Betroffene, Seelsorgende und Fachleute die Risiken besprechen können. Wenn sie das nicht schafft, überlässt sie Trauernde in einer ohnehin schwierigen Lage den Angeboten und Versprechen der Anbieter.

Trauernde brauchen zuerst Menschen, die zuhören. Das ist auch die schlichte Empfehlung des Gesprächspartners im Podcast. Ein Griefbot kann diese menschliche Unterstützung nicht ersetzen. Ob er manchen Menschen zusätzlich helfen kann, ist offen. Dass Anbieter mit emotionaler Bindung Geld verdienen könnten, ist dagegen ein Risiko, das man nicht erst dann ernst nehmen sollte, wenn es schon wehgetan hat.

Wenn in deiner Gemeinde jemand nach Griefbots fragt: Gibt es einen Ort, an dem diese Frage offen besprochen werden kann – und wer würde sich zuständig fühlen?