KI-Agenten unter Kontrolle halten: Quickwins
Slack ist ein Chat-Programm für Teams, ähnlich wie Microsoft Teams – Nachrichten in Kanälen, dazu Reaktionen mit Emojis wie 👍. Im Podcast „Co-Intelligence“ (Folge 68) beschreibt ein Unternehmen, wie es genau dieses simple Werkzeug nutzt, um KI-Agenten kontrolliert einzuführen. Kein aufwendiges Freigabesystem, keine Zusatzsoftware – nur ein Kanal und eine Reaktion. Drei Beispiele daraus, direkt übertragbar.
Die Panne, die den Anstoß gab
Ein KI-Agent hatte Zugriff auf das Kommunikationssystem des Unternehmens und interpretierte eine interne Notiz als Arbeitsanweisung. Ergebnis: kryptische Nachrichten gingen an echte Kunden raus. Personenbezogene Daten waren nicht betroffen, aber peinlich war es trotzdem. Der Grund: zu viel Autonomie, zu früh, ohne ausreichenden Test.
Daraus sind Quickwins geworden, den das Unternehmen seitdem mehrfach wiederverwendet.
Quickwin 1: Ein Kanal, ein Emoji, fertig
Ein Agent, der Kunden schreiben soll, postet seinen Textentwurf zuerst in einen eigenen Chat-Kanal. Ein Mensch liest kurz mit und reagiert mit einem Emoji – erst dann geht die Nachricht raus. Wer will, kann den Text vorher noch korrigieren. Kein Formular, kein extra Tool, keine Schulung nötig: Jeder, der einen Chat-Kanal öffnen und reagieren kann, kann diese Kontrolle ausüben.
Nach zwei Wochen mit dieser Freigabepflicht war das Unternehmen sich sicher genug, den Agenten ganz ohne menschliche Prüfung laufen zu lassen.
Übertragbar auf: jede wiederkehrende automatisierte Nachricht nach außen – egal ob per E-Mail-Tool, CMS oder Formular-System. Ein Kanal, ein Verantwortlicher, ein Klick zur Freigabe.
Quickwin 2: Bei heiklen Themen einfach länger testen
Ein zweiter Agent schaltet automatisch Kurszugänge frei und benachrichtigt die Kundschaft darüber. Gleiches Prinzip, gleicher Kanal – aber die Testphase läuft deutlich länger, weil es hier um Produktzugang und Außenwirkung geht und der Vorgang seltener passiert.
Übertragbar auf: die Testdauer nicht pauschal festlegen, sondern nach Risiko und Häufigkeit staffeln. Bei seltenen, heiklen Vorgängen einfach mehr Zeit einplanen, bevor man loslässt.
Quickwin 3: Ein Wächter, der nur meldet, nicht handelt
Ein dritter Agent überwacht das Support-Ticketsystem und schickt bei dringenden Anfragen eine Nachricht in einen eigenen Kanal – inklusive Link zum Ticket und Vorschlag, wie reagiert werden könnte. Die Entscheidung trifft weiter ein Mensch. Weil dieser Agent nach außen gar nichts selbst verschickt, sondern nur intern informiert, konnte er von Anfang an ohne Testphase laufen.
Übertragbar auf: überall dort, wo man in einer Flut von Anfragen leicht die wichtigen übersieht – der Agent muss nichts entscheiden, nur zuverlässig aufmerksam machen.
Der Praxis-Check: Kontrolle oder nur noch Ritual?
Ein Host bringt einen Punkt, der für die Praxis Gold wert ist: Wenn er zum fünfzigsten Mal denselben Text freigibt, ist das noch eine echte Prüfung – oder nur noch ein Reflex? Seine Faustregel: Sobald die Freigabe zum reinen Ritual wird, ist das ein Signal, dem Agenten mehr Autonomie zu geben.
Quickwin für den eigenen Betrieb: einmal im Monat ehrlich fragen, ob eine bestehende Freigabe noch etwas prüft – oder nur noch abgenickt wird.
Wer haftet, wenn’s schiefgeht?
Wer entscheidet, dass ein Agent keine menschliche Freigabe mehr braucht? Im Podcast ist die Antwort klar: wer den Agenten gebaut und beobachtet hat. Und im Fehlerfall trägt diese Person auch die Verantwortung. Eine automatisierte Prüfung verschiebt Verantwortung – sie löscht sie nicht.
Quickwin: Bevor ein Agent live geht, festhalten: Wer hat ihn gebaut, wer beobachtet ihn, wer entscheidet über mehr Autonomie, wer haftet im Fehlerfall.
Zum Mitnehmen
Man braucht kein ausgefeiltes System, um KI-Agenten sicher einzuführen. Ein Chat-Kanal, eine klare Person, die freigibt, eine Emoji-Reaktion als Signal und eine Frist, nach der man neu entscheidet – das reicht für den Einstieg völlig aus.
Quelle: Co-Intelligence – Der KI-Lernpodcast, Folge 68, „KI-Agent schreibt Kunden: So behältst du die Kontrolle!“ https://coipod.de/folgen/68-ki-agent-schreibt-kunden-so-behaeltst-du-die-kontrolle