Der Mensch drückt auf „durchführen“

Wenn wir erzählen, dass in unseren eigenen Firmen ein KI-Assistent im CRM arbeitet, kommt oft die Frage: Und der ändert einfach Kundendaten? Die Antwort ist nein. Er bereitet vor. Ändern tut sich erst etwas, wenn ein Mensch ausdrücklich „durchführen“ bestätigt.

Dieses eine Wort steht für eine Haltung, die sich durch alle unsere Projekte zieht.

Vorschlagen ist billig, Rückgängigmachen ist teuer

Eine KI ist sehr gut darin, Vorschläge zu machen. Sie findet die passende Firma, formuliert eine Antwort, erkennt ein Anliegen in einer Sprachnachricht. Sie ist aber nicht verantwortlich, wenn etwas schiefgeht. Das sind wir.

Deshalb trennen wir in jedem System sauber zwischen Vorschlag und Ausführung:

• Im CRM bereitet der Assistent Änderungen vor, ein Mensch bestätigt sie.
• Im Kundenportal landet jede Anfrage, die per Messenger hereinkommt, in einer Prüfliste. Eine Aufschaltung passiert nie automatisch. Nachrichten von unbekannten Absendern kommen in eine Quarantäne.
• Der Mail-Assistent sortiert und räumt auf, versendet aber nie selbst eine Mail.
• Im Gesprächs-Assistenten gehen Aufgaben für KI-Agenten erst nach Freigabe raus.

Auch Abschalten ist eine Entscheidung

Für den Mail-Assistenten hatten wir Antwortentwürfe gebaut. Technisch funktionierten sie. Im Alltag zeigte sich aber: Die Entwürfe zu prüfen und umzuschreiben dauerte oft länger, als selbst zu antworten. Wir haben die Funktion abgeschaltet. Das Sortieren läuft weiter, die Entwürfe kommen wieder, wenn sie wirklich helfen.

Das klingt banal, ist es aber nicht. In vielen Projekten wird eine Funktion behalten, weil sie nun einmal gebaut wurde. Wir messen sie lieber daran, ob sie Menschen Arbeit abnimmt.

Die leiseste Gefahr: Fehler, die niemand bemerkt

So wichtig die Freigabe vor einer Aktion ist, so wichtig ist die Überwachung danach. Hier haben wir unser Lehrgeld bezahlt:

• Eine monatliche Abrechnung, die eine Automatisierung aus Stundenzetteln erstellt, ist einmal still gescheitert. Aufgefallen ist es erst, als jemand die Datei suchte.
• Ein Automatisierungsdienst startete nach einem Neustart des Rechners nicht wieder. Auch das fiel lange nicht auf.
• Eine ältere Klick-Automatisierung hatte einen entscheidenden Schritt nie ausgeführt und auch nie geprüft, ob er angekommen war. Auf dem Papier lief alles.

Seitdem gilt bei uns: Jede Automatisierung meldet sich, wenn etwas schiefgeht. Jeder Dienst hat eine Gesundheitsprüfung, die regelmäßig abgefragt wird. Und jede neue Lösung wird vor dem Start mit echten Daten durchgespielt, nicht nur mit Testcode.

Eine Automatisierung ohne Alarm ist keine Automatisierung, sondern eine Hoffnung.

Was das mit Ihren Mitarbeitenden zu tun hat

Wir glauben nicht, dass KI in absehbarer Zeit die Fachkraft im Betrieb ersetzt. Wir erleben jeden Tag, dass sie Menschen schneller macht: weniger Abtippen, weniger Suchen, weniger Hinterherlaufen. Die Verantwortung und das Urteil bleiben bei den Menschen, und genau so sollten Systeme gebaut sein.

Das hat einen angenehmen Nebeneffekt: Teams nehmen solche Werkzeuge viel leichter an. Wer weiß, dass am Ende er entscheidet, probiert neugieriger aus und meldet ehrlicher, wenn etwas nicht passt.

Drei Fragen für Ihr nächstes KI-Projekt

• Wo genau endet der Vorschlag der KI, und wo beginnt die Entscheidung eines Menschen?
• Woran merken Sie, wenn die Automatisierung still steht oder falsch arbeitet?
• Wer darf eine Funktion abschalten, wenn sie im Alltag mehr kostet, als sie bringt?

Wenn Sie diese Fragen für Ihren Betrieb klären wollen, ist das ein guter Inhalt für ein erstes Gespräch. Wir bringen dazu unsere eigenen Umwege mit.