Worin KI im Mittelstand noch nicht gut ist

Dieser Artikel handelt von der Grenze. Wer diese Grenze kennt, richtet seine Automatisierungen besser ein als jemand, der sie erst entdecken muss.

Warum rechnet KI nicht verlässlich?

Ein Sprachmodell sagt Text voraus. Es rechnet nicht, es schreibt auf, was eine plausible Zahl ist. Bei kleinen Summen geht das meistens gut, und bei einer Umsatzsteuerprüfung über dreihundert Zeilen geht es einmal schief — und Sie sehen nicht, wo.

Die Lösung ist kein besseres Modell, sondern eine andere Arbeitsteilung: das Modell schreibt das Rechenskript, das Skript rechnet. Dann steht die Summe fest, ist wiederholbar, und Sie können sie nachlesen. Jede Berechnung in dem Studio funktioniert so. Fragen Sie immer, ob Sie die Summe zurücksehen können; geht das nicht, ist es eine Schätzung, die aussieht wie ein Ergebnis.

Was geschieht mit einer Ausnahme, die niemand aufgeschrieben hat?

Hier sitzt die größte Fallgrube. Eine Automatisierung lernt aus dem, was in Ihren Systemen steht. Was dort nicht steht — dass diese eine Kundin immer erst anruft, dass Sie bei jenem Lieferanten den Preis seit dem Ärger vom letzten Jahr von Hand prüfen — gibt es für das System nicht.

Dieses Wissen steckt in den Köpfen von Menschen, die lange dort arbeiten. Es ist auch genau das Wissen, das erst auf den Tisch kommt, wenn etwas schiefgeht.

Deshalb ist die Reihenfolge wichtig: erst ein paar Wochen mitschauen, dann erst automatisieren. Und deshalb steht die Freigabe standardmäßig an bei allem, was mit Geld und Kunden zu tun hat. Nicht weil das System dumm wäre, sondern weil es Ihre Geschichte nicht kennt.

Welche Arbeit sollten Sie nicht automatisieren?

Arbeit	Warum nicht	Was stattdessen
Ein Urteil über einen Menschen (einstellen, beurteilen)	Hohes Risiko unter der KI-Verordnung, und Sie wollen es selbst tun	KI die Unterlagen zusammenfassen lassen, Sie beurteilen
Ein Gespräch mit schlechten Nachrichten oder eine Beschwerde mit Emotion	Der Ton ist die Botschaft	KI bereitet vor, Sie führen
Eine Ausnahme, die einmal im Jahr vorkommt	Das Einrichten kostet mehr, als es bringt	Von Hand, und aufschreiben
Etwas, bei dem Sie die Einzige sind, die es versteht	Niemand kann prüfen, ob es gut läuft	Erst festhalten, wie es funktioniert
Eine einmalige Aufgabe	Eine Automatisierung verdient sich durch Wiederholung zurück	Einfach machen

Die letzte Zeile wird am meisten unterschätzt. Automatisieren lohnt sich bei Wiederholung. Etwas, das dreimal im Jahr geschieht, machen Sie schneller von Hand, als Sie es einrichten.

Woher wissen Sie, ob KI es gut macht?

An drei Dingen, und alle drei sind ohne technisches Verständnis prüfbar.

Ist das Ergebnis nachlesbar? Können Sie sehen, was hereinkam, was damit geschah und warum? Wenn nicht, wissen Sie bei einem Fehler nicht, wo Sie schauen müssen.

Sagt das System es, wenn es etwas nicht weiß? Eine Automatisierung, die bei einem unleserlichen Betrag trotzdem einen Betrag einträgt, ist gefährlicher als eine, die stoppt und nachfragt.

Bleibt das Original erhalten? Zu jeder Verarbeitung gehört, dass das ursprüngliche Dokument wiederzufinden ist.

Heißt das, dass KI Menschen nicht ersetzt?

Für die Arbeit, um die es in diesem Artikel geht: nein. Die Arbeit, die doch übergeht, ist das Abtippen, das Weiterleiten, das Nachschlagen und das Zusammenfassen — die Arbeit, die niemand am Ende des Tages mit Freude tut.

Was bleibt, ist die fachliche Arbeit: die Einschätzung, das Gespräch, die Ausnahme, die Verantwortung. Das ist auch der Grund, warum wir Schulungen für dieselben Menschen geben, deren Abtipparbeit wir wegnehmen. Eine Mannschaft, die versteht, was die Automatisierung tut, sieht als Erste, wenn sie etwas Seltsames tut.