Automatisierte Entscheidungsfindung mit KI
Die KI liefert keinen Fließtext, sondern eine Entscheidung aus einer festen Auswahl, mit Wahrscheinlichkeit und Begründung. Ihre Regeln legen fest, was automatisch läuft, was freigegeben wird und was ein Mensch entscheidet.
Was automatisierte Entscheidungsfindung mit KI bedeutet
Automatisierte Entscheidungsfindung mit KI heißt: Eine wiederkehrende Entscheidung wird so beschrieben, dass die KI sie aus einer festen Auswahl trifft und Ihre Systeme das Ergebnis weiterverarbeiten können. 2025 nutzten 26 % der Unternehmen in Deutschland KI, 27 % von ihnen zur Automatisierung von Arbeitsabläufen oder zur Entscheidungsfindung (Destatis).
Feste Auswahl
Die Antwort stammt aus einer vorgegebenen Liste, etwa „freigeben“, „prüfen“, „ablehnen“ oder ein zuständiges Team – nicht aus frei formuliertem Text wie beim KI-Chatbot.
Wahrscheinlichkeit
Jede Antwort trägt einen Wert, den Ihre Systeme auswerten können. Er wird an echten Fällen abgeglichen, bevor Schwellwerte gelten.
Begründung
Die Merkmale, die zur Entscheidung geführt haben, stehen lesbar daneben – für die Person, die prüft oder freigibt.
Wo strukturierte Entscheidungen helfen
Geeignet sind Entscheidungen, die sich oft wiederholen, deren mögliche Antworten feststehen und deren Folgen sich beschreiben lassen.
Anfragen und Tickets zuordnen
E-Mails, Formulare und Tickets gehen an das zuständige Team oder die passende Queue, dringende Fälle werden erkannt.
- Team oder Queue als Antwort
- Dringlichkeit einstufen
- Hintergrund: KI-Ticketsystem
Freigabe und Eskalation
Bestellungen, Gutschriften oder Rabatte über einem Grenzwert gehen zur Freigabe an die zuständige Person.
- Grenzwerte je Vorgang
- Freigabe mit Begründung
- Im B2B-Shop als Bestellfreigabe
Anfragen bewerten
Passung und Dringlichkeit einer Anfrage bestimmen die Reihenfolge, in der der Vertrieb sie bearbeitet.
- Einstufung mit Begründung
- Über das Angebot entscheidet der Vertrieb
- Ob DSGVO Art. 22 berührt ist, wird vorab mit Ihrem Datenschutz geklärt
Dubletten erkennen
Doppelte Kunden, Artikel oder Lieferanten werden erkannt und als Paar mit Wahrscheinlichkeit vorgeschlagen.
- Kunden, Artikel, Lieferanten
- Vorschlag mit Begründung
- Zusammenführen erst nach Freigabe
Einordnen
Retourengründe, Reklamationen, Produktdaten und Dokumentarten werden einer festen Kategorie zugeordnet.
- Retouren und Reklamationen
- Produkte über die Kategorie-Automation
- Dokumente über die Dokumentenverarbeitung
Agentenschritte absichern
Ein KI-Agent schlägt nur Aktionen aus einer erlaubten Liste vor; was nach außen wirkt, wird erst nach Freigabe ausgeführt.
- Erlaubte Aktionen als feste Auswahl
- Zahlungen, Löschungen, Kundenmails erst nach Freigabe
- Hintergrund: Prompt Injection
Schwellwerte entscheiden, wer entscheidet
Erst Ihre Regeln machen aus einer Vorhersage eine kontrollierte Entscheidung. Die Schwellwerte legen Sie fest, je Entscheidung und je Richtung eines möglichen Fehlers.
Über dem Schwellwert
Der Fall läuft automatisch. Stichproben prüfen auch sichere Fälle, damit niemand der Maschine zu sehr vertraut.
Grauzone
Eine Person gibt frei und sieht dabei Wahrscheinlichkeit und Begründung.
Unter dem Schwellwert
Der vollständige Vorgang geht an die zuständige Stelle, die selbst entscheidet.
Protokoll
Eingabe, Modellstand, Ergebnis, Wahrscheinlichkeit, Schwellwert und freigebende Person werden festgehalten; Korrekturen überschreiben nichts.
Rechtliche Grenzen: DSGVO Art. 22 und KI-Verordnung
Wo eine Entscheidung Menschen betrifft, setzt das Recht Grenzen. Der Überblick ersetzt keine Rechtsberatung.
DSGVO Art. 22
- Betroffene haben das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt (Art. 22 Abs. 1).
- Ausnahmen, etwa wenn die Entscheidung für einen Vertrag erforderlich ist oder mit ausdrücklicher Einwilligung erfolgt, verlangen mindestens das Recht auf Eingreifen einer Person, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung (Art. 22 Abs. 2 und 3).
- Betroffene können aussagekräftige Informationen über die involvierte Logik verlangen (Art. 15 Abs. 1 lit. h).
- Stand September 2026 gilt Art. 22 im Wortlaut von 2016; die EU-Kommission hat Änderungen vorgeschlagen, beschlossen ist keine.
KI-Verordnung
- Hochrisiko-Systeme müssen von Menschen wirksam beaufsichtigt werden können; die Aufsicht muss die Ausgabe außer Acht lassen, außer Kraft setzen oder rückgängig machen können (Art. 14).
- Die Verordnung benennt ausdrücklich den „Automatisierungsbias“, die Neigung, einer Maschinenausgabe zu sehr zu vertrauen (Art. 14 Abs. 4).
- Betreiber übertragen die Aufsicht Personen mit Kompetenz, Ausbildung und Befugnis (Art. 26).
- Hochriskant sind u. a. Systeme aus Anhang III, etwa zur Auswahl von Bewerbern oder zur Kreditwürdigkeitsprüfung natürlicher Personen (Art. 6, Anhang III).
- Nach dem Digital-Omnibus (Verordnung (EU) 2026/1744) gelten diese Pflichten für Anhang III ab dem 2. Dezember 2027.
Art. 14 gilt für Hochrisiko-Systeme; die Eingriffsmöglichkeiten bauen wir als Grundprinzip auch darunter ein. Die rechtliche Einordnung im Einzelfall klären Sie mit Ihrer Datenschutz- oder Rechtsberatung, bei der Planung unterstützt unsere Beratung.
Entscheidungen dort, wo die Arbeit anfällt
Die Entscheidung wird an das System angebunden, in dem der Vorgang entsteht, und ihr Ergebnis dorthin zurückgeschrieben.
Anbindung
Shop, ERP, CRM und Ticketsystem liefern den Vorgang und nehmen das Ergebnis auf.
- Über bestehende Schnittstellen oder individuelle Programmierung
- Ereignisse aus dem Shop als Auslöser, etwa mit dem Shopware Flow Builder
- Kundendaten aus dem CRM: CRM-Integration im Online-Shop
Kosten und Betrieb
Eine feste Auswahl statt Fließtext hält jede Antwort kurz.
- Modellwahl je Entscheidung: kleine Modelle für einfache Einordnungen, größere nur, wo es nötig ist
- Betrieb gehostet oder auf Ihrer eigenen Infrastruktur
- Hintergrund: KI-Kosten im Shop steuern
Von der Einzelentscheidung zur Regel
Entscheidung beschreiben
Die möglichen Antworten, die Folgen eines Fehlers in jede Richtung und die zuständigen Personen werden festgelegt.
An historischen Fällen messen
Treffer je Antwort; die Wahrscheinlichkeit wird mit der tatsächlichen Trefferquote abgeglichen.
Schattenbetrieb
Die KI entscheidet mit, der Mensch entscheidet weiter. Aus dem Vergleich ergeben sich die Schwellwerte.
Schrittweise freigeben
Zuerst laufen die sicheren Fälle automatisch, mit laufenden Stichproben und Protokoll.
Wie wir Projekte allgemein führen: Projektablauf.
Häufige Fragen zur KI-Entscheidungsfindung
Ein Chatbot antwortet in Fließtext. Eine strukturierte Entscheidung liefert eine Antwort aus einer festen Auswahl, mit Wahrscheinlichkeit und Begründung. Das Ergebnis ist maschinell auswertbar und lässt sich an Schwellwerte binden.
Die Werte eines Modells stimmen nicht von selbst mit der Trefferquote überein. Sie werden an Ihren historischen Fällen abgeglichen, die Schwellwerte danach gesetzt und im Betrieb mit Stichproben überprüft.
Nicht ausschließlich automatisiert, wenn die Entscheidung einer Person gegenüber rechtliche Wirkung hat oder sie in ähnlicher Weise erheblich beeinträchtigt (DSGVO Art. 22). Ausnahmen verlangen, dass eine Person eingreifen und die Entscheidung angefochten werden kann. Wo das zutrifft, entscheidet bei uns eine Person; die Einordnung klären Sie vorab mit Ihrem Datenschutz.
Für Hochrisiko-Systeme nach Anhang III, etwa zur Bewerberauswahl oder Kreditwürdigkeitsprüfung, eine wirksame menschliche Aufsicht (Art. 14). Nach dem Digital-Omnibus gelten diese Pflichten ab dem 2. Dezember 2027. Ob ein Einsatz darunter fällt, wird vorab geprüft.
Jede Entscheidung wird mit Eingabe, Modellstand, Ergebnis, Wahrscheinlichkeit, Schwellwert und freigebender Person protokolliert. Damit lässt sich auch die Frage nach der involvierten Logik beantworten, die Betroffene nach der DSGVO stellen können.
Ja, als Rahmen: Der Agent schlägt Aktionen aus einer erlaubten Liste vor, jede mit Wahrscheinlichkeit. Aktionen mit Wirkung nach außen, etwa Zahlungen, Löschungen oder Kundenmails, werden erst nach Freigabe ausgeführt, und alles steht im Protokoll.