PSI Blog

Verständliche KI-Systeme durch nachvollziehbare KPI-Labels

24.04.2020 - Künstliche Intelligenz, Technologie

© Rost-9D/iStock

Qualitatives Labeln verbindet EOA (Entscheidungs- und Optimierungs­algorithmen) mit maschinellem Lernen. Dabei werden rohe Geschäfts­prozessdaten in verständlicher Form aufbereitet, indem messbare Daten mit KPIs (Key Performance Indicator) qualitativ bewertet und Zusammenhänge gelernt werden. Mit einer Software kann das Einstellen von Parametern der EOA auf effiziente Weise gelernt werden, so dass sich nahezu jedes beliebige EOA-Verfahren, das auf Geschäftsprozessdaten arbeitet, automatisch selbst justieren kann.

Dieses Verfahren kann zum Lernen von Zusammenhängen eingesetzt werden, die beliebige KI-basierte Entscheidungssysteme erzeugen. Das geschieht, indem auf den Eingangs- und auf den Ausgangsmustern des betreffenden KI-Systems KPI-basierte Bewertungen festgelegt werden, die beschreiben, welche Eingabe- und welche Ausgabemuster für welche Werte eher positiv und für welche eher negativ abschneiden.

Werden über derart allgemein aufbereitete Bewertungen Zeitreihen gebildet, so lassen sich mit Deep Qualicision auf eine sehr allgemeine Art und Weise Systeme von Datenclustern erzeugen, die das Verhalten der KI-Entscheidungssysteme aus der Perspektive des Geschäftsprozesses analysieren lassen, für den das analysierte KI-System bestimmt ist.

So entsteht eine neue KPI-bezogene Sicht auf die Ergebnisse des KI-Systems aus der Perspektive des Zielgeschäftsprozesses.

Auf diese Weise erhält ein KI-System, das aus der Perspektive des Geschäftsprozesses eine Black Box darstellt, eine geschäftsprozessbezogene KPI-Erklärungskomponente, die KPI-basiert das Verhalten der Black-Box nachzuvollziehen hilft.

Maschinelles Lernverfahren erkennt KPI-Zielkonflikte automatisch

Das Herzstück von Deep Qualicision ist ein maschinelles Lernverfahren, das auf der selbsttätigen Erkennung von KPI-Zielkonflikten in Geschäftsprozessdaten mittels Erweiterter  Fuzzy-Logik beruht. Die Zielkonfliktanalyse hilft, die Prozessdaten derart zu ordnen, dass der Deep-Qualicision-Algorithmus selbstständig erkennen kann, in welchen Situationen wie zu labeln ist. Die Deep-Qualicision-Lernlogik kann als umgebender Layer um jedes KI-System gelegt werden, dessen Verhalten mit Hilfe von KPIs bewertet werden kann.

Was ist Deep Qualicision

Deep Qualicision ist die Verknüpfung von Methoden der Künstlichen Intelligenz mit Lernverfahren zur Optimierung von Industrieprozessen. Es verbindet Optimierungsverfahren mit maschinellem Lernen und neuronalen Netzen und erlernt das Einstellen von Parametern von Optimierungsalgorithmen auf effiziente Weise, so dass Entscheidungen, die auf Daten und Optimierungsergebnissen beruhen, sich automatisch selbst justieren.

So lassen sich systematisch und methodisch abgesichert Zusammenhänge erlernen, die zu Input-Mustern des betreffenden KI-Systems mittels KPIs des Zielprozesses die Output-Muster des KI-Systems qualitative Labels erzeugen.

Damit können Zusammenhänge maschinell erkannt und interpretiert werden, die bisher klassisch direkt durch menschliche Analysten (Data Scientists) im Zuge eines manuellen Labelingprozesses hergestellt wurden.

Die manuelle Interpretation (manuelles Labeln), ob die vorliegenden Daten zu guten oder zu schlechten KPI-Ergebnissen im Prozess geführt haben, wird durch die Analyse von qualitativen Optimierungen automatisiert übernommen.

Abbildung 1: Deep Qualicision GUI basierend auf dem PSI Java Framework. Quelle: PSI FLS
Abbildung 1: Deep Qualicision GUI basierend auf dem PSI Java Framework. Quelle: PSI FLS

KPI-orientierte Clusterverfahren tragen zur Erklärbarkeit des Verhaltens von KI-Systemen bei (Explainable AI). Dabei helfen Methoden zur maschinell unterstützten Interpretierbarkeit durch z. B. Qualitatives Labeling.

Vereinfachte Prozesse mit Hilfe von KPIs

Wenn sich Ergebnisse des analysierten KI-Systems mittels KPIs bewerten und beschreiben lassen, lässt sich der bisherige Flaschenhals der Datenaufbereitung für KI-Verfahren größtenteils durch einen wesentlich einfacheren Prozess der Beschreibung der Ergebnisse mittels KPIs weitestgehend ersetzen.

Da die Beschreibung mittels KPIs im Wesentlichen Wissen über den Prozess erfordert, für den das KI-System entwickelt wurde, stützt sich das Verfahren auf eben dieses Wissen und nicht auf Wissen von Datenanalysten, die über KI-Spezialwissen verfügen.

Die qualitativ gelabelten Daten des KI-Prozesses sind in Verbindung mit geeigneten Visualisierungen (siehe Abbildung 1) auch für Nicht-KI-Fachleute interpretierbar und weiteren prozessorientierten Analysen zuführbar.

Abbildung 2: Deep-Qualicision-Layermodell zur KPI-orientierten Interpretierbarkeit. Quelle: PSI FLS
Abbildung 2: Deep-Qualicision-Layermodell zur KPI-orientierten Interpretierbarkeit. Quelle: PSI FLS

Die Abbildung 2 zeigt schematisch, wie KI-Systeme, die zur Behandlung von Geschäftsprozessen eingesetzt werden, in Deep-Qualicision-Analyse-Layer eingebettet werden können. Dabei erleichtern Prozess-KPIs und ihre Bewertungsergebnisse die Nachvollziehbarkeit dieser Ergebnisse, da diese eher Prozesswissen als KI-Spezialwissen vom Nutzer der eingebetteten KI-Systeme verlangen.

Weitere Informationen zum Thema Qualitatives Labeln finden Sie im Download Wertschöpfende Prozessdatenanalyse – Selbstlernende Datenaufbereitung mit KI.

Wie ist Ihre Meinung zu diesem Thema?

Dr. Rudolf Felix

Geschäftsführer PSI FLS Fuzzy Logik & Neuro Systeme GmbH