Wie Visual Analytics Künstliche Intelligenz sichtbar macht
Er verbindet das Beste aus zwei Welten: Liu Ren ist Chief Scientist am Bosch Research and Technology Center im Silicon Valley. Mithilfe einer Methode namens Visual Analytics kombinieren er und sein Team künstliche Intelligenz mit menschlichem Wissen.
Dank ihr können riesige Datensätze aufbereitet werden, ohne sie wären selbstfahrende Autos nicht möglich: Wo künstliche Intelligenz (KI) zum Einsatz kommt, erleichtert sie Arbeit und Alltag. Aber wie eine KI wirklich funktioniert und worauf ihre Entscheidungen beruhen, muss für ihre Anwender nachvollziehbar und kontrollierbar sein. Um das zu gewährleisten, erforscht Dr. Liu Ren eine Methode namens Visual Analytics. Ren leitet ein Expertenteam am Bosch Research and Technology Center im Silicon Valley. Sein ausführlicher Jobtitel lautet Chief Scientist for Intelligent Human Machine Interaction (HMI) Technologies and Systems – er erforscht, wie sich menschliche mit maschineller Intelligenz verknüpfen lässt. „Maschinen machen Fehler“, sagt er, „und Menschen auch. Mit Visual Analytics können Mensch und Maschine gemeinsam dafür sorgen, Fehler zu vermeiden“. Wie das genau funktioniert, erklärt Liu Ren im Interview
„Wir wollen wissen, was die KI nicht weiß und warum. Erst dann können wir ihr helfen, sich dieses Wissen anzueignen.“
Herr Ren, was steckt hinter Visual Analytics?
Die KI-unterstützte Visual Analytics (AiVA) hilft zu verstehen, wie ein KI-System zu einer Entscheidung kommt und wie es verbessert werden kann. Das geschieht in drei Phasen: Zunächst werden Daten aus einem KI-System so verarbeitet, dass sie von Menschen verstanden werden können. Im nächsten Schritt werden diese Daten visualisiert. Anschließend kann der Mensch anhand der visualisierten Information das KI-System mit einem Minimum an Interaktion steuern und optimieren.
Warum ist das notwendig?
Die Algorithmen einer KI gleichen oft einer Black Box – sie spucken ein Ergebnis aus, aber es bleibt unklar, wie sie dazu gekommen sind. Das wirft Fragen auf: etwa ob bei automatisierten Bewerbungsprozessen oder Kreditvergaben die Chancengleichheit garantiert ist. Visual Analytics kann hier helfen, sie macht den Entscheidungsprozess transparent. Sehen heißt Verstehen!
Nennen Sie uns bitte ein Beispiel aus der Praxis.
Nehmen wir die Systeme, an denen wir gemeinsam mit dem Bosch Functional Testing Team für automatisiertes Fahren arbeiten. Bei selbstfahrenden Autos ist KI zur Bilderkennung unverzichtbar. Dabei können seltene Extremfälle auftauchen, sogenannte Corner Cases – beispielsweise ein Blick auf eine Ampel bei schlechtem Wetter aus einem ganz bestimmten Winkel. Was benötigt das System, um eine rote Ampel unter diesen Voraussetzungen zu erkennen? Hier hilft Visual Analytics, um Datenlöcher und Schwachstellen frühzeitig aufzudecken.
Was passiert, wenn eine Schwachstelle entdeckt wurde?
Unser Visual-Analytics-Ansatz verwendet eine zweite KI, die den Datensatz dann automatisch ergänzt. Der Prozess ist transparent und ermöglicht menschliche Aufsicht. So werden die Mängel der ersten KI behoben.
Mehr als 10
verschiedene Szenarien werden in der Regel für die Beschreibung einer Ampel definiert.
So deckt Visual Analytics die Wissenslücken einer KI auf
Wie generiert die zweite KI die zusätzlichen Daten?
Durch eine Methode namens Representation Learning. Bleiben wir bei dem Beispiel mit der Ampel: Basierend auf Trainingsdaten lernt die zweite KI anhand von etwa einem Dutzend Kategorien und deren Variationen – die für den Menschen einfach nachvollziehbar sind – wie eine Ampel aussieht. Um unser Beispiel zu vereinfachen, beschränken wir uns auf vier Variationen: die Farbe der Ampelanzeige, das Symbol der Anzeige, der Hintergrund sowie die Richtung, in die sie zeigt. Diese vier repräsentativen Kategorien können dazu dienen, jede Ampel zu beschreiben. So kategorisiert die zweite KI Trainingsdaten, erkennt und klassifiziert Fehlerfälle im Zusammenhang mit dem Ampeldetektor, der ersten KI. Bei selten auftretenden Fällen kann die zweite KI auch effektiv neue Trainingsdaten generieren, um die Leistung unseres Ampel-Erkenners auf der Grundlage der vier Kategorien und des menschlichen Inputs weiter zu verbessern.
An welcher Stelle kommt der Mensch ins Spiel?
Er bekommt die Daten visuell so aufbereitet, dass Fehler sofort auffallen. Auf Basis des Representation Learnings sieht er, wo die Trainingsdaten für die KI mangelhaft waren. In einem zweiten Schritt generiert das System entweder neue Daten oder bietet eine Anleitung, wie man reale Daten sammeln kann, um diese Lücken zu füllen. Auf diese Weise arbeiten Mensch und Maschine zusammen, um die Leistung unseres KI-Systems zu steigern.
„Im Bereich der industriellen KI ist Bosch eine treibende Kraft – das zeigen unsere Auszeichnungen.“
In welchen Bereichen setzt Bosch außerdem Visual Analytics ein?
Mit unserem kürzlich entwickelten Algorithmus namens Tensor Partition Flow (TPFlow) können Einzelhändler ihre Kundenströme analysieren. Und in Städten kann der Verkehrsfluss besser untersucht werden – Ridesharing-Diensten wird es somit ermöglicht, ihre Flotte richtig zu verteilen und auszulasten. Mit TPFlow haben wir 2018 den Best Paper Award auf der IEEE VISUALIZATION gewonnen. Das ist die wichtigste Konferenz für Big Data und Visual Analytics. Eine Anwendung, für die wir ebenfalls ausgezeichnet wurden, identifiziert Engpässe in Produktionslinien der Industrie 4.0. Hier arbeiten wir gemeinsam mit dem Bosch Center for Artificial Intelligence an einer Markteinführung.
Was kann Visual Analytics in Zukunft leisten?
Es wird weiter darum gehen, die Blackbox KI erklärbar zu machen. Denn erst dann entwickeln Menschen ein Vertrauen in künstliche Intelligenz, und das wird in einer vernetzten Welt der Zukunft zu deren wesentlichem Qualitätsmerkmal. Deshalb wollen wir bei Bosch sichere, robuste und nachvollziehbare KI-Produkte entwickeln. Ich bin überzeugt, dass der Visual-Analytics-Ansatz, bei dem der Mensch stets den Überblick behält, hier eine wichtige Rolle spielen wird.
Im Fokus
Liu Ren
Chief Scientist HMI am Bosch Research and Technology Center
Eine transparente und verständliche KI wird immer dringlicher. Algorithmen müssen erklärbar sein.
Dr. Liu Ren ist Vice President und leitender Wissenschaftler für intelligente HMI-Technologien und -Systeme am Bosch Forschungs- und Technologiezentrum im Silicon Valley. Er ist zudem Global Head des KI-Forschungsprogramms für die Zusammenarbeit zwischen Mensch und Maschine mit Forschungsteams im Silicon Valley und Pittsburgh, USA, sowie in Renningen in Deutschland. Ren trägt einen Doktortitel und ist Master of Science in Informatik der Carnegie Mellon University. Außerdem erlangte er einen Bachelor of Science in Informatik an der Zhejiang University in Hangzhou, China.
