Ein Programm, das auf Künstlicher Intelligenz (KI) basiert, braucht den Dialog mit dem Menschen, um sich weiterzuentwickeln. Ein Forschungsteam der TU Darmstadt, hessian.AI und des Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI), darunter auch Forschende vom LOEWE-Schwerpunkt WhiteBox, haben eine Methode vorgestellt, die das Feedback vom Menschen an eine lernende Software erheblich vereinfacht. Die Ergebnisse dazu wurden in der Fachzeitschrift „Nature Machine Intelligence“ veröffentlicht.

Darmstädter Wissenschaftler und Wissenschaftlerinnen um Professor Kristian Kersting, Sprecher des LOEWE-Schwerpunkts WhiteBox, haben in den letzten Jahren gezeigt, dass KI-Algorithmen durch das Feedback vom Menschen profitieren. Doch um mit Maschinen zu kommunizieren, muss man sie verstehen. Das ist bei der meist verwendeten Form von KI, dem sogenannten Deep-Learning oft schwierig. Denn Deep-Learning basiert auf Milliarden Verbindungen zwischen virtuellen Neuronen und dabei lässt sich schwer nachvollziehen, welche Verbindungen zu einer Entscheidung der KI führen. Zudem ist das System fehleranfällig. Die Wissenschaftlerinnen und Wissenschaftler haben daher eine Methode namens Explainable AI entwickelt, mithilfe derer der Nutzer Fehler an die KI zurückmelden kann. Dieses Feedback-Verfahren bezeichnen die Forschenden als Explanatory Interactive Learning (XIL). Konkret wurde der KI die Aufgabe gegeben, eine handgeschriebene „1“ zu erkennen. Im Trainingsbild war aber auch ein Quadrat zu erkennen. Definiert die KI fälschlicherweise das Quadrat als „1“, kann das Quadrat als „nicht zum Objekt zugehörig“ markiert und die KI so trainiert werden.

„Das ist viel effektiver, denn generell ist schwierig zu definieren, was zum Beispiel einen Eisvogel auszeichnet“, erklärt Felix Friedrich, der bei Professor Kersting promoviert.

Die Darmstädter Forscher haben aus den untersuchten XIL-Verfahren eine Strategie („Typology“) destilliert, mit der sich das beschriebene Abkürzungs-Verhalten effizient beheben lässt.