XAINES

Im Projekt XAINES soll nicht nur die Erklärbarkeit sichergestellt werden, sondern darüber hinaus Erklärungen (Narrative) bereitgestellt werden. Die zentrale Frage dabei ist, ob die KI in einem Satz erklären kann, warum sie so gehandelt hat oder ob sie es dem Nutzer interaktiv erklären muss. Um dies zu klären ist einer der Projektschwerpunkte die Erforschung von narrativen und interaktiven Erzählungen, welche besonders für Menschen geeignet sind, um Wissen in jedweder Form aufzunehmen, in ihrer Anwendung mit KI-Systemen. Um erklärende Erzählungen zu erhalten, werden (sprach-)markierte Sensordatenströme und prädikative Modelle verwendet. Sensorinformationen werden mit Sprachinformationen kombiniert, daraus entwickelt das KI-System sog. Szenenverständnis, wodurch dann Erklärungen generiert werden.

Bei den Narrativen wird unterschieden zwischen Domänennarrativen und Machine Learning Narrativen. Domänennarrative zeigen was in der Domäne passierte, wie sie durch sprachgestützte Aktivitätserkennung erfasst wurde. Machine Learning Narrative sind solche, die die Vorhersagen dieser Modelle erklären. Domänennarrative und ML-Narrative sind miteinander verknüpft, denn Domänennarrative werden durch maschinelles Lernen konstruiert.

Als Endnutzer dieser Narrative sollen zum einen die Entwickler der KI-Module sein, zum anderen die Fachexperten, die die Software verwenden, aber auch interessierte Laien, anvisiert werden.

Gefördert wird das Projekt XAINES, an dem 7 Forschungsbereiche des DFKI eng verzahnt zusammenarbeiten, durch das Bundesministerium für Bildung und Forschung (BMBF). Dabei folgt das Projekt der neuen Richtlinie „Erklärbarkeit und Transparenz des Maschinellen Lernens und der Künstlichen Intelligenz“, die im Rahmen der KI-Strategie der Bundesregierung, aufgelegt wurde.

Die verschiedenen Anwendungsfälle (engl. use cases) stammen aus dem Bereich Autonomes Fahren (ASR), Automatisierung im Bauwesen (EI) und der interaktiven medizinischen Entscheidungsunterstützung (IML).