Künstliche Intelligenz transparenter gestalten

Das Projekt "AI Forensics: Accountability through Interpretability in Visual AI Systems" konzentriert sich auf den Einsatz von Bild-Systemen. "Gerade der Bereich der Gesichtserkennung wächst immer weiter. Beispielsweise wird in den USA eine KI mit Gesichtserkennung genutzt, um potenzielle Gefährder zu erkennen. Was der allgemeinen Sicherheit dient, ist gleichzeitig auch ein Eingriff in Persönlichkeitsrechte. Wir möchten Entscheidungen der KI-Entscheidungen nachvollziehbar machen", erläutert die Projektbeteiligte Professor Dr. Claude Draude vom Wissenschaftlichen Zentrum für Informationstechnik-Gestaltung der Universität Kassel.

Ziel ist eine frei für die Öffentlichkeit zugängliche Internetplattform, die grosse Datensätze erschliessbar macht. Modelle des maschinellen Lernens sollen so analysierbar und verstehbar gemacht werden.

"Nutzende können zum Beispiel ein Bild hochladen und eine automatische Untersuchung aktivieren. Das System überprüft, ob das Bild bereits in einem Datensatz ist (Datensatz-Forensik), wie es in einem Modell verwendet wurde (Modell-Forensik), und wo und zu welchem Zweck (Anwendungsforensik). Der Umfang dieser Fähigkeiten variiert von Modell zu Modell und veranschaulicht unterschiedliche Grade von Transparenz und Interpretierbarkeit auf dem Spektrum der für die Forschung verfügbaren Modelle", erklärt Draude.

Gefördert wird das Vorhaben im Rahmen der Initiative "Künstliche Intelligenz" der VolkswagenStiftung. Es hat eine Laufzeit von drei Jahren und wird mit 1,5 Millionen Euro unterstützt. Neben der Universität Kassel sind das Institut für Künstliche Intelligenz und Medienphilosophie der Staatlichen Hochschule für Gestaltung in Karlsruhe, das Department of Computer Science der Durham University in Grossbritannien sowie das Department of Germanic and Slavic Studies der University of California in Santa Barbara (USA) beteiligt. Technische Partner sind das Steinbuch Centre for Computing am Karlsruher Institut für Technologie (KIT) und das NVIDIA CUDA Forschungszentrum an der Durham University.