Licht ins KI-Dunkel

Click here for the English version

Sie steuert unsere Autos, hilft bei der Diagnostik schwerer Krankheiten und entscheidet, ob eine Bewerbung für den neuen Job Erfolg hat oder scheitert – inzwischen gibt es fast keinen Lebensbereich mehr, in dem wir Künstliche Intelligenz nicht einsetzen. Das Problem: Kaum ein Nutzer kann wirklich nachvollziehen, wie KI arbeitet und welche Daten sie heranzieht, um Aussagen zu treffen. Deshalb bleiben fehlerhafte oder voreingenommene Entscheidungen häufig unerkannt.

Die Lösung: sogenannte „Erklärbare Künstliche Intelligenz“, also KI, die Ihre Aussagen so aufbereitet, dass Menschen sie einfach nachvollziehen können. Einer der führenden Wissenschaftler auf diesem Gebiet ist der Informatiker Damien Garreau – seit April 2024 forscht und lehrt er als Professor für Theorie Maschinellen Lernens an der Julius-Maximilians-Universität Würzburg (JMU). Gemeinsam mit seinem Team prüft er die Funktionalität verschiedener KI-Modelle und entwickelt Methoden, die KI-Aussagen transparenter machen.

„Zusammen mit Ärztinnen und Ärzten arbeiten wir zum Beispiel an Software zur Vorhersage von Herzrhythmusstörungen“, erklärt der Informatiker. „Wir wollen eine KI schaffen, die CT-Aufnahmen eigenständig auswertet und auf verdächtige Gewebeveränderungen prüft. Sie soll aber nicht nur ihren Befund schildern, sondern diesen auch begründen. Das soll geschehen, indem sie auf den Aufnahmen genau diese Stellen farblich umkreist.“

Mathematik als Schlüssel zur KI-Analyse

Ein weiterer Schwerpunkt von Garreaus Forschung: Prüfen, wie gut verschiedene KI-Modelle funktionieren und die Aussagekraft von KI stärken. „Früher folgten automatisierte Systeme einem simplen Ja-Nein-Schema“, sagt der Forscher. „Sie arbeiteten es wie bei einer Checkliste von oben nach unten ab – und wenn es eine Fehlfunktionen gab, fiel diese im Code relativ schnell auf.“

Heute, bei KI, sei das anders: „In Neuronalen Netzen läuft der Rechenweg nicht mehr linear, sondern parallel auf mehreren Ebenen – zudem gibt es deutlich mehr Rechenoperationen.“ Garreau und sein Team analysieren KI-Modelle, um die Zuverlässigkeit von Erklärungsmethoden zu überprüfen: „Es gibt Methoden, die aufzeigen können, wie KI Entscheidungen trifft, indem sie wichtige Teile der Eingabedaten hervorheben“, erklärt er. „Wir überprüfen diese Methoden, indem wir sie auf vereinfachte Modelle anwenden, bei denen wir bereits wissen, welche Faktoren entscheidend sind. Wenn die Methode dabei Fehler macht, weist das darauf hin, dass sie bei komplexeren Modellen ebenfalls unzuverlässig sein könnte.“

Vom Praktikanten zum Professor

Seine Begeisterung für Künstliche Intelligenz entwickelte Damien Garreau während seines Masterstudiums in Mathematik an der École Normale Supérieure in Paris. „Mitten im Studium kam ich in eine regelrechte Sinnkrise“, erzählt er. „Mir fehlte komplett der Anwendungsbezug meines Lernstoffs – und ich wusste nicht, wie es weitergehen sollte. Mir wurde deshalb ein Praktikum in der freien Wirtschaft empfohlen, was ich dann auch gemacht habe.“

Dort, in einem Unternehmen, das Flugschreiber auswertete, kam er zum ersten Mal in Berührung mit Machine Learning, einem Teilgebiet der Künstlichen Intelligenz. „Mir war sofort klar: Dieser Bereich fasziniert mich und da gibt es ein gewaltiges Potenzial, das ich genauer erforschen und nutzen will. Seitdem hat diese Begeisterung nicht mehr nachgelassen, vielmehr wurde sie noch stärker.“

Seine Doktorarbeit schrieb er so wenige Jahre später am Pariser Nationalinstitut für Informatik und Automatisierung (INRIA) zur Kernel Change-Point Detection – einer mathematischen Methode, zur Erkennung abrupter Veränderungen in Zeitreihen eingesetzt wird. Anschließend ging er für zwei Jahre als Postdoktorand an das Max-Planck-Institut für Intelligente Systeme in Tübingen. 2019 wechselte er an die Université Côte d'Azur in Nizza, wo er bis zum Start in Würzburg als außerordentlicher Professor tätig war. „In Würzburg wurde ich sehr herzlich aufgenommen“, sagt Garreau. „Ich freue mich darauf, hier gemeinsam mit meinem Team die Forschung an verständlicher und zuverlässiger KI voranzutreiben!“

Die Professur wird mitfinanziert durch die Hightech-Agenda (HTA) des Freistaats Bayern.

Kontakt

Prof. Dr. Damien Garreau, Professor für Theorie Maschinellen Lernens, Tel.: +49 931 31-89206, damien.garreau@uni-wuerzburg.de