Der Sonderforschungsbereich/Transregio 318 „Constructing Explainability“ (TRR 318) ist ein interdisziplinäres Forschungsprojekt der Universität Paderborn und der Universität Bielefeld. Seit 2021 wird es von der Deutschen Forschungsgemeinschaft (DFG) gefördert. Die Förderung lief zunächst bis Ende 2025 und wurde für eine zweite Phase bis einschließlich Juni 2029 verlängert. Im Mittelpunkt steht die Untersuchung von Erklärprozessen in unterschiedlichen Kontexten. Die gewonnenen Erkenntnisse werden genutzt, um die Erklärbarkeit von maschinengelernten Systemen mit Künstlicher Intelligenz (KI) weiterzuentwickeln. Dies entspricht den Zielen der sogenannten Explainable Artificial Intelligence (Erklärbare Künstliche Intelligenz), setzt aber auf einen nicht allein technischen Ansatz.
Ziele und Forschungsansatz Die Wissenschaftler und Wissenschaftlerinnen des TRR 318 verfolgen das Ziel, verständliche und erklärbare KI-Systeme zu entwickeln, die Bürger und Bürgerinnen dazu befähigen, mit solchen Systemen kompetent und kritisch umzugehen und aktiv an einer digitalen Gesellschaft teilzuhaben. Dabei wird ein menschenzentrierter Ansatz verfolgt, der Nutzer und Nutzerinnen in alle Phasen der Forschung einbezieht.
Ein zentrales Konzept ist die Ko-Konstruktion. Dies bedeutet, dass Erklärungen nicht vorgegeben sind, sondern von Menschen untereinander oder Menschen und Maschinen in einem interaktiven, schrittweisen Prozess entwickelt werden. Die Adressaten und Adressatinnen einer Erklärung gestalten den Erklärprozess aktiv mit, indem sie etwa Ziele und Inhalte mitbestimmen. Im TRR 318 wurde hierzu der Begriff „Social Explainable AI“ eingeführt – eine Form sozialer erklärbarer KI, die ihre Erklärungen kontextsensitiv und individuell anpasst. Das Konzept Social Explainable AI war 2023 Thema eines internationalen Shonan-Meetings in Japan, aus dem ein mit Forschenden anderer Institutionen erarbeiteter Sammelband entstand. Die Idee der Ko-Konstruktion wird in öffentlichen Workshops zum Beispiel auf der Re:publica vermittelt und diskutiert.
Forschungsstruktur Das interdisziplinäre Forschungsteam setzt sich aus 22 Projektleitungen und rund 40 wissenschaftlichen Mitarbeitenden zusammen, die in 20 Projekten forschen. Beteiligt sind die Fachrichtungen Informatik, Linguistik, Medienwissenschaft, Philosophie, Psychologie, Soziologie und Wirtschaftswissenschaft.
Die wissenschaftliche Leitung liegt bei Katharina J. Rohlfing (Sprecherin) und Philipp Cimiano (stellvertretender Sprecher).
Die Projekte sind drei Hauptbereichen zugeordnet:
A: Explaining/Erklärprozess B: Social practice/Soziale Praktik C: Representing and computing explanations/Darstellung und Berechnung von Erklärungen
Darüber hinaus existieren vier übergreifende Projekte:
INF-Projekt: Weiterentwicklung der Forschungsstruktur und Unterstützung beim Datenaustausch Ö-Projekt: Wissenschaftskommunikation und Öffentlichkeitsarbeit RTG-Projekt: Qualifizierung von Nachwuchswissenschaftlern und Nachwuchswissenschaftlerinnen Z-Projekt: Koordination und Verwaltung
Projekte Die folgende Tabelle gibt eine Übersicht über die Projekte der zweiten Förderphase. Unterschiede zur ersten Förderphase sind markiert; in der Regel sind sie gering.
Forschungsbereich A – Erklärprozess +NameKürzelForschungsgebieteProjektleitungAdaptives ErklärenA01Linguistik, Psychologie, InformatikHeike M. Buhl, Stefan Kopp, Katharina RohlfingVerstehensprozess einer Erklärung beobachten und auswertenA02Linguistik, InformatikHendrik Buschmeier, Angela Grimminger, Petra WagnerKo-Konstruktion von Erklärungen zwischen KI und Mensch unter Arousal und Nicht-Arousal (Erste Phase: Ko-Konstruktion von Erklärungen mit emotionaler Ausrichtung zwischen KI-Erklärenden und menschlichen Erklärungsempfangenden)A03Wirtschaftswissenschaften, InformatikKirsten Thommes, Britta WredeKo-Konstruktion dualitätsbasierter Erklärungen (Erste Phase: Integration des technischen Modells in das Partnermodell beim Erklären von digitalen Artefakten)A04Linguistik, Psychologie, Didaktik der InformatikHeike M. Buhl, Friederike Kern, Carsten SchulteEchtzeitmessung der Aufmerksamkeit im Mensch-Roboter-ErklärdialogA05Linguistik, Informatik (erste Phase: auch Psychologie)Katharina Rohlfing, Britta Wrede (erste Phase: auch Ingrid Scharlau)Erklärung der multimodalen Darstellung von Stress in klinischen Erklärungen (Erste Phase: Inklusive Ko-Konstruktion sozialer Signale des Verstehens)A06Psychologie, Informatik, LinguistikHanna Drimalla, Petra Wagner (Erste Phase: nur Hanna Drimalla)
Forschungsbereich B – Soziale Praktik +NameKürzelForschungsgebieteProjektleitungModelle des maschinellen Lernens mit einem dialogbasierten Ansatz erklärenB01Soziologie, InformatikPhilipp Cimiano, Elena Esposito (Erste Phase: auch Axel-Cyrille Ngonga Ngomo)Nur erste Phase: Nutzende und Erklärbedürfnisse in real-weltlichen KontextenB03Soziologie, MedienwissenschaftTobias MatznerErklärbarkeit ko-konstruieren mit einem interaktiv lernenden RoboterB05InformatikAnna-Lisa Vollmer, Carsten Schulte (Erste Phase: Nur Anna-Lisa Vollmer)Ethik und Normativität der erklärbaren KIB06PhilosophieSuzana Alpsancar, Tobias MatznerNur zweite Phase: Kommunikative Praktiken des Einholens von Informationen und Erklärungen von LLM-basierten Agenten B07Informatik, LinguistikHendrik Buschmeier, Friederike Kern
Forschungsbereich C – Darstellung und Berechnung von Erklärungen +NameKürzelForschungsgebieteProjektleitungGesundes Misstrauen in und durch ErklärungenC01Psychologie, InformatikBarbara Hammer, Benjamin Paaßen, Ingrid ScharlauInteraktives Lernen von erklärbaren, situationsangepassten EntscheidungsmodellenC02Wirtschaftswissenschaften, InformatikEyke Hüllermeier, Kirsten ThommesInterpretierbares maschinelles Lernen: Veränderung erklärenC03InformatikBarbara Hammer, Eyke HüllermeierMetaphern als Mittel zur ErklärungC04Psychologie, InformatikIngrid Scharlau, Henning WachsmuthErklärbare Entscheidungen in kooperativer Mensch-Maschine-Interaktion findenC05InformatikPhilipp Cimiano, Stefan KoppNur erste Phase: Technisch unterstütztes Erklären von StimmencharakteristikaC06Linguistik, InformatikReinhold Häb-Umbach, Petra WagnerNur zweite Phase: Ko-Konstruktions-folgende große Sprachmodelle zum ErklärenC07InformatikAxel-Cyrille Ngonga-Ngomo, Henning Wachsmuth
Übergreifende Projekte +NameKürzelForschungsgebieteProjektleitungAbrufgestützte (retrieval-augmented) Informationsbereitstellung (Erste Phase: Kriterien für die Bewertung von Erklärungsqualität)INFInformatikAxel-Cyrille Ngonga-Ngomo (Erste Phase: Philipp Cimiano, Henning Wachsmuth)Fragen zu erklärbaren TechnologienWIKO (Erste Phase: Ö)Pädagogik, Informatik (Erste Phase: Soziologie, Didaktik der Informatik, Informatik)Dan Verständig, Britta Wrede (Erste Phase: Carsten Schulte, Britta Wrede)Integriertes GraduiertenkollegRTGIngrid ScharlauZentrales VerwaltungsprojektZKatharina Rohlfing
Publikationen (Auswahl) K. J. Rohlfing et al., „Explanation as a Social Practice: Toward a Conceptual Framework for the Social Design of AI Systems,“ in IEEE Transactions on Cognitive and Developmental Systems, vol. 13, no. 3, pp. 717–728, Sept. 2021, doi: 10.1109/TCDS.2020.3044366. Meisam Booshehri, Hendrik Buschmeier, Philipp Cimiano, Stefan Kopp, Jaroslaw Kornowicz, Olesja Lammert, Marco Matarese, Dimitry Mindlin, Amelie Sophie Robrecht, Anna-Lisa Vollmer, Petra Wagner, and Britta Wrede, „Towards a Computational Architecture for Co-Constructive Explainable Systems,“ in Proceedings of the 2024 Workshop on Explainability Engineering (ExEn '24). Association for Computing Machinery, New York, NY, USA, 20–25, 2024. Buschmeier, Hendrik, Heike M. Buhl, Friederike Kern, Angela Grimminger, Helen Beierling, Josephine Fisher, André Groß et al. “Forms of Understanding for Xai-Explanations.” arXiv.org, May 29, 2025. https://arxiv.org/abs/2311.08760.
Weblinks Website des TRR 318
Detailseite DFG Der TRR 318 auf der Seite von KI.NRW
Einzelnachweise
Sonderforschungsbereich TRR 318 Kategorie:Universität Bielefeld Kategorie:Universität Paderborn Kategorie:Informatik Kategorie:Sprachwissenschaft Kategorie:Psychologie Kategorie:Medienwissenschaft Kategorie:Philosophie