Forschungsprojekt ::

Responsibility Gaps in Human-Machine Interactions: The Ambivalence of Trust in AI

Projektbeschreibung

Ab dem 01.03.2022 forscht der Lehrstuhl für Moraltheologie an einem neuen vom bidt geförderten, interdisziplinären Projekt namens „Responsibility Gaps in Human-Machine Interactions: The Ambivalence of Trust in AI“. Untersucht werden dabei insbesondere Herausforderungen der Mensch-Maschine Interaktion im medizinischen Bereich der digitalen Radiologie.
Konkret liefert das Forschungsprojekt einen Beitrag zur Behebung von Verantwortungslücken zwischen medizinischem Personal und KI-basierten, sogenannten recommender systems, welche innerhalb medizinischer Diagnoseverfahren durch ein über-großes Vertrauen der Mediziner*innen auf Empfehlungen von KI-Systemen entstehen.
Anliegen und Ziel des Forschungsprojektes ist es einerseits, Empfehlungen und Lösungsvorschläge für die Herausforderungen der Mensch-Maschine Interaktion sowie der organisatorisch-strukturellen Ebene des Gesundheitssektors zu formulieren. Andererseits sollen ethisch fundierte Kompetenzziele ausgearbeitet werden, mithilfe derer Mediziner*innen ihre Verantwortung in der medizinischen Bilddiagnostik klären und stärken können.

Forschungsschwerpunkt und Aufgabe der Moraltheologie:

• Untersuchung von KI-Systemen vor dem Hintergrund eines normativ-ethischen Zugangs
• Erforschung, Analyse und Definition von ethisch vertretbaren Konzepten zu Verantwortung, Verantwortlichkeit und Vertrauen wie auch Klärung derer Zusammenhänge
• Spezifizierung und Reflexion der erarbeiteten Konzepte durch deren praktische Anwendung in der Interaktion medizinischen Personals mit KI-basierten recommender systems zur medizini-schen Bilddiagnose
• Identifikation zentraler ethischer Herausforderungen von Mensch-Maschine-Interaktionen, von Chancen und Risiken im Einsatz von KI-basierten recommender systems in der medizinischen Bilddiagnostik, von möglichen Auswirkungen auf die Arzt-Patienten-Beziehung wie auch organisatorischer Probleme in der klinischen Praxis
• Beständige Reflexion und Überarbeitung der erarbeiteten ethischen Konzepte und Kriterien vor dem Hintergrund der Herausforderungen in medizinischen Diagnosefahren durch Zuhilfenahme von KI-basierten recommender systems durch die Einbindung empirischer und praktischer Methoden (Fragebogen, Umfrage, Workshop)