Künstliche Intelligenz Verst?ndlich und Vertrauenswürdig Machen
Teaser
Künstliche Intelligenz hat l?ngst den Bereich der Science-Fiction verlassen. Wie der Fernsehbeitrag von 4You zeigt, sind KI-Tools bereits Teil des akademischen Alltags und finden in verschiedenen Disziplinen Anwendung, von Informatik und Rechtswissenschaften bis hin zu P?dagogik und Medizin. Der Beitrag vereint Perspektiven von vier oberfr?nkischen Einrichtungen, die jeweils einen anderen Aspekt der KI-Revolution beleuchten: von praktischen Tools für Studierende bis hin zu grundlegenden Fragen des Rechts und der Ethik.
An der Hochschule Hof liegt der Schwerpunkt auf praktischen KI-Tools, die Studierende bereits in ihrem Studienalltag nutzen. Chatbots, Schreibassistenten und Bildgeneratoren werden direkt in die Lehre integriert und bereiten die Absolventen auf einen Arbeitsmarkt vor, in dem KI-Kenntnisse bald unverzichtbar sein werden. Die Botschaft ist klar: Wer sich heute aktiv mit KI auseinandersetzt, ist besser gerüstet, um die Zukunft zu gestalten.
Die Universit?t Bayreuth hingegen untersucht KI aus rechtlicher und gesellschaftlicher Perspektive. Dortige Forscher untersuchen, wie Technologien wie Gesichtserkennung und Deepfakes in der Strafjustiz eingesetzt (oder missbraucht) werden k?nnten. Ihre Arbeit verdeutlicht einen kritischen Konflikt: W?hrend KI die Strafverfolgung und Gerichte unterstützen kann, stellt ihre mangelnde Transparenz grundlegende Rechtsprinzipien wie ein ordnungsgem??es Verfahren und die Nachvollziehbarkeit vor gro?e Herausforderungen.
An der Hochschule Coburg steht das Lernen selbst im Mittelpunkt. Forscher untersuchen, ob KI-gestützte Tutoren, von textbasierten Systemen bis hin zu immersiven Virtual-Reality-Avataren, den Mangel an wissenschaftlichem Personal ausgleichen und Studierenden eine individuellere Betreuung bieten k?nnen. Erste Ergebnisse deuten darauf hin, dass interaktive KI-Tutoren das Engagement und die Lernergebnisse erheblich verbessern und die Hochschulbildung einem individualisierten Mentoring in gro?em Ma?stab n?herbringen k?nnen.
Vor diesem vielf?ltigen Hintergrund liefert der Beitrag des Lehrstuhls für Explainable Machine Learning (xAILab Bamberg) an der Universit?t Bamberg eine verbindende Perspektive: Vertrauen. W?hrend KI-Systeme immer leistungsf?higer werden, sind die Bedenken der ?ffentlichkeit hinsichtlich Undurchsichtigkeit, Kontrollverlust und Datenmissbrauch nach wie vor gro?. Das Bamberger Team geht direkt auf diese Bedenken ein, indem es sich auf KI konzentriert, die nicht nur genau, sondern auch erkl?rbar, robust und dateneffizient ist.
Professor Christian Ledig betont, dass erkl?rbare KI keine einzelne Technik, sondern ein Leitprinzip ist. Seine Forschungsgruppe entwickelt Systeme, die ihre Entscheidungen auf eine Weise begründen k?nnen, die für verschiedene Interessengruppen, seien es ?rzte, P?dagogen oder Endnutzer, sinnvoll ist. Diese Transparenz ist eine Voraussetzung für den verantwortungsvollen Einsatz von KI in sensiblen Bereichen wie Medizin und Bildung.
Konkrete Beispiele aus dem Labor machen diese Vision greifbar. Sebastian D?rrich, Doktorand am xAILab Bamberg, stellte Arbeiten zur medizinischen Bildanalyse in Zusammenarbeit mit dem Klinikum Nürnberg vor. Mit Hilfe von Deep-Learning-Methoden entwickelt das Team KI-Systeme, die automatisch Stadien von Magenschleimhautentzündungen erkennen und klassifizieren. Was derzeit noch eine zeitaufw?ndige manuelle Untersuchung durch medizinische Experten erfordert, k?nnte in Zukunft durch transparente KI-Tools unterstützt werden, die ?rzten helfen, schnellere und fundiertere Entscheidungen zu treffen, ohne ihr Fachwissen zu ersetzen.
Eine weitere zentrale Herausforderung in der medizinischen KI ist die Datenknappheit in Verbindung mit strengen Datenschutzbestimmungen. My Nguyen, ebenfalls Doktorandin am xAILab Bamberg, geht dieses Dilemma mit innovativen Ans?tzen zum datenschutzkonformen Lernen an. Anstatt sensible Patientendaten zwischen Krankenh?usern auszutauschen, k?nnen KI-Modelle aus verteilten Datenquellen lernen und synthetische Trainingsdaten generieren, die seltene Krankheitsmuster erfassen, ohne jemals echte Patientenakten offenzulegen. Dieser Ansatz verspricht robustere KI-Systeme bei vollst?ndiger Einhaltung der Datenschutzanforderungen.
Der 4you-Bericht macht eines unmissverst?ndlich deutlich: Die KI-Forschung in Oberfranken ist lebendig, vielf?ltig und zukunftsweisend. In diesem Umfeld spielt der Lehrstuhl für Explainable Machine Learning der Universit?t Bamberg eine zentrale Rolle, indem er sich mit einer der dr?ngendsten Fragen unserer Zeit befasst: nicht nur, wie leistungsf?hig KI werden kann, sondern auch, wie verst?ndlich und vertrauenswürdig sie sein muss, um den Menschen wirklich zu dienen.