Softwaretechnik zum Unterbinden von Fehlverhalten in KI-Software, insb. in Zusammenhang mit künstlichen neuronalen Netzen, um den verantwortungsvollen Einsatz in cyber-physikalischen Systemen zu erm?glichen.

DISL ist ein Forschungs- und Transferprojekt der Universit?t Bamberg, gef?rdert durch das Bundesministerium für Bildung und Forschung (BMBF). Beteiligt sind die Professur für Angewandte Informatik, insbes. Kognitive Systeme, Professur für Angewandte Informatik, insbes. Smart Environments, Professur für Grundlagen der Informatik sowie der Lehrstuhl für Praktische Informatik, insbesondere Softwaretechnik und Programmiersprachen.

Im Rahmen dieses Projekts werden Methoden entwickelt, um den Einsatz von Lernverfahren in cyber-physikalischen Systemen zielführend und zuverl?ssig durchführen zu k?nnen und Qualifizierungsma?nahmen zur Entwicklung verl?sslicher KI-Software konzipiert und durchgeführt.

Maschinelle Lernverfahren, insbesondere künstliche neuronale Netze (KNNs), sind von zunehmender Bedeutung in immer mehr Anwendungsgebieten. Oftmals werden die verwendeten Modelle noch zur Laufzeit mit neuen Daten verbessert und passen sich somit über die Zeit fortlaufend an. Dabei gibt es jedoch eine Vielzahl an Herausforderungen, die adressiert werden müssen um verl?ssliche Softwaresysteme mit diesen Lernverfahren zu realisieren. (1) Kontra-intuitive Generalisierung kann zu unerwartetem Verhalten und leichter Manipulierbarkeit führen; (2) nicht-repr?sentative Trainingsdaten resultieren in einer systematischen Fehlklassifikation, eine ?berprüfung der Trainingsdaten ist jedoch in vielen F?llen nicht m?glich; (3) Lernverfahren sind für das klassische Methodenportfolio der Verifikation meist nicht zug?nglich und nur eine Laufzeitverifikation ist m?glich; (4) Neue Komponenten müssen in die bisherige Infrastruktur integriert werden.

Basierend auf diesen Herausforderungen stellen sich die Forschungsziele des Projekts wie folgt dar:

1. Extraktion von automatisch analysierbarer Information aus gelernten Modellen künstlicher neuronaler Netze: Whiteboxing von Blackbox-Lernverfahren
2. Entwicklung einer modal-relationalen Domain-Specific-Language zur Spezifikation von cyber-physikalischen Systemen mit integrierten künstlichen neuronalen Netzen, die unter Umst?nden nebenl?ufig agieren.
3. Entwicklung von Algorithmen zur automatischen Laufzeitverifikation von Systementscheidungen unter Ausnutzung der für künstliche Intelligenz spezialisierten Hardware, d.h. parallelisierte Implementierung auf für numerische Operationen optimierte parallelisierte Hardware (GPU).

Die Forschungsziele werden dabei in engem Austausch mit industriellen Partnern vorangetrieben.

Im Rahmen der 43. internationalen Tagung über Künstliche Intelligenz der Gesellschaft für Informatik (e.V.) KI2020 findet ein Workshop zum Thema dependable Artificial Intelligence statt, am 1.4.2022 ein Workshop zur Diskussion der Ergebnisse und Arbeiten rund um das Thema verl?ssliche KI.

Am Labor beteiligte Forschungsgruppen und Personen:

• Prof. Dr. Diedrich Wolter, Professur für Smart Environments
• Prof. Dr. Gerald Lüttgen, Lehrstuhl Softwaretechnik und Programmiersprachen
• Prof. Michael Mendler, PhD, Professur für Grundlagen der Informatik
• Prof. Dr. Ute Schmid, Professur für kognitive Systeme
• Dr. Joaquin Aguado
• Dr. Jin Woo Ro
• M.Sc. Tobias Schwartz
• M.Sc. Sarem Seitz

Mit der auslaufenden Anschubfinanzierung k?nnen wir nun das KI-Labor in die vielen (neuen) H?nde der Kolleginnen und Kollegen aus KI und allen an der Entwicklung zuverl?ssiger Systeme beteiligten Gruppen legen. Wir veranstalten daher einen KI-Tag mit Forschenden, Studierenden und Partnern aus der Industrie(694.9 KB). 

• Freitag, 1. April 2022
• virtueller Erba-Campus http://join.adventure.uni-bamberg.de/dependable-ai (keine separate Anmeldung erforderlich; im virtuellen Erba-Campus gibt es die M?glichkeit, sich frei zu bewegen und 2-, 4- oder n-Augengespr?che zu führen)
• Programm:
  • 14.00–14.45 Uhr: Keynote von Prof. Dr. Christoph Benzmüller (AI Systems Engineering, Bamberg): Ethico-Legal Governance of AI Systems (im virtuellen H?rsaal WE5/00.022)
  • 14.45–15.00 Uhr: Kaffeepause
  • 15.00–16.00 Uhr: Postersession und Themenb?rse (im virtuellen Innenhof)
  • Postersession: Wir pr?sentieren und diskutieren Arbeiten aus dem DISL-Labor
  • Themenb?rse: Kooperationspartner aus der (lokalen) Wirtschaft und Arbeitsgruppen stellen Themen für m?gliche Qualifikationsarbeiten vor.

Wir freuen uns über Ihr Kommen!

Haben Sie Interesse, eigene Themen im Zusammenhang mit zuverl?ssiger KI zu bewerben? Bitte nehmen Sie 球探足球比分 mit uns auf!