BMFTR-Projekt DeMasKI
Projektbeschreibung
Digitale Desinformation ersetzt in wachsendem Ma? rationale Auseinandersetzung durch alarmistische, emotionalisierende Redeweisen und tr?gt so zur Polarisierung und Destabilisierung demokratischer Diskurse bei. Der Verbund setzt genau hier an: Statt blo?er Schlagwortdetektion untersucht er, welche sprachlichen Strukturen argumentatives Begründen systematisch verdr?ngen und wodurch schwache Behauptungen als scheinbar evident erscheinen. Dazu werden zwei Textcorpora aufgebaut und iterativ in Feedback-Schleifen analysiert: ein historisches Korpus aus antiken rhetorik- und argumentationstheoretischen Texten (u. a. Platon, Sophisten, Isokrates), die manipulative Rede explizit diskutieren, sowie ein aktuelles Korpus populistischer Kommunikationsformate (Social Media, Podcasts, Wahlkampfreden, 球探足球比分konferenzen) in Deutsch und Englisch mit perspektivischer Erweiterung um weitere europ?ische Sprachen. Aus dem Vergleich werden robuste Strukturmerkmale anti-diskursiver Emotionalisierung abgeleitet, argumentationstheoretische Gegenstrategien identifiziert und die Rolle weltanschaulicher Anschlussf?higkeit für den Erfolg manipulativer Praktiken untersucht. Methodisch innovativ ist ein hybrider, erkl?rbarer KI-Ansatz, der leistungsf?hige Transformer-Verfahren mit induktiver logischer Programmierung verbindet, sodass identifizierte Muster nicht nur erkannt, sondern auch begründet werden (?why-explanations“). Die Merkmalslisten werden kontinuierlich mit der KI-Entwicklung rückgekoppelt, in Pilotstudien validiert und in eine nutzbare Toolchain samt Web-Anwendung überführt. Perspektivisch entstehen übertragbare, mehrsprachig erweiterbare Verfahren zur Früherkennung neuer Desinformationsmuster, Open-Educational-Resources und didaktische Formate für Demokratiedidaktik und Lehrkr?ftefortbildung; zugleich adressiert der Verbund die Informatik-Community mit einer Toolbox und Wissens-Transferformaten, um erkl?rbare KI als Baustein widerstandsf?higer, aufgekl?rter ?ffentlichkeit zu etablieren.
Forschungsfokus der Universit?t Bamberg
Es wird ein hybrider, neuro-symbolischer KI-Ansatz für die Textklassifikation entwickelt, mit dem Ziel
der automatischen Identifizierung der anti-diskursiven, emotionalisierenden Struktur von
Desinformation und deren Analyse. Hierfür werden statistische und transformer-basierte Methoden
der natürlichen Sprachverarbeitung (NLP) zur Identifikation von relevanten Worten oder Phrasen mit
Induktiver Logischer Programmierung (ILP) kombiniert, um nachvollziehbare und erkl?rbare logische
Regeln für die Erkennung von Desinformation zu generieren. Diese logischen Regeln erkennen und
heben die populistischen, anti-diskursiven und emotionalisierenden Strukturen hervor. Der KI-Ansatz
wird in Zusammenarbeit mit dem Partner GI als Open Source Toolbox, sowie als Webbasierte
Anwendung bereitgestellt.