Desinformation und ihre Muster
Desinformation ist weit mehr als die Verbreitung von Falschinformationen. Sie wird gezielt als manipulative und anti-diskursive Strategie eingesetzt, um öffentliche Debatten zu beeinflussen. An die Stelle von argumentativem Austausch und differenzierten Analysen treten häufig emotionale Zuspitzungen und wiederkehrende Krisennarrative. Wer diese sprachlichen Muster erkennt, kann Desinformation besser einordnen und ihre Wirkungsweise verstehen.
Genau hier setzt das interdisziplinäre Forschungsprojekt DeMasKI an, das Expertise aus der Rhetorikforschung und Philosophie sowie der KI-Forschung zusammenführt. Unter der Leitung von Prof. Dr. Gyburg Uhlmann (Technische Universität Nürnberg) entwickelt ihr Team gemeinsam mit dem Team von Prof. Dr. Ute Schmid (UBA-KI) eine erklärbare KI, die manipulative rhetorische Muster systematisch erkennt und ihre Einschätzungen nachvollziehbar macht.
Die wissenschaftliche Grundlage bildet die Analyse antiker rhetoriktheoretischer und philosophischer Schriften ebenso wie aktueller Texte, darunter Social-Media-Beiträge sowie politische Reden. Die Erkenntnisse fließen direkt in die Entwicklung der KI ein und schaffen die Grundlage für eine Identifikation manipulativer Sprachmuster.
Hybrider KI-Ansatz
Die identifizierten sprachlichen Muster werden in einen hybriden neuro-symbolischen KI-Ansatz überführt, der transformerbasierte Sprachmodelle mit Induktiver Logischer Programmierung (ILP) verbindet. Auf diese Weise kann die KI manipulative und emotionalisierende Sprachmuster auch in bislang unbekannten Texten erkennen und die Gründe für ihre Klassifikationen nachvollziehbar offenlegen.
Das iRights.Lab begleitet das Projekt durch ein umfassendes Ethik-Assessment, das Chancen und Risiken der Open-Source-Toolbox systematisch analysiert und so ihre gemeinwohlorientierte und grundrechtskonforme Entwicklung unterstützt. Darüber hinaus entwickelt das iRights.Lab Materialien und Workshops für Multiplikator*innen aus der Zivilgesellschaft, um Organisationen im Themenfeld Desinformation zu stärken und die Projektergebnisse in die zivilgesellschaftliche Praxis zu übertragen.
Enger Austausch mit der Fachcommunity
Von Beginn an setzt das Projekt auf einen engen Austausch mit der Community. Im Rahmen von Hackathons, organisiert von der Gesellschaft für Informatik, auf der INFORMATIK 2026 und INFORMATIK 2027 haben Personen aus der Informatik-Community die Möglichkeit, die KI-Anwendung zu erproben und ihre Expertise in die Optimierung des Systems einzubringen.
Ein zentrales Ziel von DeMasKI ist es, die entwickelten Tools und Methoden offen zugänglich zu machen. Auch in die Entwicklung der begleitenden Open-Source-Toolbox wird die Informatik-Community eng eingebunden.
Ergänzend entwickelt eduversum begleitende Bildungsmaterialien für die schulische und außerschulische Bildungsarbeit. Sie unterstützen Lehrkräfte und weitere Bildungsakteur*innen dabei, Kompetenzen im Umgang mit Desinformation zu vermitteln und ein kritisches Bewusstsein für manipulative sprachliche und emotionale Strategien zu fördern.