Desinformation und ihre Muster
Identifikation populistischer Emotionalisierung mit einem hybriden KI-Ansatz
Desinformationen sind weit mehr als nur falsche Behauptungen. Als rhetorische Strategien arbeiten sie häufig mit gezielter emotionalen Zuspitzung und erschweren damit die sachliche Auseinandersetzung. So treten beispielsweise stark emotionalisierende Begriffe wie „Desaster“, „Staatsversagen“ oder „Zusammenbruch“ an die Stelle von Argumenten und differenzierten Analysen. Findet man solche sprachlichen Muster, kann man Hinweise auf Desinformationen erkennen.
Worum geht es bei DeMasKI?
Im Mittelpunkt stehen emotionale und rhetorische Muster, die sich von der Antike bis in heutige Social-Media-Beiträge und politische Reden nachweisen lassen. Die zentrale These lautet: Desinformation vermeidet differenzierte Argumentation und ersetzt den offenen Diskurs durch zugespitzte Behauptungen, emotionale Zuschreibungen und wiederkehrende Krisennarrative.
Auf dieser Grundlage entwickelt das Projekt innovative KI-gestützte Verfahren, die solche Muster automatisch erkennen können. Dabei werden nachvollziehbare Regeln mit lernenden Modellen kombiniert, mit dem Ziel solche Muster auch in neuen Kontexten zu identifizieren.
Ein besonderer Fokus liegt darauf, Organisationen der Zivilgesellschaft im Themenfeld Desinformation zu unterstützen und die entwickelten Methoden und Werkzeuge in die zivilgesellschaftliche Praxis zu überführen. Zu diesem Zweck werden die Projektergebnisse offen zugänglich gemacht und gemeinsam mit der Informatik-Fachcommunity, Praxispartnern sowie zivilgesellschaftlichen Organisationen kontinuierlich weiterentwickelt. Perspektivisch wird eine Open-Source-Toolbox bereitgestellt, deren Gemeinwohlorientierung und Grundrechtskonformität von Beginn an in einem interdisziplinären Reflexionsprozess begleitet und sichergestellt werden.
Rhetorische Analyse
Historischer und aktueller Texte
KI-Analyse und Validierung
Induktive Logik Programmierung (ILP) mit neuronalen Modellen
Bereitstellung der Ergebnisse in einem Open-Source Tool
mit begleitendem Ethik-Assessment
Desinformation – erkennen, verstehen, abwehren
DeMasKI ist Teil der BMFTR-Fördermaßnahme
„Desinformation – erkennen, verstehen, abwehren", im Rahmen derer interdisziplinäre Forschungsprojekte mit insgesamt mehr als 20 Millionen Euro gefördert werden.
Kommen Sie zu unserem Workshop auf der INFORMATIK Jahrestagung am 22. September in Dresden
DeMasKI und weitere Projekte aus der Fördermaßnahme stellen
ihre Forschung am 22. September 2026 im Rahmen des INFORMATIK-FESTIVAL 2026 in Dresden auf dem Workshop
„From Prompt to Propaganda: From Prompt to Propaganda: Generative AI and the New Disinformation Lifecycle“ vor.
Der Workshop findet auf Englisch und im Hybridformat statt.
Mehr dazu unter Veranstaltungen.
Projektpartner
