From Prompt to Propaganda: From Prompt to Propaganda: Generative AI and the New Disinformation Lifecycle
Der Workshop untersucht, wie KI die Desinformationskette neu gestaltet – von Aufklärung und Botschaftsdesign über automatisierte Inhaltserzeugung bis hin zu Verbreitung und kontinuierlicher Anpassung. Im Fokus stehen technische Mechanismen, soziotechnische Dynamiken und adversarielle Strategien, die generative Modelle nutzen, um synthetische Texte, Bilder, Audio und Video in bislang unerreichter Qualität und Menge zu erzeugen. Die Domäne umfasst Informatik, Sicherheitsforschung, HCI, Ethik, Social Computing und Politik.
Veranstaltungsort
TU Dresden, Fakultät InformatikHörsaalzentrum,
Nöthnitzer Str. 46
Dresden, Deutschland
Beschreibung
Generative KI verändert grundlegend, wie Informationen erstellt, manipuliert und verbreitet werden. Die Hürde, um überzeugende Fehl- und Desinformation zu produzieren, war noch nie so niedrig, während das Ausmaß und die Geschwindigkeit von Einflussoperationen weiter zunehmen.
Um diese Entwicklungen zu verstehen, braucht es weit mehr als isolierte technische Lösungen. Es erfordert Zusammenarbeit zwischen Informatik, Cybersicherheit, Medienwissenschaft, Linguistik, Psychologie, Politikwissenschaft, Wirtschaft, Regierung und Zivilgesellschaft.
Der Workshop „The Disinformation Space" bringt Forschende, Praktiker:innen, politische Entscheidungsträger:innen, Journalist:innen und Technologie-Expert:innen für einen ganzen Tag zusammen, der dem Verständnis des sich entwickelnden KI-getriebenen Informationsökosystems gewidmet ist.
Statt sich ausschließlich auf einzelne Forschungspräsentationen zu konzentrieren, ist der Workshop als interaktives Forum mit drei sich ergänzenden Zielen konzipiert:
- Das Ökosystem kartieren. Identifizierung der zentralen Akteure, Initiativen, Projekte und Kompetenzen, die aktuell Forschung und Praxis in Deutschland, Frankreich und Europa prägen.
- Eine gemeinsame Roadmap entwickeln. Diskussion künftiger Forschungsprioritäten, Kooperationsmöglichkeiten und der Fähigkeiten, die zur Bekämpfung KI-gestützter Informationsmanipulation nötig sind.
- Ein gemeinsames Verständnis schaffen. Arbeit an einer operationalen Definition von Des- und Fehlinformation als gemeinsame Grundlage für Forschung, Industrie und Politik.
Die Teilnehmenden erwarten Keynote-Vorträge, wissenschaftliche Präsentationen, praktische Demonstrationen, Podiumsdiskussionen, interaktive Abstimmungsrunden und zahlreiche Networking-Möglichkeiten.
Die angenommenen Beiträge decken den gesamten Lebenszyklus moderner Einflussoperationen ab – von KI-gestützter Inhaltserstellung und agentischen Infrastrukturen über groß angelegte Verbreitung bis hin zu menschlicher Wahrnehmung, Regulierung, Governance und sprachlicher Manipulation.
Der Workshop endet mit einer interaktiven Diskussion, die die Erkenntnisse des Tages zu konkreten Richtungen für künftige Zusammenarbeit und Forschung zusammenführt.