Was bedeutet es, „die Quelle zu prüfen“, wenn die Quelle kopiert werden kann?
Der Rat, „die Quelle zu prüfen“, steht im Zentrum der Medienkompetenz — doch was passiert, wenn sich die Merkmale einer vertrauenswürdigen Quelle überzeugend nachahmen lassen? Eine Reflexion über de La Brosse & Holt, das Botnetzwerk „Holiday“ und die Frage, warum verifizierbare Kommunikation zunehmend zur Vertrauensinfrastruktur wird.
Ich habe kürzlich einen wissenschaftlichen Artikel von Renaud de La Brosse und Kristoffer Holt (2024) über Desinformation und die langfristige Tragfähigkeit demokratischer Systeme gelesen. Ein Teil ihrer Argumentation erschien mir besonders relevant für den Wandel der Informationslandschaft. Ein Großteil des Artikels befasst sich mit einem bekannten demokratischen Problem: Gesellschaften brauchen Möglichkeiten, auf gezielte Manipulation zu reagieren, müssen dabei aber sehr sorgfältig darauf achten, dass die dafür eingesetzten Mechanismen nicht ihrerseits die Meinungsfreiheit, politische Meinungsverschiedenheiten oder den Medienpluralismus untergraben.
Im Allgemeinen betrachten sie unterschiedliche Ansätze in Frankreich und Schweden, die von Gesetzgebung und institutionellen Reaktionen bis hin zur breiteren Betonung von Medienkompetenz und der Fähigkeit der Bürgerinnen und Bürger reichen, Informationen selbst kritisch zu beurteilen.
Gegen Ende kommen sie jedoch auf einen scheinbar einfachen Rat zurück: Menschen müssen Informationen gegenprüfen und die Glaubwürdigkeit ihrer Quellen feststellen. Dem lässt sich schwer widersprechen, und dieser Rat steht im Zentrum der meisten aktuellen Empfehlungen zum Umgang mit irreführenden Informationen. Die Swedish Psychological Defence Agency gab beispielsweise kürzlich eine sehr ähnliche Empfehlung ab, nachdem sie ihre Untersuchung zum Botnetzwerk „Holiday“ veröffentlicht hatte. Dieses teilweise KI-gesteuerte Netzwerk aus rund 1.200 Konten erzeugte in den Jahren 2025 und 2026 mehr als 50.000 Beiträge, Kommentare und geteilte Inhalte. Zu ihren Empfehlungen an die Öffentlichkeit gehörte, bei emotional aufwühlenden Inhalten vorsichtig zu bleiben; idealerweise solle man „die Quelle prüfen“ und versuchen, Informationen vor dem Teilen zu bestätigen (Myndigheten för psykologiskt försvar, 2026). Das Problem ist, dass dieser Rat zunehmend von unserer Fähigkeit abhängt, überhaupt erst festzustellen, woher eine Information tatsächlich stammt.
Ein anschauliches Beispiel für dieses Dilemma zeigte sich im deutschen Bundestagswahlkampf 2025, als Reuters eine Desinformationskampagne dokumentierte, zu der ein gefälschtes Video gehörte, das den Anschein erweckte, vom bekannten Nachrichtensender France 24 produziert worden zu sein. In dem Video wurde berichtet, französische Sicherheitsdienste würden die Menschen wegen eines erhöhten Risikos von Terroranschlägen davor warnen, öffentliche Orte in Deutschland aufzusuchen. Natürlich war keine solche Warnung ausgesprochen worden. Doch wer auf den Clip stieß, musste beurteilen, ob die Terrorgefahr an sich plausibel war — und, noch wichtiger, ob France 24 oder die französischen Sicherheitsdienste überhaupt etwas davon tatsächlich kommuniziert hatten (Reuters, 2025).
Unser Punkt ist hier, dass sich Diskussionen über Desinformation verständlicherweise meist darauf konzentrieren, ob die Behauptung selbst wahr ist. Dadurch kann die Authentizität der Kommunikation, über die uns diese Behauptung erreicht, leicht als selbstverständlich vorausgesetzt werden. Generative KI bringt eine weitere Schwierigkeit mit sich, indem sie die Herstellung überzeugender Nachahmungen kostengünstiger macht. Zugleich kann dieselbe Information anschließend durch Dutzende anderer Systeme zitiert, zusammengefasst und reproduziert werden, bevor jemand auf sie stößt. Wenn wir Menschen dazu raten, Behauptungen, denen sie im Alltag begegnen, sorgfältig zu prüfen, müssen wir auch anerkennen, dass dem, was Medienkompetenz allein von ihnen verlangen kann, praktische Grenzen gesetzt sind. Ein informierter Bürger kann France 24 mit gutem Grund als etablierten Sender und die französischen Sicherheitsdienste als maßgebliche Quelle erkennen und dennoch in die Irre geführt werden, weil die Merkmale, auf die er zu achten gelernt hat, selbst kopiert wurden. Dasselbe Problem gilt für Screenshots von Regierungsmitteilungen, veränderte Pressemitteilungen, geklonte Websites, gefälschte Stellungnahmen, die Unternehmen zugeschrieben werden, oder einen KI-Assistenten, der selbstsicher erklärt, was eine Organisation angeblich letzte Woche bekannt gegeben hat.
Für unsere Arbeit bei Witnis hilft diese Frage dabei, zu verdeutlichen, welchen Platz ‚Verifizierbare Kommunikation‘ innerhalb der umfassenderen Reaktion auf Desinformation einnimmt. Die Feststellung, dass eine Organisation eine bestimmte Mitteilung tatsächlich veröffentlicht hat, kann uns nicht sagen, ob jede darin enthaltene Behauptung wahr ist, und sie sollte dies auch nicht versuchen. Sie kann jedoch einen Nachweis bewahren, der zunehmend verloren geht, wenn Informationen weitergegeben werden: wer etwas kommuniziert hat, was kommuniziert wurde, wann dies geschah und ob die nun präsentierte Fassung noch mit diesem ursprünglichen Eintrag übereinstimmt. Faktenprüfung, Journalismus, Medienkompetenz, Plattform-Governance und Institutionen wie die Swedish Psychological Defence Agency (MPF) befassen sich jeweils mit unterschiedlichen Teilen des Informationsproblems. Doch feststellen zu können, was eine maßgebliche Quelle tatsächlich kommuniziert hat, gibt diesen Prozessen einen verlässlicheren Ausgangspunkt.
Deshalb betrachte ich das, was wir bei Witnis aufbauen, zunehmend als eine Form von Vertrauensinfrastruktur, wobei Verifizierbare Kommunikation ein aktueller Anwendungsfall unserer Technologie ist. Ziel ist es, genügend Nachweise zu bewahren, damit Menschen, Journalistinnen und Journalisten und zunehmend auch KI-Systeme feststellen können, woher Informationen stammen und ob sie noch mit dem Original übereinstimmen — selbst nachdem sie kopiert, zitiert, zusammengefasst oder durch andere Systeme weitergegeben wurden. In diesem Sinne bleibt „die Quelle prüfen“ ein sehr guter Rat. Doch da sich die Quelle selbst immer leichter nachahmen lässt, müssen wir möglicherweise in die Infrastruktur investieren, die ihre Überprüfung überhaupt erst ermöglicht.
Sources
- de La Brosse, R. and Holt, K. (2024) ‘Sustainability of the Democratic System Versus Viral Disinformation Campaigns’, Suvremeni Mediteran, 3(1), pp. 1–14.
- Myndigheten för psykologiskt försvar (2026) ‘Botnätverket “Holiday” användes mot Sverige – kunde stängas ner efter kartläggning av Swedish Psychological Defence Agency (MPF)’, 1 September. (Accessed: 11 September 2026).
- Reuters (2025) ‘Russian-linked bots sow fear, distrust ahead of German vote’, 12 February. (Accessed: 11 September 2026).