Back to blog
AIVerifiable CommunicationsResearch

Die KI-Spitze bricht auseinander: Warum KI eine Grundlage braucht

Fünf führende KI-Modelle, die denselben Faktencheck durchführen sollten, waren sich bei 67 % der Behauptungen aus der realen Welt uneinig. Eine Reflexion über die Ergebnisse von Lenz Research — und darüber, warum die Verankerung von Modellschlussfolgerungen in überprüfbaren Quellen die Art des Problems verändert.

Matthew Davis9. Juni 20265 Min. Lesezeit
Artikel teilen
Was bedeutet es für ein System, etwas zu „wissen“, wenn fünf Versionen dieses Systems, die von derselben Frage ausgehen, zu fünf unterschiedlichen Antworten gelangen?

Eine neue Studie von Lenz Research (2026) ließ fünf führende Modelle tausend Behauptungen von Nutzern aus der realen Welt einem Faktencheck unterziehen und stellte fest, dass sie bei 67 % nicht übereinstimmten. Bei einem Drittel aller Behauptungen lagen zwei Modelle mindestens zwei Bewertungskategorien auseinander — und das bei Systemen, die wir gemeinhin als technologisch führend betrachten. Während eindeutige Bewertungen als wahr oder falsch deutlich konsistenter ausfielen, gingen die Einschätzungen bei nuancierteren Behauptungen fast ausschließlich im mittleren Bereich auseinander; und seien wir ehrlich: Genau dort liegen die meisten Themen, bei denen es wirklich um etwas geht.

Warum passiert das?

Große Sprachmodelle rufen weniger Fakten ab, als dass sie plausible Darstellungen davon rekonstruieren, gewichtet anhand von Mustern in den Informationen, die sie aufgenommen oder abgerufen haben. Und dieses Informationsumfeld ist keine neutrale Stichprobe menschlichen Wissens. Es ist ein Korpus in der Größenordnung des Internets, in dem Inhalte mit hoher Interaktion strukturell überrepräsentiert sind und viral in sozialen Medien verbreitete Informationen die Wahrscheinlichkeitslandschaft prägen, aus der KI-Systeme anschließend ihre Schlussfolgerungen ziehen. Ein Gerücht, das zehntausendmal geteilt wird, liefert mehr Trainingssignale als eine Richtigstellung, die zweihundertmal geteilt wird. Wenn man also fünf führenden Modellen eine Frage mit einer mehrdeutigen, umstrittenen Behauptung stellt — einer jener Behauptungen, über die im gesamten Internet lautstark debattiert wurde —, erhält man fünf leicht unterschiedliche Rekonstruktionen des umgebenden Rauschens, jede in sich schlüssig, keine offensichtlich falsch, und ohne klare Möglichkeit, zwischen ihnen zu entscheiden. Eine höhere Leistungsfähigkeit der Modelle löst dieses Problem nicht, denn eine selbstsicherere Rekonstruktion bleibt eine Rekonstruktion.

Ein Beispiel dafür, wie problematisch dies ist, lieferte eine Untersuchung von NewsGuard aus dem Jahr 2024, in der zehn führende KI-Chatbots anhand russischer Desinformationsnarrative getestet wurden, die durch ein Netzwerk gefälschter lokaler Nachrichtenseiten geschleust worden waren, um ihnen einen seriösen Anschein zu verleihen. Die Chatbots wiederholten die falschen Narrative in etwa einem Drittel der Fälle und behandelten dabei die erfundenen lokalen Medien oder damit verbundene Behauptungen auf YouTube oft als glaubwürdige Quellen. In diesem Sinne besteht das Problem hier nicht nur darin, dass KI Unwahrheiten erzeugen kann, sondern auch darin, dass sie Unwahrheiten übernehmen und neu ordnen kann, die bereits den Anschein verlässlichen Wissens erhalten haben.

Vor diesem Hintergrund finde ich den Aufbau einer Infrastruktur für überprüfbare Kommunikation wirklich interessant; die Idee dahinter ist, dass Organisationen kryptografisch nachweisen können, was sie veröffentlicht haben, und dass KI-Systeme Behauptungen direkt anhand dieser Originalquelle überprüfen können, statt anhand der Rekonstruktion dessen, was andere gesagt haben, durch ein Modell.

Im obigen Beispiel musste die Desinformation nicht die gesamte Öffentlichkeit direkt überzeugen, sie musste lediglich als etwas verfügbar werden, das die Maschine abrufen, zusammenfassen und zitieren konnte. Und während die Modelle immer besser darin werden, bevorzugte Quellen zu nutzen, bewegt sich ein Modell, das auf einer mit Zeitstempel versehenen, authentifizierten Aufzeichnung dessen basiert, was eine Institution tatsächlich veröffentlicht hat, auf einer anderen epistemischen Ebene als eines, das seine Schlussfolgerungen aus Trainingsdaten zieht, die von den Nachwirkungen der ursprünglichen Behauptung in den sozialen Medien durchdrungen sind.

Was sollte man daraus mitnehmen?

Das Narrativ, dass größere Modelle zu besseren Antworten konvergieren, entfaltet derzeit erhebliche Wirkung in Vorstandsetagen und politischen Kreisen, und die Ergebnisse von Lenz legen nahe, dass diese Konvergenz erheblich oberflächlicher ist, als es dieses Narrativ vermuten lässt. Da KI eine größere Rolle bei der Vermittlung von Informationen übernimmt, lässt sich die Kluft zwischen dem, was ein Modell für wahr hält, und dem, was überprüfbar wahr ist, immer schwerer ignorieren. Die Verankerung von Modellschlussfolgerungen in überprüfbaren Quellen schließt diese Kluft nicht dadurch, dass sie KI intelligenter macht, sondern dadurch, dass sie die Art des Problems verändert: weg von Schlussfolgerungen aus interaktionsgewichtetem Rauschen, hin zur Überprüfung anhand einer bekannten Quelle.

Und dieser Unterschied ist wichtiger, als es zunächst scheinen mag.

Für Organisationen ist dies nicht nur eine abstrakte erkenntnistheoretische Frage, sondern verändert grundlegend die Bedingungen, unter denen Kommunikation funktionieren muss. Eine öffentliche Stellungnahme, Pressemitteilung, Produktaussage oder Krisenmeldung steht nicht mehr nur auf der Website der Organisation und wartet darauf, im Kontext gelesen zu werden. Sie kann von Systemen, die Nutzer zunehmend als Schnittstellen zu ihrer Realität betrachten, automatisiert ausgelesen, zusammengefasst, übersetzt, zitiert, infrage gestellt und zu Antworten neu zusammengesetzt werden. Und in diesem Umfeld stellt sich nicht nur die Frage, ob die Organisation korrekt kommuniziert hat, sondern auch, ob ihre Kommunikation weiterhin erkannt, überprüft und von dem Rauschen unterschieden werden kann, das sich um sie herum ansammelt.

Sources

Artikel teilen