Frontlinjen krackelerar: Varför AI behöver något att stå på
Fem ledande AI-modeller, tillfrågade om samma faktagranskning, var oense om 67 % av påståendena från verkligheten. En reflektion kring resultaten från Lenz Research – och varför förankring av modellers resonemang i verifierbara källor förändrar problemets natur.
Vad innebär det för ett system att ”veta” något, om fem versioner av det systemet, utifrån samma fråga, kommer fram till fem olika svar?
En ny studie från Lenz Research (2026) lät fem ledande modeller faktagranska tusen verkliga användarpåståenden och fann att de inte var överens i 67 % av fallen. Vid en tredjedel av alla påståenden hamnade två modeller minst två bedömningskategorier ifrån varandra, från system som vi i bred bemärkelse betraktar som den absoluta spjutspetsen. Medan entydiga Sant- och Falskt-utfall var mycket mer konsekventa, krackelerade mer nyanserade påståenden nästan helt i mitten; och låt oss vara ärliga, det är där de flesta betydelsefulla ämnen faktiskt befinner sig.
Varför händer detta?
Stora språkmodeller hämtar inte fakta så mycket som de rekonstruerar rimliga redogörelser för dem, viktade efter mönster i informationen de har absorberat eller hämtat. Och den informationsmiljön är inte ett neutralt urval av mänsklig kunskap. Det är en korpus i webbskala där innehåll med högt engagemang är strukturellt överrepresenterat, med information som sprids viralt på sociala medier och formar det probabilistiska landskap utifrån vilket AI-system sedan resonerar. Ett rykte som delas tio tusen gånger bär mer träningssignaler än en rättelse som delas tvåhundra gånger. Så när du ställer en fråga till fem ledande modeller om ett tvetydigt, omtvistat påstående – av det slag som debatterats ljudligt över hela internet – får du fem något olika rekonstruktioner av det omgivande bruset, var och en internt koherent, ingen uppenbart felaktig, och inget tydligt sätt att döma mellan dem. Större modellkapacitet löser inte detta, eftersom en mer självsäker rekonstruktion fortfarande är en rekonstruktion.
Ett exempel på hur problematiskt detta är rapporterades i en granskning från NewsGuard 2024, som testade tio ledande AI-chattbotar mot ryska desinformationsnarrativ som hade tvättats genom ett nätverk av falska lokala nyhetssajter. Chattbotarna upprepade de falska narrativen ungefär en tredjedel av gångerna och behandlade ofta de fabricerade lokala kanalerna, eller tillhörande YouTube-påståenden, som trovärdiga källor. I den meningen är problemet här inte bara att AI kan generera osanningar, utan att den kan ärva och omorganisera osanningar som redan har fåtts att framstå som tillförlitlig kunskap.
Det är i detta sammanhang som jag finner det genuint intressant att bygga infrastruktur för verifierbar kommunikation; idén är att organisationer kryptografiskt kan bevisa vad de har publicerat, och att AI-system kan verifiera påståenden direkt mot den ursprungliga källan, snarare än mot en modells rekonstruktion av vad andra har sagt.
I exemplet ovan behövde desinformationen inte övertyga hela allmänheten direkt; den behövde bara bli tillgänglig som något maskinen kunde hämta, sammanfatta och citera. Och även om modellerna blir bättre på att använda föredragna källor, verkar en modell som är förankrad i ett tidsstämplat, autentiserat register över vad en institution faktiskt har publicerat i ett annat epistemiskt register än en som resonerar utifrån träningsdata mättad med det efterspel på sociala medier som följde på det ursprungliga påståendet.
Vad bör man ta med sig från detta?
Narrativet att större modeller konvergerar mot bättre svar gör ett betydande arbete i styrelserum och policykretsar just nu, och resultaten från Lenz antyder att denna konvergens är avsevärt grundare än vad narrativet antyder. I takt med att AI tar en större roll i hur information förmedlas blir glappet mellan vad en modell tror är sant och vad som är verifierbart sant svårare att ignorera. Att förankra modellers resonemang i verifierbara källor löser inte det glappet genom att göra AI smartare, utan genom att förändra problemets natur; från slutledning över engagemangsviktat brus till verifiering mot en känd källa.
Och den skillnaden spelar större roll än det vid första anblick kan verka.
För organisationer är det inte bara en abstrakt epistemologisk fråga, utan förändrar i grunden förutsättningarna under vilka kommunikation måste fungera. Ett offentligt uttalande, pressmeddelande, produktpåstående eller en krisuppdatering ligger inte längre bara på organisationens webbplats och väntar på att läsas i sitt sammanhang. Det kan skrapas, sammanfattas, översättas, citeras, ifrågasättas och sättas ihop till svar av system som användare i allt högre grad behandlar som gränssnitt till sin verklighet. Och i den miljön är frågan inte bara om organisationen har kommunicerat korrekt, utan om dess kommunikation fortfarande kan kännas igen, verifieras och särskiljas från bruset som samlas runt den.
Sources
- Lenz Research (2026). 67% of real fact-checks, top AI models don’t agree on the answer. Accessed 29/05/2026.
- Sadeghi, M. & Blanchez, I. (2024). Top 10 generative AI models mimic Russian false claims a third of the time, citing Moscow-created fake local news sites as authoritative sources. NewsGuard. Accessed 29/05/2026.