I våra tidigare inlägg har vi tittat på hur man genomskådar dolda påverkansförsök och hur du avslöjar AI-genererade bilder och deepfakes. Men det digitala informationslandskapet förändras snabbt i ytterligare en dimension: flödet av automatiskt genererad text.
Idag översvämmas internet av så kallat "AI-slask" (AI slop) – automatiskt genererade artiklar, blogginlägg, produktrecensioner och kommentarer i sociala medier som skapats enbart för att driva trafik, påverka opinioner eller sälja produkter. Stora språkmodeller (LLM) kan på några sekunder producera tusentals ord av till synes välformulerad och grammatiskt korrekt text.
Men hur vet vi om texten vi läser faktiskt är skriven av en människa med verklig erfarenhet, eller om det bara är sannolikhetsberäknade ordföljder från en serverhall? Och framför allt: hur faktagranskar vi information när AI har en benägenhet att hitta på saker med fullt självförtroende?
Hur stora språkmodeller fungerar (och varför de "hallucinerar")
För att förstå spåren som AI-text lämnar efter sig måste vi först förstå vad en språkmodell faktiskt gör. En LLM tänker inte, tycker ingenting och har ingen egen uppfattning om vad som är sant eller falskt. Istället är den en avancerad statistisk motor tränad på enorma mängder text.
När du ber en AI att skriva en text, beräknar den helt enkelt vilket ord som mest sannolikt bör följa det föregående ordet, baserat på sina träningsdata. Detta leder till två specifika fenomen:
- Hallucinationer: Om modellen saknar fakta om ett ämne stoppar den inte och säger "jag vet inte". Istället genererar den ord som låter som ett rimligt svar. Det är så vi får hittepå-källor, obefintliga forskningsrapporter och felaktiga historiska årtal skrivna med absolut auktoritet.
- Generisk stil: Eftersom modellen väljer de mest sannolika orden tenderar texten att söka sig mot ett "statistiskt genomsnitt". Resultatet blir ofta text som är artig, korrekt och välbalanserad, men helt saknar personlig röst, spets och unika erfarenheter.
Insikt: En AI ljuger inte medvetet – den gissar bara vad som låter rätt. Därför är det farligaste AI-innehållet inte det som är uppenbart galet, utan det som är 90 % korrekt och har 10 % avgörande felaktigheter insmugglade i texten.
Stilistiska mönster: Kännetecken för AI-genererad text
Även om språkmodellerna blir allt bättre finns det stilistiska markörer och "digitala dialekter" som avslöjar att en text är genererad av en dator. När du läser en artikels eller kommentar, håll utkik efter följande:
- Överanvändning av specifika ord och klichéer: AI-modeller har favoritord som återkommer frekvent. Ord som mångfacetterad, hörnpelare, navigera, landskap, djupdykning, utforska och i en värld där... förekommer oproportionerligt ofta i AI-texter jämfört med mänsklig skrift.
- Symmetrisk och monoton uppbyggnad: AI älskar struktur. Inlägg byggs nästan alltid upp med en introduktion, tre till fem punktlistor med fetstilta rubriker, och en summerande slutsats som börjar med "Sammanfattningsvis" eller "Slutligen". Variationen i meningarnas längd (så kallad burstiness) är ofta mycket låg.
- Intetsägande fyllnadsfraser: Texten innehåller ofta många ord men lite egentligt innehåll. AI-genererad text brukar "gardera sig" genom att skriva saker som: "Det är viktigt att komma ihåg att det finns många olika perspektiv på denna fråga, och varje situation är unik."
- Frånvaro av genuint personliga anekdoter: En AI kan hitta på en historia, men detaljerna brukar bli generiska. Den saknar de där udda, specifika och mänskliga detaljerna som kännetecknar någon som faktiskt har varit på en plats eller utfört ett visst arbete.
Mytomspunna "AI-detektorer": Varför du inte ska lita på dem
Det är lätt att tro att lösningen på detta problem är programvara som upptäcker AI-text. Det finns gott om verktyg på nätet som utlovar sig kunna avslöja om en text är skriven av ChatGPT eller en människa. Tyvärr är dessa verktyg i stort sett oanvändbara för tillförlitlig faktagranskning.
AI-detektorer fungerar genom att mäta två saker: perplexitet (hur förutsägbar ordföljden är) och burstiness (hur mycket meningslängden varierar).
Detta skapar två stora problem:
- Falska positiver: Människor som skriver väldigt formellt, strukturera eller har ett begränsat ordförråd (t.ex. personer som skriver på sitt andraspråk) flaggas ofta felaktigt som AI.
- Lätta att kringgå: Det räcker med att be språkmodellen att "skriva med mer variation" eller ändra ett par ord manuellt för att detektorn ska visa grön gubbe.
Slutsatsen är tydlig: du kan inte förlita dig på ett automatiskt verktyg för att avslöja AI-text. Du måste använda din egen källkritiska förmåga.
Metodik: Så faktagranskar du påståenden i text
När du ställs inför en text som du misstänker är AI-genererad – eller som innehåller påståenden som verkar tveksamma – bör du använda metoden lateralt läsande (lateral reading).
Istället för att stanna kvar i texten och läsa den från början till slut för att bedöma om den verkar trovärdig, gör du så här:
- Lämna sidan direkt: Öppna nya flikar i din webbläsare.
- Sök efter källan, inte påståendet: Om artikeln citerar en studie, en expert eller en myndighet – sök direkt efter personen eller studien i en oberoende sökmotor. Finns personen? Har studien faktiskt publicerats i en granskad tidskrift?
- Verifiera sifferuppgifter och citat: AI hittar ofta på exakta procentsatser och citat. Kopiera citatet och sök efter det inom citationstecken (
"..."). Om citatet bara finns på den aktuella bloggen eller webbplatsen är risken stor att det är tillverkat av AI. - Granska skribenten/utgivaren: Finns det en namngiven författare med en verifierbar digital närvaro? Många AI-drivna "innehållsfabriker" använder genererade skribentprofiler med AI-genererade ansiktsbilder.
Slutsats: Kvalitet framför kvantitet
Generativ AI gör det billigt och enkelt att fylla internet med ord. Det betyder att värdet på bara text sjunker mot noll. Det som blir värdefullt i framtiden är ursprung, spårbarhet och personlig ansvarsutkrävning.
Som läsare behöver vi ställa oss frågorna: Vem står bakom de här orden? Finns det en människa som tar ansvar för att detta är sant? Genom att syna strukturen, faktagranska påståendena vid sidan av texten och ställa högre krav på transparenta källhänvisningar kan vi skydda oss mot det växande brus som AI-genererad text för med sig.