AI-genererat text, bild och video sprids nu i en takt som gör det svårare än någonsin att veta vad som är skapat av en människa och vad som är maskinproducerat. EU:s AI-förordning har börjat gälla och ställer tydliga krav på märkning – men vad innebär det i praktiken, och hur kan du själv lära dig att identifiera innehållet?
Vad säger regelverket?
EU:s AI-förordning (AI Act) trädde i kraft i augusti 2024 och tillämpas successivt. En av de mest konkreta reglerna rör transparens: system som genererar text, bild, ljud eller video avsett för allmänheten måste märka innehållet som AI-genererat på ett maskinläsbart sätt. Det gäller till exempel deepfakes och chatbotar som är utformade att likna riktiga människor.
För deepfakes gäller dessutom ett explicit krav på synlig märkning – det räcker alltså inte att gömma informationen i metadata. Plattformar och leverantörer av AI-verktyg bär ansvaret för att märkningen faktiskt sker. Brott mot reglerna kan leda till böter på upp till 15 miljoner euro eller tre procent av global omsättning.
Journalistiska verktyg och rent konstnärliga verk har vissa undantag, men gränsdragningen är inte alltid glasklar, och det pågår fortfarande diskussioner om hur reglerna ska tolkas i specifika branscher.
Tecken att hålla utkik efter i text
AI-genererad text har ofta ett antal karaktäristiska drag, även om modellerna blivit betydligt bättre på att dölja dem.
- Jämn och opersonlig ton. Texten kan låta korrekt men saknar röst, åsikt och personliga observationer. Den håller sig på en trygg, neutral nivå även när ämnet egentligen kräver ett tydligt ställningstagande.
- Vaga källhänvisningar. Formuleringar som ”forskning visar” eller ”experter menar” utan att specifika studier eller namn nämns är vanliga.
- Repetitiva strukturer. Samma poäng upprepas med lite olika ord, ofta i slutet av varje stycke som en slags sammanfattningsreflex.
- Datumosäkerhet. AI-modeller har en kunskapsavstängning och kan ge felaktig eller inaktuell information utan att flagga för det.
Hur du granskar bilder och video
AI-genererade bilder har blivit svårare att avslöja, men det finns fortfarande avslöjande detaljer. Händer är ett klassiskt ställe att börja – för många eller för få fingrar, konstigt sammanflätade eller orealistiska proportioner. Text i bilden är ofta förvanskat. Bakgrunder kan innehålla mönster som upprepar sig på ett ologiskt sätt.
För video gäller att titta på ögonblinkningar, munrörelser i förhållande till ljud och hur ljuset faller vid kanterna av ansiktet. Deepfakes misslyckas ofta med att synkronisera dessa detaljer korrekt.
Det finns också verktyg som hjälper till. Content Credentials, ett initiativ från Coalition for Content Provenance and Authenticity (C2PA), bäddar in metadata i bilder och video som visar om och hur AI använts i skapandeprocessen. Adobe Firefly och flera andra verktyg stödjer redan standarden.
Detekteringsverktyg – nyttiga men inte ofelbara
Det finns ett antal verktyg som påstår sig kunna avgöra om text är AI-genererad, exempelvis GPTZero och Originality.ai. De kan vara till hjälp, men de är inte tillförlitliga nog att användas som enda bevis. Forskning från Stanford och andra lärosäten visar att dessa verktyg har relativt hög felprocent, särskilt när mänskliga skribenter redigerar AI-output eller när AI-text är välintegrerad i mänskligt skrivet material.
Att förlita sig blint på ett detekteringsverktyg kan alltså vara lika missvisande som att inte använda något alls.
Vad du konkret kan göra
Som läsare och konsument av information är det klokt att ställa sig några grundläggande frågor: Finns det en namngiven författare med verifierbar bakgrund? Hänvisas det till konkreta källor? Är märkning om AI-användning synlig – och om inte, varför?
Transparenskraven i EU:s AI-förordning syftar till att göra detta enklare på sikt. Men tills märkningspraxis är etablerad och efterlevnaden kontrolleras effektivt, är kritisk läsning det bästa verktyget du har.
About the Author
