Deepfakes: sådan genkender du dem – og sådan forbereder I jer

Et underligt blink, en stiv mund eller en metallisk stemme kan vække mistanke. Det kan også skyldes komprimering, dårlig forbindelse, undertekster eller almindelig redigering. Samtidig kan et manipuleret klip være teknisk overbevisende. Derfor er en liste over visuelle »afsløringer« et svagt forsvar: Den producerer både falske alarmer og falsk tryghed.

Den robuste metode er ikke at se hårdere på ansigtet. Det er at undersøge, hvem der først publicerede materialet, hvordan filen er kommet frem, om konteksten passer, og om påstanden kan bekræftes ad en uafhængig kanal. Metoden virker også på gamle klip i ny kontekst, selektiv redigering og falske profiler – manipulationer, som ikke behøver generativ AI.

Hvad er det egentlig, du prøver at afgøre?

»Er videoen ægte?« rummer flere spørgsmål. Er filen optaget med et kamera eller genereret? Er et ansigt eller en stemme ændret? Er klippet beskåret, dubbet eller sammensat? Er optagelsen ægte, men fra et andet tidspunkt? Er kontoen, der deler den, den person, den udgiver sig for at være? Og selv hvis filen er teknisk autentisk: Understøtter den den påstand, der følger med?

En deepfake er syntetisk eller manipuleret lyd, billede eller video, der på overbevisende vis kan få en person til at se ud eller lyde, som om vedkommende sagde eller gjorde noget. Men et ægte klip med falsk billedtekst kan være lige så vildledende. Begynd derfor med påstanden og konsekvensen, ikke med etiketten.

Den rolige verifikation i fem trin

1. Sæt handlingen på pause

Gem linket, men del ikke videre og udfør ikke den handling, materialet kræver. Svindel og informationsmanipulation bruger ofte tidspres: overfør nu, offentliggør nu, svar før nogen andre. En kort pause ændrer magtforholdet. Den giver tid til at skifte fra genkendelse – »det ligner min chef« – til verifikation.

Formulér den konkrete påstand i én sætning: »Denne person godkender denne betaling«, »denne minister annoncerer denne beslutning« eller »denne optagelse er fra denne hændelse i dag«. Det er påstanden, næste trin skal afprøve.

2. Find kilden, ikke bare kontoen, der delte

Åbn den tidligste version, du kan finde. Notér URL, kontonavn, publiceringstid og eventuelle redigeringer. Har kontoen en historik, der passer til afsenderen? Linker den officielle hjemmeside til profilen? Er klippet en gen-upload, skærmoptagelse eller beskåret kopi? Spørg den, der sendte det, hvor materialet kom fra, før du bruger tid på tekniske detaljer.

Et blåt mærke eller et kendt profilbillede kan ikke stå alene. Konti kan overtages, navne efterlignes, og afsenderoplysninger kan manipuleres. Kilden bliver stærkere, når den kan forbindes til en officiel kanal og en sammenhængende publiceringshistorik.

3. Undersøg oprindelse og ændringshistorik

Bed om originalfilen, hvis konsekvensen er stor. En videresendt video kan have mistet metadata og kvalitet. Sammenlign filnavn, varighed, opløsning og tidsstempel med andre versioner. Udtræk enkelte nøglebilleder og brug omvendt billedsøgning for at se, om optagelsen er ældre eller stammer fra en anden begivenhed. For lyd kan en original optagelse, opkaldslog og kendt kontaktvej være vigtigere end, om stemmen lyder naturlig.

Nogle filer har Content Credentials efter C2PA-standarden: kryptografisk verificerbare oplysninger om oprindelse og redigering. De kan være et værdifuldt signal, når signaturen og afsenderen kan valideres. Men de fortæller ikke alene, om motivet eller påstanden er sand. Manglende credentials beviser heller ikke, at en fil er falsk; oplysninger kan mangle, gå tabt eller aldrig være blevet tilføjet.

4. Kontrollér konteksten sideværts

Forlad opslaget og søg efter begivenheden andre steder. Find den påståede persons officielle side, organisationens pressekanal, fulde taler eller andre optagelser fra samme tidspunkt. Se efter uafhængige kilder, som har indsamlet deres eget materiale eller talt med relevante personer. Ti konti, der deler samme upload, er ikke ti bekræftelser.

Kontrollér tid, sted, vejr, sprog og rækkefølge, når det er relevant, men brug dem som sammenhængende indicier. Et ur i baggrunden er ikke et facit. Spørg, hvilken anden dokumentation der burde eksistere, hvis påstanden var rigtig: program, referat, anden kameravinkel, pressemeddelelse, transaktion eller vidner.

5. Bekræft gennem en uafhængig kanal

Når materialet kræver handling, skal verifikationen ske uden for den kanal, der leverede kravet. Ring til et nummer, I allerede har registreret. Start en ny chat fra en kendt profil. Kontakt organisationens hovednummer eller en anden ansvarlig. Brug ikke telefonnummeret, linket eller kontaktpersonen i den mistænkelige besked.

Konklusionen kan være »bekræftet«, »afkræftet« eller »uafklaret«. Uafklaret er et gyldigt resultat. Det betyder, at materialet ikke må bære en stor beslutning endnu. Det er mere ansvarligt end at udfylde hullerne med mavefornemmelse.

Et eksempel på metoden uden ansigtsgæt

Tænkt eksempel: En økonomimedarbejder modtager et kort videoopkald fra en person, der ligner virksomhedens direktør. Personen siger, at et fortroligt opkøb kræver en ny betaling samme dag. Forbindelsen er dårlig, og afsenderen beder medarbejderen om ikke at involvere kolleger.

Medarbejderen behøver ikke afgøre, om ansigtets bevægelser er syntetiske. Betalingen sættes på pause. Anmodningen dokumenteres. Medarbejderen afslutter opkaldet og ringer til direktøren på det allerede registrerede nummer. En anden godkender kontrollerer leverandør, kontoændring og aftalegrundlag i økonomisystemet. Hvis direktøren ikke kan nås, bliver betalingen stående. Proceduren virker, uanset om angrebet brugte deepfake, overtaget konto eller en dygtig imitator.

En betalingsprotokol til stemme og video

1. Ingen betaling eller kontoændring godkendes alene i et indgående opkald, en videokonference eller en talebesked.
2. Afslut kontakten og ring tilbage via et kendt nummer. Et nummer i beskeden eller opkaldsvisningen er ikke en uafhængig kanal.
3. Kontrollér selve transaktionen. Match leverandør, faktura, kontrakt, beløb og tidligere kontooplysninger.
4. Kræv to godkendere ved definerede risici. Grænsen kan handle om beløb, ny modtager, ændret konto, hast eller usædvanlig fortrolighed.
5. Brug eventuelt et aftalt kodeord som ekstra signal, ikke som eneste bevis. Kodeord kan deles, aflures eller glemmes og skal kunne ændres.
6. Registrér afvigelsen. Gentagne forsøg bliver først synlige, når de samles hos sikkerheds- eller økonomifunktionen.

Protokollen skal gælde ledelsen såvel som medarbejderne. Hvis »det haster« kan ophæve kontrollen, er kontrollen dekorativ. Ledelsen bør selv kommunikere, at en medarbejder aldrig bliver kritiseret for at standse en usædvanlig betaling og verificere den.

Detektionsværktøjer er et signal, ikke en dommer

Tekniske detektorer kan analysere mønstre, som mennesker ikke ser, og de kan være nyttige i en professionel undersøgelse. Men resultatet afhænger af det materiale og de manipulationstyper, modellen er trænet på. Forskning i generalisering viser fortsat udfordringer, når detektorer møder nye metoder eller andre datasæt end træningsmaterialet. Komprimering, beskæring, skærmoptagelse og ny generatorteknik kan ændre signalerne.

En score på »82 procent sandsynlighed for AI« kan derfor ikke stå alene. Spørg hvilket filformat værktøjet kræver, hvilke manipulationer det er valideret på, hvor ofte det laver falske positive og negative resultater i sammenlignelige data, og om analysen kan gentages. Gem version og tidspunkt. Brug ikke et offentligt detektionssite til fortroligt eller personfølsomt materiale uden at have vurderet dets databehandling.

Menneskelige visuelle tegn har samme begrænsning. Dårlige tænder, hænder, skygger eller lip-sync kan være en anledning til at undersøge, men aldrig hele beviset. Angribere kan forbedre netop de fejl, som en populær tjekliste beskriver.

Når organisationen bliver ramt: en lille hændelsesplan

De første minutter

• Stands betaling, deling eller publicering, men slet ikke beviser.
• Gem originalfil, link, konto, beskeder, tidsstempler og opkaldsoplysninger. Tag en kopi på en kontrolleret placering.
• Kontakt den berørte person og de aftalte funktioner: sikkerhed, økonomi, kommunikation, ledelse og eventuelt databeskyttelse.
• Hvis penge eller legitimationsoplysninger er i fare, kontakt straks bank og relevante kontoudbydere via kendte kanaler.

Den næste time

Fordel roller: én verificerer materialet, én beskytter konti og betalinger, én vurderer juridiske og databeskyttelsesmæssige skridt, og én håndterer intern og ekstern kommunikation. Undgå, at ti personer uploader filen til hver sit analyseværktøj. Brug en kort statusformulering, der kun siger det, I ved: »Vi undersøger manipuleret materiale, der udgiver sig for at komme fra organisationen. Gennemfør ikke anmodninger fra klippet. Opdatering følger på vores officielle kanal.«

Anmeld relevant kriminalitet til politiet og rapportér indholdet til platformen. Hvis en hændelse også indebærer et brud på persondatasikkerheden, skal organisationen foretage den særskilte vurdering efter databeskyttelsesreglerne. Gem beslutninger og tidspunkter; de bliver vigtige ved efterfølgende kontakt med bank, myndighed, forsikring og berørte personer.

Mærkning hjælper, men fjerner ikke behovet for kildekritik

AI-forordningens artikel 50 indeholder gennemsigtighedskrav for bestemte AI-genererede eller manipulerede materialer, herunder deepfakes. Forpligtelserne finder anvendelse fra 2. august 2026. EU-Kommissionen offentliggjorde den 20. juli 2026 retningslinjer, der beskriver, hvordan pligterne skal forstås. Kravene afhænger af rolle, indhold og kontekst, og der findes særlige regler og undtagelser. Den konkrete juridiske vurdering bør derfor ikke reduceres til »alt AI-indhold skal have det samme mærke«.

Vigtigst for modtageren: En mærkning kan give nyttig kontekst, men en kriminel aktør kan undlade den, og en korrekt mærket satire kan blive delt uden forklaring. Fravær af mærke er ikke et ægthedsbevis. Hold fast i kilde, oprindelse, kontekst og uafhængig bekræftelse.

Metoden hænger tæt sammen med almindelig kontrol af AI-påstande. Læs også arbejdsgangen fra påstand til originalkilde, eller se foredraget Kan man stole på AI?. Hvis jeres organisation vil øve betalings- og hændelsesprotokollen, kan I tage kontakt.

Konklusion: Du behøver ikke vinde en konkurrence mod en billedgenerator. Du skal kunne standse en handling, finde den tidligste kilde, undersøge oprindelsen, kontrollere konteksten sideværts og bekræfte kravet gennem en kendt kanal. Det er langsommere end et blik – og langt mere pålideligt.

Kilder og videre læsning

• Europol: Facing reality? Law enforcement and the challenge of deepfakes.
• Dansk politi: Undgå at blive svindlet med kunstig intelligens.
• C2PA: Gældende specifikationer og explainer om Content Credentials.
• EU-Kommissionen: Retningslinjer om AI-forordningens gennemsigtighedskrav.
• Yermakov m.fl.: Original forskning i deepfake-detektorers generalisering på tværs af datasæt (PDF).