Denne artikkelen er produsert og finansiert av Forsvarets forskningsinstitutt - les mer.
«Deepfake» kan bli brukt til å villeie og feilinformere befolkninga før valet
I ein ny kampanjevideo har politikar Abid Raja frivillig late seg deepfake for å demonstrere kor lett ein kan bli lurt av bilete, lyd og video.
– Målet med videoen er å vise at denne teknologien er utbreidd og lett tilgjengeleg, og at kjeldekritikk derfor er endå viktigare og vanskelegare enn før, seier Mari Velsand, direktør i Medietilsynet.
Deepfake
- «Deepfake» blir brukt som eit samleomgrep på bilete, video og lyd framstilt ved hjelp av maskinlæring, altså kunstig intelligens.
- Typiske bruksområde er å byte ut ansikt eller å lage syntetiske stemmer som til forveksling liknar personen dei er kopierte frå. Tenk på det som eit Snapchat-filter, berre meir avansert.
- For å lage ein truverdig deepfake er kjeldematerialet viktig. Jo meir høgoppøyseleg bilete, video eller lydmateriale du har av personen som skal forfalskast, jo betre utgangspunkt har du for å bygge den digitale modellen.
- Når den kunstige intelligensen er trena opp med kjeldematerialet, kan han få instruksjonar og spytte ut eit meir eller mindre truverdig resultat, avhengig av kvaliteten på teknologien.
Kilde: telenor.no
Kan lagast av kven som helst
I kampanjevideoen står Abid Raja fram som trønderen Einar frå Byåsen. «Einar» fortel i videoen at Abid Raja berre var ei rolle han tok på seg då han flytta til hovudstaden for å bli kjendis.
Men han som eigentleg blir filma og snakkar er Eskil Sivertsen, spesialrådgivar ved Forsvarets forskingsinstitutt (FFI). Han forskar på propaganda, desinformasjon og påverknad.
– Videoen er laga med programvare som kven som helst kan laste ned frå nett. Du treng ikkje spesielle forkunnskapar. Det var litt av poenget. Det går an å laga betre og meir overtydande deepfake-videoar enn dette, understrekar Sivertsen.
– Vi ønskte å vise kor lett du kan lage noko som er godt nok til å lure nokon på ein mobilskjerm.
På kort tid har kunstig intelligens gitt oss verktøy som gjer det lettare å laga bilete, video og lyd som manipulerer identiteten til andre.
Podcast: Om deepfake
I denne episoden av FFIs podkast Ugradert – kort forklart snakkar spesialrådgivar Eskil Grendahl Sivertsen frå FFI om kva deepfake er og kvifor det er viktig med kjeldekritikk i møte med dagens medieinnhald.
Høyr heile episoden her.
Teknologien kan bli misbrukt
Kampanjevideoen er eit samarbeid mellom Medietilsynet og FFI. Han skal gå i sosiale medium fram mot valet hausten 2023.
Sivertsen seier at teknologien kan bli brukt til å villeie og feilinformere befolkninga. Han kan bidra til å stadfeste fordommar eller forsterke haldningar.
– Vi ser at det blir stadig meir falskt eller AI-generert innhald på internett. Det tek plassen til ekte innhald. Det kan vere vanskeleg å sortere kva som er ekte, både for menneske og maskiner, seier Sivertsen.
Han seier at vi mellom anna ser at falskt innhald har byrja å dukka opp i søkjemotorar viss du søkjer på personar eller omgrep. Dette kan bli ei utfordring på sikt.
– Faren er at vi resignerer og sluttar å tru at noko er sant.
Lett å bli lurt
Deepfaking kan også gjerast i sanntid. Med deepfake-teknologi kan du ringe nokon i ein videosamtale og sjå ut som nokon andre og høyrast ut som nokon andre.
Så korleis skal vi klare å skilje fake frå ekte i ein slik situasjon?
Sivertsen meiner det ikkje finst nokon openberre eller enkle løysingar.
– Det blir jobba med reglar for bruk av teknologien, både i EU og andre stader. Men det vil likevel finnast aktørar som bruker deepfake og AI-teknologi til å lage falsk innhald utan å bry seg om reglar, seier Sivertsen.
Han fortel at det berre dei siste månadene er det skjedd utruleg mykje innanfor denne teknologien. Den viktigaste forsvarsmekanismen vi sit att med er vår eigen kjeldekritikk.
– Ha det som ein ryggmargsrefleks: Ikkje alt treng å vere slik det verkar. Særleg på internett. Det beste rådet når du ser ein video er å stoppe, tenkje og sjekke. Er dette ekte?
Medietilsynets råd:
Stopp. Vekker saka sterke kjensler? Verkar saka for utruleg?
Tenk. Trur du på biletet, videoen, lyden? Kan det vere teke ut av samanhengen sin eller manipulert? Prøver saka å påverke deg?
Sjekk. Finn du saka andre stader? Veit du kven som står bak?
Høyr heile episoden om deepfake her:
Les også disse sakene fra FFI:
forskning.no vil gjerne høre fra deg!
Har du en tilbakemelding, spørsmål, ros eller kritikk? TA KONTAKT HER
