nrk.no

Facebook forbyr villedende deepfake-videoer

Kategori: Det sosiale nettet

En kvinne med langt hår snakker i en mikrofon.
Facebooks sjef for retningslinjer, Monika Bickert, kunngjorde de nye reglene mandag. Arkivfoto fra 2017: Ståle Grut/NRKbeta

Professor Hany Farid etterlyser likevel regler for alle typer villedende video.

Videoer manipulert ved hjelp av avansert dataprogrammering, såkalte deepfakes, har lenge vært en kilde til bekymring spesielt i forkant av årets amerikanske presidentvalg.

Teknologien bak deepfakes kan beskrives som en avansert variant av ansiktsfiltre som fins på for eksempel Snapchat, hvor et ansikt kan manipuleres eller plasseres inn i en annen video.

Teknologien ble for alvor kjent i 2017 da bilder av kvinnelige Hollywood-stjerner som Emma Watson, Scarlett Johansson og Natalie Portman ble misbrukt ved å skape falske pornofilmer.

I tenkeboksen

Facebook har siden i sommer vært i tenkeboksen rundt hvordan selskapet skal håndtere deepfakes. Selskapets grunnlegger, Mark Zukerberg, har ønsket å unngå at Facebook må være den som tar stilling til om innhold er sant eller ikke.

Mandag denne uken ble nye regler for manipulert medieinnhold offentliggjort.

Facebook vil nå fjerne «villedende manipulert medieinnhold», så lenge innholdet oppfyller to spesielle kriterier, skriver Facebooks sjef for retningslinjer, Monika Bickert.

For det første må videoen ha blitt redigert eller syntetisert for å endre på noe en person sier. I tillegg må kunstig intelligens og maskinlæring ha blitt brukt for å få videoen til å framstå autentisk.

Hvordan det skal sjekkes at maskinlæring er brukt for å lage videoen presiseres ikke, men Facebook er et av selskapene som i fjor utlyste en konkurranse hvor målet er å avdekke deepfakes automatisk.

Humoristiske deepfakes fortsatt tillatt

De nye reglene gjelder ikke for parodier eller satiriske videoer, eller videoer som kun har blitt redigert for å utelate eller endre rekkefølgen på ord.

Videoer som ikke rammes av de nye reglene kan likevel bli utsatt for granskning av Facebooks faktasjekkere og merket som falske. En slik merking gjør at innholdet blir spredt til færre brukere.

Facebook mener at det å merke videoer på denne måten gir publikum mer informasjon og kontekst enn om videoene bare hadde blitt slettet.

«Svar på et ikke-eksisterende problem»

Videoene som rammes av Facebooks nye regler forekommer foreløpig sjelden på tjenesten, skriver Bickert i pressemeldingen.

Nettopp fordi det er så få deepfakes av typen som prøver å villede publikum, skriver journalist Samantha Cole i Vice at de nye reglene dermed adresserer et ikke-eksisterende problem.

Enklere teknikker

En manipulert video som fikk mye oppmerksomhet i 2019 viste den amerikanske politikeren Nancy Pelosi som feilaktig fremstod som sløv eller beruset.

Videoen var ikke en deepfake, men ble redigert på en banal måte: videoens avspillingshastighet og lydsporets tonehøyde ble justert, og slik framstod det som Pelosi beveget seg og snakket saktere enn i virkeligheten.

I likhet med Twitter valgte Facebook å ikke fjerne videoen, men begrenset spredningen ved å markere den som falsk.

Videoen viste likevel at de amerikanske sosiale mediene hadde ulik praksis. Youtube fjernet den samme videoen fra sin tjeneste.

For snevre regler

Hany Farid er professor ved University of California, Berkeley og jobber med manipulerte bilder. Til Washington Post sier professoren at de nye reglene er for snevre.

Farid skriver til avisen at videoer som den av Pelosi er minst like misvisende som en deepfake, selv om de ikke er laget ved hjelp av kunstig intelligens.

Farid er derfor kritisk til at Facebooks nye regler kun fokuserer på deepfakes, og ikke bevisst villedende videoer generelt.

12 kommentarer

  1. Thomas Flemming

    Hvorfor kan man ikke bruke deepfakes i produksjon av historiske kostymedrama? Jeg skulle gjerne sett filmer hvor historiske personer hvor alt fra Julius Caesar og Napoleon til Nixon ble vekket til live med «deep fakes».

    Svar på denne kommentaren

    • Nettopp slik er det. En propagandaorganisasjon. Videoen du linker til beviser det godt.

      Slike utspill som denne ikke-saken med ‘deepfakes’ (som om det er et reelt problem) er bare for å varme opp folket på at det foregår sensur av politiske ytringer og hvitvaske det, for hvem vil ikke at ting med skumle navn som ‘deepfakes’ blir tatt ned.

  2. Det er en viktig forskjell på å bytte ut fjeset til noen (deepfake) og zoome inn på en video for å fremheve noe som har skjedd via videoredigering, eller setter sammen flere klipp av samme person for å fremheve en tendens i oppførsel. Merker meg at om Trump ser på solen uten solbriller så blir det en stor nyhetssak i norske medier, men om Jean-Claude Juncker stumbler full rundt omkring så er det ganske tyst. Skulle også gjerne sett at NRK tillater sine lesere å kommentere på artikler igjen (slik som her inne på nrkbeta). Tatt i betrakning at nå skal vi tvinges til å betale lisens over skatteseddelen. NRK har en del bra, men når det kommer til nyhetsdekningen kan jeg dessverre ikke si at det er en objektiv dekning. Utrolig synd når det faktisk er snakk om en statskanal som burde være allemannseie.

    Legg merke til at Professor Hany Farid etterlyser regler for alle typer «villedende» video. Noe som garantert kommer til å bli brukt for enda mer sensur på FB. Heldigvis finnes det alternativer som mewe.com minds.com osv.

    Svar på denne kommentaren

    • Einar Stavleik (svar til Vidar)

      > […] men om Jean-Claude Juncker stumbler
      full rundt omkring så er det ganske tyst

      Jeg husker det var en video som ble sirkulert en stund tilbake som påstod dette. Det ble samtidig forklart at mannen ikke var beruset, men at han har et ryggproblem (prolaps eller noe), så han har smerter når han går / løfter bena og derfor mottok hjelp for å gå opp trapp.

      Tro det eller ei, men det kan være forklaringen. Jeg tipper du finner flere videoer av JCJ hvor han «går rart».

    • Vidar (svar til Vidar)

      Så om Trump gjør noe dumt så er han dum, men om f.eks. Jean-Claude Juncker stumbler full rundt så har han ryggproblemer.. Problemet med den forklaringen er at den faller i grus om man gjør litt mer undersøkelser som å se flere opptak av mannen. Dette viser jo problemet. Det er ikke en objektiv dekning. Kan heller ikke se at NRK har avdekket løgnene som «white helmets» har kommet med, eller saken hvor de faktisk ble tatt i å spre en falsk nyhet. De intervjuet en «opposisjonsoldat» fra byen Homs i Libya og oversatte: «Det er som et stikk i hjertet å forlate Homs, jeg håper å vende seirende hjem en dag». MEN så viser det seg at det er (uheldigvis for NRK) Guvernøren i Homs som Kari Jaquesson selv har vært å interjuet. Han sier: «Akkurat nå er det våpenhvile. Det er ingen tvil om at myndighetene vil sloss mot terrorisme i Idlib, for Nusra-fronten er i Idlib». Og dette kan ikke engang karakteriserer som en «feil», eller faktafeil som man kan rette på. Her har man oversatt med vitende og vilje feil sannsynligvis for å fremme sin agenda mot å styrte Assad.

      https://www.youtube.com/watch?v=XPgiI46FCDU

  3. Bra dere er kritiske til FB o.a sin policy, hadde dere vært like kritiske til NRK sin policy hadde dere kanskje begynt å fremstå som troverdige igjen. Bare det å ikke ha kommentarfelt under NRK Yttring er jo ren sensur! Hvorfor ikke bare ha et lignende kommentarfelt som her på NRK Beta i stedetfor å skylde på «Disqus»?

    Svar på denne kommentaren

    • Troverdigheten til NRK er av svært god kvalitet.
      Hvorfor MÅ en ha kommentarfelt på alt?

      Det kan virke som herr Pale, som ikke skriver under sitt fulle navn, og det hører med til sjeldenheten at «ytringsfrihetsforkjemperne» bruker eget navn.

      Når en ser hen til Fjaseboken og VGD.no kan en si seg glad for at en slipper unna samme type «ytringsfrihet» i NRK generelt og i de fleste riksdekkende aviser.

    • Helt enig. Håper de tar til fornuft og gjenninfører ytringsfrihet under kommentarfeltene bredt i NRK. De har mer enn nok penger til å ha et par ansatte som kan gå gjennom kommentarfeltene. Andre alternative kanaler klarer det med langt mindre økonomiske midler til disposisjon.

Vil du kommentere? Svar på en quiz fra saken!

Vi er opptatt av kvaliteten på kommentarfeltet vårt. Derfor ønsker vi å sikre oss at alle som kommenterer, faktisk har lest saken. Svar på spørsmålene nedenfor for å låse opp kommentarfeltet.

Hva heter professoren som jobber med manipulerte bilder?

Hva kalles gjerne medieinnhold som er manipulert ved hjelp av maskinlæring?

Hvilken plattform fjernet den redigerte videoen av Nancy Pelosi?

Legg igjen en kommentar til Gutteromspromp Avbryt svar

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *. Les vår personvernserklæring for informasjon om hvilke data vi lagrer om deg som kommenterer.