nrk.no

DeepFakes-teknologi kan få slutt på irriterende anonymisering

Kategori: Samfunn

To anonymiserte NRK-profiler. Foto: NRK


Synes du også det er stygt med pikselerte ansikter?

Anonymiserte ansikter stikker seg ofte ut på bilder og video. Vi seere vet at det skjules noe bak pikseleringen, eller en av de utallige andre måtene for å vaske ut et ansikt. Det tar oppmerksomhet bort fra historien som skal fortelles, og det ser stygt ut på en måte som kan irritere selv den mest distraherte TV-seer.

Anonymisering er overraskende nok også et problem for datamaskinene som en dag skal kjøre på norske motorveier. De blir også forvirret av at det finnes mønstre man ellers aldri ville sett i bybildet.

En norsk forsker ved navn Håkon Hukkelås ønsker å gjøre noe med det. I en nylig publisert artikkel presenterer han «DeepPrivacy», en måte å bruke maskinlæring til å sette inn nye ansikter istedenfor å vaske dem ut.

Om du ikke har gjettet deg til det allerede er det Vidar Magnussen og Tore Sagen i Side om Side som er våre testkaniner:

DeepPrivacy er først og fremst tenkt på folkemengder som dette:

DeepPrivacy på en folkemengde. Foto: The Chinese University of Hong Kong/Håkon Hukkelås

Men vi har lekt litt med teknologien: 22. januar 2019 ble den norske regjeringen utvidet til å også inkludere KrF. I slike anledninger er det vanlig å ta et formelt bilde med statsrådene. På det høyre bildet har vi «anonymisert» alle:

Foto: Torbjørn Kjosvold, Forsvaret (CC BY-NC 2.0)

I forsøksstadiet

Det var Vice Motherboard som først omtalte arbeidet til Håkon Hukkelås. Hukkelås, som er stipendiat ved NTNU, forteller på telefon at de så vidt har begynt arbeidet med å anonymisere ansikter, men at det er lovende.

Teknologien er den samme som brukes i DeepFakes der to algoritmer konkurrerer mot hverandre. Én prøver å lage et realistisk resultat, den andre prøver å avsløre om det er falskt eller ekte. Over tid og med et godt nok bildegrunnlag er det mulig å oppnå tilnærmet naturtro etterlikninger.

– Det vi gjør, er at vi «klipper ut» fjeset i bildet. Så ber vi en maskinlæringsmodell om å fylle ut området som er klippet ut, sier Hukkelås.

Det venstre bildet er originalen, det midterste er «input» til maskinlæringsmodellen (GAN), og det høyre bildet er det anonymiserte resultatet. Foto: Håkon Hukkelås

– Dette kan på sikt erstatte pikselering, men hovedfokuset er å finne en måte å beholde mest mulig informasjon i bildet. For eksempel er dette viktig i arbeidet med selvkjørende biler. Der kan man ikke «ødelegge» bildene fordi det kan gjøre at de tolkes feil.

Fordi pikselerte ansikter står for tydelig ut i bildet?
– Ja, mennesker og datamaskiner legger for mye merke til at det er pikselert, sier Hukkelås.

Foreløpig er de innplasserte ansiktene heller ikke konsistente over tid, noe som kan se litt rart ut:

En av de mest kjente eksemplene på hvordan noen er blitt skrevet ut av historien er hvordan Stalins sikkerhetssjef Nikolai Yezhov (til høyre) ble fjernet fra bilder og dokumenter etter henrettelsen i 1940.

Her har vi kjørt DeepPrivacy på et av de meste kjente bildene:

Noen husker kanskje det ikoniske gruppebildet av de første ansatte i Microsoft. Bildet ble tatt i 1978 mens selskapet bare hadde 12 ansatte:

Foto: Med tillatelse fra Microsoft.

Første rad (venstre til høyre): Bill Gates, Andrea Lewis, Marla Wood, and Paul Allen. Andre rad: Bob O’Rear, Bob Greenberg, Marc McDonald, and Gordon Letwin. Bakerste rad: Steve Wood, Bob Wallace, and Jim Lane. (Ikke i bildet, men blant de første ansatte Miriam Lubow.)

Et promobilde av Tore Sagen viser også at DeepPrivacy har en begrensning på detaljene i de nye ansiktene, men det finnes allerede i dag ansiktsbibliotek med høyere oppløsning:

Foto: NRK/Håkon Hukkelås

Det er altså mye som står igjen før DeepPrivacy vil dukke opp på den store skjermen. Sannsynligvis vil teknologien først dukke opp i bakgrunnen som en måte å sladde ut intetanende forbipasserende i realityserier, istedenfor at produksjonsselskap skal få godkjennelse fra alle som dukker opp i bildet. Noe som kan være kostbart og tidkrevende.

8 kommentarer

  1. Jeg har lenge puslet med en produkt-idé som kan overflødiggjøre pikselering: Et «visir», en ramme på f.eks. 15 x 20 cm, delt opp i 6 x 8 ruter i transparent plast, i ulike brun/beige-sjatteringer. Visiret kan enten festes direkte foran ansiktet med stropper rundt hode/nakke og nødvendige støtter mot panne og kinn for å holde visiret stabilt, eller man kunne ha en islandshette der visiret lå foran ansiktet og hårfrisyre etc. var skjult.

    Med et slikt pikselerings-visir kunne avisene publisere bilder uten å behøve å pikselere ansiktene – de ville være «pre-pikslerte».

    Jeg er sikker på at jeg kunne jeg fått solgt et ganske stort antall slike pikselerings-visirer, om jeg fikk i gang produksjonen. Jeg er ikke like sikker på at politiet ville være av de mest ivrige kundene…

    Fra spøk til revolver: Pikselering har gått helt av hengslene! Media bruker det helt bevisst, ikke for å skjule noens identitet, men for å pirre vår nysgjerrighet: Vi vet noe, vi har noe informasjon, som du enda ikke har fått innsyn i! Vi har det, og senere kan vi muligens dele den med deg, hvis du bare holder deg til oss!

    Det mest parodiske eksempelet på pikselering jeg har sett er kanskje et år gammelt: En «agurknytt-historie» fra Austalia om en guttegjeng i Australia som hadde mishandlet en katt. Historien ble levert med et bilde av den mishandlede australske katten, som ble presentert med ansiktet pikselert slik at vi ikke ville gjenkjenne katten om vi traff den på gata på en ferietur til Australia…

    Å sette inn falske ansikter istedetfor pikselering fjerner elementet av «Vi vet noe du ikke vet, enda, men det kan hende vi vil røpe det senere». Media ønsker ikke å gi avkall på dette lokkemiddelet.

    De falske ansiktene ikke er reelle; bildene gir et usant inntrykk av informasjonsverdien. De markeres på en eller annen måte som falske, manipulerte, uekte. Da er avstanden til «Illustrasjonsbilde levert av Fotoarkiv AS» ganske kort. Bildene er bare bakgrunn, dekorasjon uten informasjonsverdi. Et «illustrasjonsbilde» av vilkårlige 11 personer som ikke er de opprinnelige ansatte i MS har like mye verdi som det opprinnelige, «ekte» bildet der de 11 ansiktene er byttet ut med 11 andre ansikter.

    Utskifting av ansiktene kunne ha en verdi dersom det var full aksept for å late som om det var virkelig, et ikke-manipulert bilde. Det er lite aktuelt i dagen media-virkelighet: Blir vi vist noe som er bevisst falskt, da skal vi bli gjort oppmerksomme på det.

    «Illustrasjonsfoto» har sin plass i media-virkeligheten. Forfalskede bilder med falske ansikter kan i enkelte sammenhenger ha det. Men sjansene for at det vil erstatte pikselering i media er på nivå med sjansene for at min idé med pre-pikselerings-visirer blir akseptert i markedet – og av politiet.

    Svar på denne kommentaren

  2. Hallo i luken
    Denne artikkelen burde vært endret. Her legger tekstforfatter i vei og gjør noe så uinteressant som pixelering, eller anonymisering, av tekst eller bilde, til et tilsynelatende nasjonalt, eller til og med, globalt problem eller irritasjon.

    Uten å på noen som helst måte gi skriftelig uttrykk for at det er hans syn.

    Eksempelvis:
    «Det ser stygt ut…»
    «Det tar bort historien……»

    istedenfor

    «Jeg synes det ser stygt ut…..»
    «Jeg mener det tar bort historien…»

    Jada, det kan virke som ordkløyveri, men uten å ha statistisk grunnlag for det, oppfatter jeg det som er skrevet som at tekstforfatter Martin Gundersen her lager et stort problem av noe de færreste henger seg opp i og grubler over.

    Tror de fleste bare aksepterer den gamle svartsladden og pixelering som en kvalitetssikring av det digitale personvernet, uten å bruke resten av året til å gruble på hva/hvem som skjuler seg bak.

    Til og med datamaskinene har problemer med disse uvanlige mønstrene.
    Stakkars datamaskiner, da blir de nok frustrerte, lei seg og nysgjerrige. NOT!
    Fordelen med en datamaskin, er at følelsesregisteret lett lar seg endre ved endringer i algoritmene og protokollene den fungerer etter, så vær så snill, ikke gjør anonymisering til et globalt problem, dem har vi vel nok av fra før.

    Jeg tenker heller på utfordringene som lanseres ved DeepFakes teknologi. Hva om fjeset DeepFakes presenterer fremstår som en reell person som faktisk IKKE har vært tilstede på bildet? Hva om DITT fjes plutselig dukker opp på en illustrasjon du synes var upassende, hvilke personlige og rettslige konsekvenser vil slikt bringe med seg?

    Nei, her tar jeg en Rema 1000, «Det enkle er ofte det beste».
    Ønsket effekt er at noe ikke skal gjennkjennes, så gjør som de gjorde før: Svartsladd hele hodet! Ferdig snakka!

    Og har du lidelser fordi nysgjerrigheten gnager i deg og dagen blir ødelagt, ja, så er jeg sikker på at helsevesenet har en terapeut som kan bistå.

    PS!
    Nå som julen nærmer seg, pakker du inn presangene og anonymiserer dem med et papir som fjerner fokuset fra innholdet, Hr.Gundersen? 😉

    Eg berre spør

    Svar på denne kommentaren

    • Takk Helge for innspill.

      Vi prøver å skrive artiklene våre på en måte som interesserer flest mulig, og det er ikke alltid vi treffer.

      At det er ulike syn på konkrete beskrivelser må jeg og du nesten bare leve med.

    • Hvis man leser med et lite snev av kritisk sans er det ikke vanskelig å se hva som åpenbart er subjektive vurderinger – hvis du hevder at «Kjæresten min er den fineste i verden» er det helt unødvendig å innlede med «Jeg synes at …». Alle forstår det; ingen tar det som en objektiv og 100% nøytral Sannhet.

      De eksemplene du viser til er også slike helt åpenbare subjektive vurderinger. Det må være en bra naiv leser som tar dem som objektiv Sannhet.

      Jeg synes det er greit at man kan gjøre vurderinger uten å alltid måtte flagge dem med «Dette er min vurdering», gjøre en spøkefull bemerkning uten «Dette er en spøk», være ironisk uten å starte det med «OBS – ironi følger!» Hvis vi alltid må ha eksplisitt beskjed om hvordan vi skal vurdere en tekst blir vår kritiske sans sløvet. Vi trenger det motsatte.

      Det man kan (og i langt sterkere grad bør) etterspørre er «Hva er dette begrunnet i?» og «Hvordan kan dette høre sammen med […]?», eller henvisning til andre kilder/argumenter som imøtegår eller modifiserer påstanden.

      Jeg viser ingen ydmyk underdanighet mot en skribent, om han så er Nobelpris-vinner: Enhver uttalelse må vurderes kritisk. Så jeg hadde ingen problemer med å handtere de meningsytringene du refererer til.

      Ellers, angående artikkelens innhold: Jeg er uenig med deg – nettopp det at «de færreste henger seg opp i og grubler over» medienes manipulasjonsteknikker er et problem! Igjen er vi tilbake til kildekritikk: Å øke den generelle bevisstheten om hvordan pikslering, photoshopping og annen manipulering påvirker budskapet er viktig.

      Med andre ord: Jeg hilser artikkelen velkommen. Den viser et annet aspekt av manipulasjonen, som ikke ofte kommer fram.

  3. Leser det jeg skrev samt kommentarene og erkjenner at ordlyden i det jeg skrev var unødvendig krydret med ironi og sarkasme, et resultat av en særdeles dårlig dag. Alt for mange «sure» ord.
    Det jeg ville si var at jeg synes problemstillingen og artikkelen var å skyte spurv med kanon.

    Anonymitet handler vel om personvern, og om det er svartsladd, pixelering eller en brun papirpose over hodet, det ville jeg tro var rimelig likegyldig for personen som ønsker anonymitet.
    Det jeg mente var kritikkverdig var å servere et «fantasifjes» å knytte historien til. Joda, verden vil bedras, men er det etisk forsvarlig å servere en visuell løgn for å ivareta fokus på innholdet? Da snakker jeg om journalistikk, IKKE reklame, for det er jo så og si basert på visuell løgn.

    OG,Keal, pixelering og Photoshopping er for meg 2 ulike ytterpunkter. Pixelering, som svartsladding, tilbyr bare visuell anonymitet. Photoshopping er i tillegg til den visuelle anonymitet et bedrag mot leseren. Tenker jeg.. 😉

    …også litt pirking, hr.Gundersen 😉
    Slutten av første avsnitt, sitat: ….og det ser stygt ut på en måte som kan irritere selv den mest distraherte TV-seer.

    Skulle det ikke være MINST distraherte?

    Svar på denne kommentaren

Legg igjen en kommentar

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *. Les vår personvernserklæring for informasjon om hvilke data vi lagrer om deg som kommenterer.