nrk.no

Ny DeepFake-app lovet å avkle kvinner

Kategorier: Kunstig intelligens & Samfunn

Skjermbilde: DeepNude


Appen DeepNude er nå stengt ned etter massiv medieomtale.

NRKbeta omtalte allerede i januar 2018 at kjendiser ble «limt inn» i pornovideoer ved bruk av avanserte maskinlæringsteknikker. Denne typen manipulering har fått navnet «DeepFake», inspirert av Reddit-brukeren som først tilgjengeliggjorde teknikkene for en bred offentlighet.

Også denne gangen var det Vice Motherboard som først omtalte nyvinningene. Torsdag omtalte nettstedet at en «forferdelig app» kunne avkle kvinner med et enkelt klikk. I en tidligere versjon inneholdt artikkelen en rekke skjermbilder som viste før- og etterbilder. Disse ble fjernet etter forespørsler fra lesere, akademikere, og kollegaer, ifølge Motherboard.

Appen «DeepNude» hadde kun et formål – å fjerne klærne til påkledde kvinner og «lime inn» en synlig vulva og nakne bryster. Ifølge Motherboard fungerte appen best med bikinibilder da man hadde mer hud å jobbe med.

Basert på åpen kildekode

Den anonyme skaperen forklarer i en epost til Motherboard at appen er basert på pix2pix. Dette er en algoritme utviklet av forskere ved Berkeley i 2017 og tilgjengeliggjort med en BSD-lisens.

Kort fortalt baserer metoden seg på at to algoritmer konkurrerer mot hverandre. Den ene prøver å lage et virkelighetsnært bilde, den andre prøver å avsløre om det er falskt.

Ifølge skaperen skal det være brukt 10.000 nakenbilder for å trene opp den aktuelle algoritmen bak DeepNude.

NRKbeta har tidligere eksperimentert med å flytte Bjarte Tjøstheim inn i tv-serien Side om Side. Resultatet var nokså overbevisende:

Stengt ned etter få timer

DeepNude har blitt omtalt av en rekke internasjonale medier og norske ITavisen.

– Det er det siste eksempelet på hvordan det blir stadig lettere å bruke teknologi for å henge ut og fornedre kvinner, skrev Rachel Metz for CNN.

Den massive og kritiske medieoppmerksomheten førte til at appen ble tatt ned kort tid etter.

I en Twitter-melding skriver skaperne at «sannsynligheten for misbruk er for stor» og at «verden er ikke klar for DeepNude».

4 kommentarer

Legg igjen en kommentar til Hans Avbryt svar

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *. Les vår personvernserklæring for informasjon om hvilke data vi lagrer om deg som kommenterer.