nrk.no

Dette bildet ble aldri tatt, og det er problemet

Kategori: Kommentar

MANIPULERT: Dette øyeblikket eksisterer ikke. Men gjør det noe?

Dette er en kommentar. Den bygger på skribentens egne analyser, meninger og vurderinger.

Snart vil alle med en mobil kunne bruke kunstig intelligens til å manipulere fotografiene sine. Det får meg til å lure – kan jeg nå bare stole på mine egne bilder?

Mange vil nok argumentere for at vi ikke lenger kan stole på fotografiet. Andre mener kanskje at vi aldri har det.

Akkurat dette ble problematisert denne uka da NRK publiserte det de trodde var et publikumsbilde av Trude Ailin Winther i snøkaoset på Sørlandet. Bildet var i virkeligheten generert av programvaren Midjourney og ble fjernet da feilen ble oppdaget.

MANIPULERT: Dette bildet skulle dokumentere snøkaoset på Sørlandet, men så enkelt var det ikke. Illustrasjon: Midjourney

Jeg mener at vi er ved et veiskille. Manipulering av bilder ved bruk av kunstig intelligens er i ferd med å bli allment tilgjengelig.

Google lanserte i starten av oktober deres nye linje med Pixel 8-telefoner. Et av salgsargumentene har vært introduksjonen av en rekke funksjoner som bruker kunstig intelligens. Dette er spesielt tydelig i kameraappen.

Der legges kraftige manipuleringsverktøy rett i hendene på vanlige folk. På sikt vil disse verktøyene bli gjenkjennelige for alle som har Google Photos, langt flere enn dem som har Pixel-telefoner.

Med det har man brutt en barriere. Man trenger ikke lenger spesialprogramvare for å manipulere virkeligheten. Verktøyene de bare er der og de inviterer deg til å benytte dem.

Dette er de nye funksjonene til Google Photos

  • Magic Editor: Bruker generativ AI til å redigere spesifikke deler av bildet ditt som å endre bakgrunn, og flytte på objekter.
  • Magic Eraser: Gir deg muligheten til å fjerne uønskede objekter i bildet ditt, og fylle inn hullene.
  • Audio Magic Eraser: Ved bruk av avanserte maskinlæringsmodeller kan audio magic eraser separere og skille de ulike lydlagene i videoen din. Noe som gir deg mulighet til å slette distraherende lyder.
  • Best Take: Setter sammen de beste ansiktene i en serie av gruppebilder til den perfekte versjonen.
  • Endringer gjort ved bruk de nye funksjonene på telefonen, blir lagt i bildets metadata under feltet «digital source type» i IPTC-standarden.

Litt grå dag? Ikke noe problem. Vi endrer himmelen «slik at det føles så solfylt som du husker det». Ordene kommer fra Googles toppsjef Sundar Pichai under en demonstrasjon av selskapets Magic Editor tidligere i år.

Et grått bilde av NRK en formiddag, blir lett til NRK i solnedgang og skjæra midt på kan selvfølgelig redigeres bort.

FØR/ETTER: Til venstre ser du den uredigerte versjonen og til høyre vil de legge merke til at en fugl (nede i midten av bildet) og himmelen er fikset på.
Okey, så er det kjekt at man i ett gruppefoto kan erstatte den ene som blunker eller skjærer grimaser.

Sånn som kollega Jim-Alexander og jeg demonstrerer her ved å sette sammen to selfier til ett. Igjen sitter man med ett bilde som er bedre enn de to originalene, men som aldri egentlig ble tatt.

SMELTE SAMMEN: En bildeserie blir til et nytt bilde. Men det nye bildet ble aldri tatt.

Denne trenden ser vi flere steder. Et av de mest brukte programmene for bilderedigering, Adobe Photoshop, leder nå brukere gjennom en treningsmodus om bruk av kunstig intelligens. Verktøyene implementeres og er bare ett fingertrykk unna.

Og jeg skal ærlig innrømme, jeg er ikke sikker på om at jeg hadde registrert at disse to eksemplene var manipulerte bilder om jeg hadde sveipt forbi dem på Instagram.

Vårt tidligere forhold til fotografiet

I en tid før internett, sosiale medier, smarttelefoner og kunstig intelligens skrev Susan Sontag på 70-tallet om fotografiets mange funksjoner. Og mye av det hun skriver føles på mange måter like relevant i dag som da.

Fotografering er nært knyttet til familielivet. Vi tar bilder som trofeer og for å minne store hendelser i livene våre, som bryllupsbilder. Sontag peker også på hvordan fotografering og turisme har oppstått i nær tandem. «Reise blir en strategi for å akkumulere bilder», og bevisene for at turen er gjennomført er fotografiene.

Det ekkoer jo fortsatt det samfunnet vi lever i. Smarttelefonens kamera er lett tilgjengelig og raskt oppe for å dokumentere stort og smått i livet. Og hendelser og reiser blir publisert på sosiale medier. I tillegg har en ny industri oppstått. Påvirkere kan skape seg ett liv ved å dokumentere og dele livet sitt til ukjente.

Vi opplever at fotografiet dokumenterer virkeligheten, og vi stoler til en viss grad blindt på det. Samtidig vet en liten del av oss at bildet ikke viser hele sannheten, det viser kun det fotografen vil fortelle oss.

Det tar oss til de nye verktøyene. Fotografiene det nå er mulig å lage med en Pixel-telefon kan kanskje virke som banale eksempler. Det er snakk om litt redigering av himmelen, litt utklipping av uønskede objekter og å smelte sammen to bilder. Men det som faktisk er gjort er å lage øyeblikk som ikke har eksistert.

Vi har manipulert virkeligheten. Og det er gjort med forbrukerteknologi som er tilgengelig for alle.

Må vi endre hvordan vi ser på fotografiet?

Nilay Patel, sjefsredaktør for teknologinettstedet The Verge, mener Googles fremstøt gjør at man må stille seg spørsmålet for bilder tatt av en smarttelefon: «skjedde dette virkelig, så det faktisk sånn ut?». Også han mener vi et ved et veiskille.

Ja, for i den virkeligheten vi nå lever i, pynter programvaren i telefonen din på bildet ditt uten at jeg registrerer det noe merkverdig.

Jeg har rett og slett blitt vant med det. Og det sammen med at AI-bildemanipuleringsverktøy er lett tilgjengelig, gjør at jeg egentlig vet jeg kan bli utsatt for bilder som ikke har eksistert, men dette er vanskelig å navigere spesielt når teknologien blir bedre og bedre.

Realiteten i denne nye virkeligheten blir da at de eneste bildene jeg virkelig kan stole på er:

  • Bilder tatt for og av redaktørstyrte mediehus: Dette fordi de har strenge retningslinjer for hvor mye de kan redigere bildene sine. Samtidig jobber de ofte grundig med å verifisere materialet de får inn fra sivilpersoner og vise oss verden slik den virkelig er.
  • Bilder jeg selv har tatt som jeg selv har kontroll på: Dette fordi jeg da faktisk vet hvordan de ble tatt og at de ikke har blitt manipulert med kunstig intelligens-verktøy.

Det er så mørkt det.

Saken er oppdatert klokken 11:35 med et ekstra kulepunkt i faktaboksen om at Google vil merke at bildene er manipulert i bildets metadata.

18 kommentarer

  1. Mike Andersen

    AI-generert innhold har en etiske sider som vi trenger mer fokus på. En ting er bilder, som har flere gode eksempler på etiske problemstillinger (både manipulasjon og forskjellige uønskede biaser).

    Men hva med tekst? Hva om en byråkrat bruker AI generert tekst i et dokument, og denne inneholder faktafeil som fører til feil beslutninger – som igjen får ulike negative konsekvenser?

    Kommer til å bli interresant å følge dette fremover.

    Svar på denne kommentaren

    • Martin Ansnes (svar til Mike Andersen)

      Hvis byråkraten bruker AI-generert tekst som hen ikke selv har lest og sjekket for feil, har hen gjort en dårlig jobb. Det vil være på samme måte som i dag, når feil kan snike seg inn. Å bruke AI-tekst vil nok gjøre en del byråkrati mer effektivt, men det er byråkraten som er forfatter for dokumentet og står som garantist for at det som står der er riktig.

      En god bruk av AI-tekst kan føre til en mer effektiv forvaltning og muligens kortere ventetid på for eksempel behandling av søknader.

  2. Mads Endresen

    Det sørgelige er jo at wow-opplevelsen av flotte bilder forsvinner når første tanke er at dette kanskje bare er juks og bedrag. Ekte innsats fra proffe folk drukner i mengden av AI-generert kunst, og færre folk ser noe vits i å lære seg håndtverket. Dette er på ingen måte en berikelse for noen av oss.

    Svar på denne kommentaren

    • Jostein Trondal (svar til Mads Endresen)

      For 140 år siden kunne man sagt: Det er trist at beundringen over vakre bilder forsvinner når den første tanken er at resultatet kanskje skyldes fotografi. Autentisk arbeid fra profesjonelle drukner i mengden av fotografier, og færre ser verdien i å lære seg det tradisjonelle håndverket. Dette er på ingen måte en berikelse for noen av oss, særlig nå når fotografi tar over for malerkunsten.

  3. Daniel Olai Danielsen

    «Bilder jeg selv har tatt som jeg selv har kontroll på: Dette fordi jeg da faktisk vet hvordan de ble tatt og at de ikke har blitt manipulert med kunstig intelligens-verktøy.»

    Men har du – den gjennomsnittlige du – virkelig god nok kontroll på teknologien til at du faktisk vet at du har installert en kameraapp fra en tredjepart som gjennom åpen programvare beviselig ikke endrer bildene? Samsung, Apple og Google sine standardapper gjør endringer når du tar bildene, før du får se dem. Du kan til en viss grad overstyre dette, men ikke alltid. Se for eksempel månebildene til Samsung eller brudekjolen til Tessa Coates..

    Svar på denne kommentaren

  4. Idag kan vi ikke lenger kan stole på det vi ser. Ethvert bilde kan være manipulert. Teknologisk fremgang har blitt sosial tilbakegang. Tvil og skepsis griper om seg, i en tid der vi trenger tillit og samarbeid mer enn noen gang.

    Svar på denne kommentaren

  5. Artikkelen beskriver bare et nytt knepp på den teknologiske utvikling. Bilder har til alle tider vært ett ståsted/en historie med sitt perspektiv. Og de har blitt manipulert.
    Vi er fortsatt avhengig av at fotograf/utgiver ønskerå fortelle det vi mener er den «riktige» sannheten. Altså kan vi fortsatt ikke stole på noe, men må velge hvem og hva vi vil ha tiltro til.

    Svar på denne kommentaren

  6. Roy Myklebust

    Mens jeg er overbevist at AI kommer til å bli et alvorlig utfordring for menneskeheten kan jeg ikke si at dette er noe nytt.

    Bilderedigering har vært brukt siden Playboy først begynte å retusjere bilder i 1953! Reklame byråene har bedratt oss med falsk bilder av deilig hamburger, raske biler og sexy kvinner.

    At verden har funnet et nytt verktøy for dette er ikke overaskende.
    Derimot den letthet med at alt fra dine bilder til politisk giganter kan bli vridd om til noe lumskt er skremmende.

    Hvis vi kan ikke håndtere galninger med sammensvergelse teorier hvordan i verden skal vi kunne håndtere AI som er 10 ganger mer overbevisende?

    Fake news og stjålet election? Det er peanuts sammenlignet med en verden totalt uten fakta å holde seg til.

    Dette er Aldous Huxely’s Brave New World smeller hodestups i George Orwells 1984.

    Regulering av AI hjelper kun mot ærlig aktorer. Vårt forsvar er en enorm stor skepsis og en solid dose av sunn fornuft for å motarbeid AI sin mørke sider.

    Svar på denne kommentaren

  7. Det blir stadig vanskeligere å avgjøre sannhetsverdi basert på et uttrykk (bilde, tekst etc). Ekte, falskt og forfalsket ser til forveksling likt ut.

    Derfor må vi knytte tilliten til personene som har befatning med bildet, fysiske eller juridiske personer. De vil kunne vitne om ektheten eller sannhetsverdien til bildet.

    For maskinelt fremstilte bilder (kamera, generert) vil den som har kontroll med teknikken kunne stemple/signere bildet slik at vi vet noe om opphavet. F.eks. kan velge å Apple stemple iphone-bilder med at bildet er laget ved hjelp av kameralinsen. ev. også med andre opplysninger, som tidspunkt, antatt gps-posisjon, om det er brukt filter/retusjering. All endring i ettertid vil da være sporbar – kun det bildet Apple stemplet vil være gyldig.

    På samme måte vil Open-AI kunne signere bilder.

    Teknisk er dette mulig (f.eks. i exif-delen av jpg, se sciencedirect.com/science/article/pii/S2210832717300753).

    Denne muligheten synes imidlertid ikke å bli brukt. Hva er årsaken til det? Med stadig mer falske bilder, eks. deepfake, skulle man tro behovet for slik funksjonalitet var stort.

    Svar på denne kommentaren

  8. Morten Sickel

    For å sitere en kompis fra for nesten 40 år siden da han og jeg drev masse med å ta bilder og fremkalle og kopiere «Et foto lyver alltid! Det viser bare et utsnitt av virkeligheten»

    Jeg tenker det er to ting i lett tigjengelig AI-redigering, på den ene siden, det åpenbare. Vi trodde en gang at vi kunne stole på et foto, som andre har sagt over har vi jo egentlig aldri kunnet det. Forskjellen er bare at vi nå får en kanskje sunnere skepsis, siden vi vet at ethvert foto kan være manipulert og dermed vil det være vanskeligere for de som alltid har hatt ressurser til å manipulere foto å slippe gjennom med det.

    På den andre siden, mine personlige bilder, hva er moroa med å ta bilder om kameraet skal gjøre all komponeringen og hva er poenget med å ta et bilde om himmelen er endret «slik at det føles så solfylt som du husker det». Det kan være at den personen som tok et bilde av det samme som meg og ikke har anelse om begreper som lukkertid og blenderåpning og ISO og aldri har hørt om det gylne snitt får et like bra bilde som meg, så er det bra for den personen, men jeg føler at det gir noe ekstra å vite hvorfor jeg er fornøyd med bildet jeg tok

    Svar på denne kommentaren

  9. «På sikt vil disse verktøyene bli gjenkjennelige for alle som har Google Photos,»

    Tror du mente tilgjengelige, ikke gjenkjennelige.

    (Jeg sender vanligvis slike hint direkte til journalisten. ‘Prisen’ ved å ikke slipppe ut noen epost-adresse er at feilene da blir påpekt i offentligheten :-))

    Svar på denne kommentaren

  10. Det er arbeid på gang for å kunne stemple bilder o.a. gjennom content authenticity initiative, som er en organisasjon hvor både VG, BBC, New York Times, Nikon, Microsoft og Adobe og veldig mange andre er med. (NRK ser ut til å mangle!) Se mer om arbeidet på contentauthenticity.org/

    Stempling kan skje i kameraet eller i programvare, som photoshop.

    rd.nytimes.com/projects/using-secure-sourcing-to-combat-misinformation er en prototype som viser hvordan dette kan se ut og med forklaring av ambisjonene.

    Stor takk til Johannes Nag for å gjøre meg oppmerksom på dette. se hans svar til min forrige kommentar, hvor det også vises til annen oppfølging av dette initiativet.

    Svar på denne kommentaren

  11. Thomas Bjørnskau

    Enhver troverdig innholdspubliserer må nå anta at et bilde er syntetisk framstilt med mindre det motsatte er bevist.

    Alle organisasjoner som er opptatt av troverdighet og som har til hensikt å publisere bilder som dokumenter virkeligheten må sikre at fotografier er autentiske. Til syvende og sist må dette løses via hardware, dvs linsen på et apparat som kan fotografere, og software, dvs metadata som inkluderes i bildets rå-format.

    Jeg tipper bransjen ikke er i mål med vanntett løsning og at det vil komme flere ulike initiativer.

    Organisasjoner som ønsker å skape bilder som representerer virkeligheten på en sannferdig måte, har nå mange nye, spennende verktøy som kan generere bilder. De bør merke slike bilder på samme måte som man idag skriver “Illustrasjon…”, og gjerne tilføre hvilken AI-teknologi som ble anvendt.

    Jeg har siste 1,5 år mye erfaring med et av disse verktøyene, Midjourney, og den langsiktige kraften i slik teknologi overgår de utfordringer som nå oppstår i en overgangsfase. Jeg har gjennom 10-15 000 bildegenereringer eksperimentert med teknologien og forsøkt å forstå hva dette kan gi av kreative muligheter.

    Jeg synes det er mest interessant å bruke slik teknologi på samme måte som en kunstmaler eller fotokunster ville gjort, det vil si lite opptatt av å gjenskape virkeligheten slik den er, men heller skape en slags alternativ, absurd visuell gjengivelse av noe som jeg synes ser interessant ut. Jeg har foreløpig kun postet bilder til mine nettverk, dvs sosiale medier, og har uten unntak merket postene med at bildet er framstilt av meg “via midjourney(Ai)”.

    Men det er litt betegnende at jeg stadig kommer over Ai-bilder som ikke er merket. Jeg tenker at det er synd, både fordi det skaper usikkerhet om bildene og gjør at seerne går lei Ai-generert materiale. Det siste kan man kanskje hevde vil skje uansett, men sammenlikner vi med klassisk fotografi, så har dette eksistert i over hundre år uten at folk er gått lei.

    Jeg synes også det er betegnende at mange nå kritiserer AI-teknologi, mens man egentlig er kritiske til bildemanipulering. Man reagerer kraftig på at reklame bruker Ai-bilder, men når var noen gang bilder og video i reklame sannferdig representasjon av virkeligheten? De siste tjue årene har alle kunnet publisere via sosiale medier, mange av dem som får mest følgere er svært gode på iscenesettelse og fotomanipulering – er dette glemt? Troverdige mediaaktører driver god fotojournalistikk, men hva med den kulørte ukepressen og useriøse medier?

    Det er viktig å følge med på og slå ned på de som etablerer falske nyhetssteder og som ønsker å spre fake news, men er dette umulig å følge opp juridisk? Teknologien i seg selv er ikke problemet her.

    Svar på denne kommentaren

  12. Geir Børdalen

    Fotografisk troverdighet i 2024 AI-periode

    Bilder har alltid kunnet bli bearbeidet eller manipulert. Startet karrieren i media med arbeid med svart/hvitt-bilder i mørkerommet hvor vi kunne etterjustere mange feil – og gjøre fremheving i selve fremkallingen av bildet. Deretter kunne vi retusjere med blyant, skalpell og andre verktøy på den fysiske kopien. Hensikten var alltid å korrigere feil (fra opptak, kamera mm) – og fjerne forstyrrende elementer i bildet.

    Dagens virelighet treffer oss ved at selve bildet /videoen kan fakes fra start av – eller endres (photoshoppes) – og nå med metoder som er adskillige vanskeligere å oppdage.

    NRK har gjort noen valg i sine regler for kunstig intelligens om at vi skal vise stor varsomhet ved endringer i bilder:

    «1.Bilder/video/illustrasjoner

    1.1 NRK skal ikke publisere fotografilignende bilder eller video laget av KI-tjenester, jfr. Vær
    varsom-plakatens krav om å verne om det journalistiske fotografiets troverdighet. Unntaket er om dette brukes i
    tråd med god sitatskikk i saker/sendinger som behandler slike temaer journalistisk.

    1.2 NRK kan bruke KI-genererte illustrasjoner som tydelig framstår som illustrasjoner.
    Illustrasjonene skal merkes i bildetekst med “Denne illustrasjonen er laget ved hjelp av
    kunstig intelligens” eller lignende, i tillegg til kreditering av KI-tjenesten som er brukt.

    1.3 Ved bruk av KI-genererte illustrasjoner i grafikk, keyart og lignende bør dette merkes i
    publiseringen. Unntak fra dette må avgjøres på redaktørnivå.

    1.4 KI-tjenester skal som hovedregel ikke brukes til å endre/manipulere reelle bilder eller
    video, jfr. VVP 4.11: “Bilder som brukes som dokumentasjon må ikke endres slik at de
    skaper et falskt inntrykk”. Unntaket er hvis det er tydelig for seeren at bilde/video er
    manipulert, for eksempel i satiriske sammenhenger.»

    Men omfanget av genAI-bilder (og i neste fase nå video) vil kunne tvinge fram enda tydeligere grunnverktøy i mediebransjen. Det betyr at bilder må vannmerkes og få metadata som ikke kan endres i videre prosesser. Formålet må være at vi tydelig kan spore bildene tilbake til kilden (kamera, publiserende organisasjon) – og også kunne spore endringer (og hvilke verktøy som har vært brukt). Dette blir helt sikkert ikke noen enkel prosess – og det blir sikkert muligheter for å omgå disse endringene. Utfordringene vil kreve endringer helt ned i de journalistiske grunnprosessene – og i mange teknologilag (opptaksutstyr, innlasting (ingest), redigering, arkiv, metadataprosesser mm). Heldigvis er det mange initiativer i gang som kan gi teknologi som vil følge opp dette. Men det skal implementeres – og gjøres endringer i mange prosesser. Det vil ta tid og koste ressurser. Det kan bli et spennede AI-år…

    Svar på denne kommentaren

Legg igjen en kommentar

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *. Les vår personvernserklæring for informasjon om hvilke data vi lagrer om deg som kommenterer.