nrk.no

Ny EU-lov mot overgrepsmateriale kan føre til omfattende overvåkning

Kategori: Samfunn

Lovforslag: Personvernforkjempere frykter ny EU-lov kan åpne døren for masseovervåking av privat kommunikasjon. Foto: Annika Byrde / NTB


Ledende eksperter har tidligere advart mot å skanne mobiler for overgrepsmateriale. Nå vil EU pålegge selskaper å oppdage overgrepsmateriale på deres tjenester. Eksperter frykter for konsekvensene.

Onsdag la EU-kommisjonen frem et forslag til en ny lov som kan få store konsekvenser for nordmenns digitale liv. Lovforslaget er ment å bedre beskytte barn mot overgrep, men rettighetsgrupper har lenge vært bekymret for at det kan undergrave retten til privatliv og sikker kommunikasjon.

Kommisjonen forklarer at lovforslaget vil innebære at selskaper i EU blir pålagt å «oppdage, rapportere, og fjerne overgrepsmateriale mot barn uavhengig av hvor det oppstår, samtidig som de fundamentale rettighetene til brukerne er beskyttet».

– Dette forslaget legger opp til en overvåkningsmaskin som vi aldri har sett maken til i demokratiske land, og er det nærmeste vi kommer autoritær kontroll over digitalt innhold på samme måte som de gjør i Kina, sier stipendiat Tjerand Silde ved NTNU.

Den profilerte teknologen Alec Muffett lekket tirsdag et utkast til lovforslaget. Han er svært kritisk:

– I dag er dagen EU erklærer krig mot ende-til-ende kryptering, skriver Alec Muffett på Twitter.

Muffett har ledet arbeidet med å innføre ende-til-ende-krypterte meldinger på Facebook Messenger. Slik kryptering gjør at kun personene som kommuniserer vet hva som blir sagt eller skrevet.

Lokal skanning

Lovforslaget til EU går ikke konkret inn på teknologien som skal benyttes, men Tjerand Silde og Alec Muffett mener i praksis vil innebære å lokalt skanne informasjon som skal sendes mellom to personer.

Målet med lovforslaget er å oppdage og stoppe deling av overgrepsmateriale og hindre at barn blir utsatt for «grooming».

KRITISK: Stipendiat Tjerand Silde er kritisk til teknologien og mener nytten ikke forsvarer nedsidene. Foto: Kai T. Dragland

– Hva har forslaget å si for norske nettbrukere?
– Dersom denne EU reguleringen blir adoptert i Norge så betyr det at kommunikasjonen til alle norske nettbrukere vil bli analysert når det sendes, og kan potensielt bli rapportert og anmeldt. Det vil være uklart hva som skannes for, og vi kan forvente at ting vil gå galt, som i praksis vil føre til falske rapporter og uskyldig utestengte brukere, sier Silde.

Apple satt lignende system på vent

En rekke høyt respekterte akademikere og teknologer advarte i fjor høst mot å innføre denne typen teknologi. De mente at skanning av innhold lokalt på en digital enhet, gjerne forkortet til CSS, i ytterste konsekvens kan svekke demokratiet.

– Introduksjonen av skanning på våre personlige enheter – enheter som lagrer informasjon fra våre gjørelister, tekstmeldinger og bilder – går midt imot enkeltborgeres behov for personvern. Denne formen for masseinnsamling kan føre til omfattende nedkjølingseffekter på ytringsfriheten og faktisk på selve demokratiet, skrev ekspertene i en artikkel publisert på forskningsnettstedet arXiv.

– Vi mener at CSS verken garanterer effektiv kriminalitetsbekjempelse eller forhindrer overvåkning. Faktisk er effekten det motsatte. CSS vil skape alvorlige sikkerhets- og personvernsrisikoer for hele samfunnet, men hjelpen det kan gi politimyndigheter i beste fall er problematisk, skrev de.

Advarselen kom etter at Apple foreslo å innføre tiltaket i USA og på sikt i resten av verden. Apple har satt initiativet på vent og det er foreløpig usikkert om det på sikt vil innføres.

Rettighetsgrupper kritisk

I mars publiserte den digitale rettighetsorganisasjonen EDRi et åpent brev som advarte mot forslaget.

– Vi mener det å ty til enkle teknologiske løsninger ikke bare er ineffektive, men kan føre til utilsiktede konsekvenser for personvernet til alle menneskers kommunikasjon, inkludert barna og overlevende etter misbruk, står det i brevet 47 organisasjoner har stilt seg bak.

Leder for IT-politiskforening i Danmark, Jesper Lund, er svært kritisk til det endelige lovforslaget. Hans organisasjon samarbeider med EDRi.

– Forslaget er et åpenbart angrep på kryptering selv om EU-kommisjonen påstår noe annet, skriver han til NRK.

Onsdag kl. 14: Saken er oppdatert med sitat fra Jesper Lund og man har siden publisering lagt til et ekstra sitat fra Tjerand Silde.

19 kommentarer

  1. Apple valgte å ikke implmentere dette, men dette er ikke noe nytt.

    Adobe gjør det allerede:
    https://www.adobe.com/legal/lawenforcementrequests/childsafety.html

    Google gjør dette:
    https://support.google.com/transparencyreport/answer/10330933?hl=en#zippy=

    Facebook gjør dette:
    https://research.facebook.com/blog/2021/02/understanding-the-intentions-of-child-sexual-abuse-material-csam-sharers/

    Det som kanskje er viktigst for oss å vite er vil en slik EU-lov gjøre dette obligatorisk for alle tjenester som opererer innenfor EUs grenser?

    Svar på denne kommentaren

    • Erlend Larsen (svar til Jimmy)

      Men de gjør det når du bruker tjenestene deres og som en del av tjenesten. Forslaget fra EU vil medføre skanning av data på brukerens enhet, ikke som del av en tjeneste. Stor forskjell, siden du ikke kan velge det bort.

    • Jimmy (svar til Jimmy)

      Erlend, vi har egentlig samme spørsmål:) Om denne EU-loven blir virkelighet, har man et enkelt valg som å slå av en tjeneste eller må man helt avstå fra å bruke tjenesten?

      Og Apple gikk faktisk ut når det stormet som værst om dette at filer blir skannet på din enhet før de lastes opp til iCloud. Så om du ikke ville ha dine bilder skannet så kunne du slå av sparing av bilder i iCloud.

  2. Det minner om nye regler som har kommet pga feks krig mot terror/narkotika, de bruker det som unnskylding men det går bare utover hverdagsfolk ved feks ransakelser av minoriteter.

    Tanken er god, men det åpner slik at de kan finne ut at ikke bare overgrepsmatriale er ulovlig, kanskje visse meninger og ytringer plutselig. Mye av slik overvåking gjør myndighetene nå uansett, men dette lovliggjør det.

    Svar på denne kommentaren

  3. Ørjan tufte

    Politiet kan starte å scanne sine egne for innside, lobby, korrupsjon, ulovlig vold, bestikkelser, råkjøring, rasisme og andre uloveligheter.

    Paradokset er at de ikke vil gjøre dette, men de vil øke kontrollen over vår befolkning. Politiet har tapt nok omdømme de siste årene, men mer overvåkning ønsker de.

    Tenk å scanne alle mobiltelefoner som be veger seg over fartsgrensen i område. Da kan man jo fakturere halve Norges befolkning.

    Skal være forsiktig med denne tankerekken, der vi får en super politi ai som skal lete igjennom private data for å finne potensielle lovbrudd.

    Svar på denne kommentaren

  4. Slike tiltak minner mest om totalitær galskap. Neste steg er vel scanning for uønsket politisk innhold.
    Jeg har forresten nakenbilder av barna hengene på veggen, f.eks. en ekstatisk glad ett-åring i badebalje.
    Dersom lignende bilde blir tatt i fremtiden går vel automatikken amok og en kan glemme alle slags tillits/trenerverv for resten av livet. Antageligvis etter å ha tilbrakt tid hos myndigheter hvor en har blitt pålagt å bevise sin uskyld.
    Den som bytter frihet mot sikkerhet fortjener ingen av delene.

    Svar på denne kommentaren

    • Nils (svar til Frank)

      «Uaktsom seksualisering av barn» er desverre et begrep som kommer til å dukke opp når slike saker omtales.

  5. Erik Fossum

    Facebook «scanner» og stanser ting i kommentarer på Messenger allerede.

    Apple scanner alle bilder du tar og tagger de med hva som er i bildet (bare åpne bildeappen og søk på «bil» eller «mat» og se at den sorterer).

    Lagringstjenester som Dropbox osv. scanner allerede for overgrepsmaterialer når du laster opp ting.

    Hvorfor er det en outrage akkurat nå?

    Svar på denne kommentaren

    • Må si meg enig der. Dette er ikke noe nytt. Største forskjellen er jo at Apple valgte å legge alle kortene på bordet før de implementerte det. De andre store har gjort dette i mange år uten at noen har klaget før nå.

      Ja, en EU-lov kan gjøre det slik at dette blir raskt et krav hos alle, men for mange som allerede bruker tjenester som Facebook og Google så blir det ikke mye til endring her.

    • At selskaper scanner sitt eget utstyr for diverse data er greit. Dvs skybaserte data. Data i skyen bør regnes som offentlig uansett, den enkelte har ingen som helst kontroll.

      Her er det derimot snakk om scanning av MITT PRIVATE utstyr, altså helt lineært med at staten forlanger videokamera hjemme hos meg for at de skal kunne følge med.

    • Frank, tingen er at det er gjort i en gråsone slik det er foreslått. Skanningen skjer ikke før du skal laste opp i skyen. Så du står der med valget, at vil du ikke skanne så bruker du ikke tjenesten.

      Så det er ikke så stor forskjell fra hva som blir gjort hos Facebook og Google. Der blir ikke din data skannet før den treffer skya. Noe som har blitt gjort i flere år nå uten at folk har klaget på dette.

      Som nevnt. Det ble ikke leven om det før Apple ville legge alle kortene på bordet. De kunne gjort som Adobe, Facebook & Google og gjøre det litt mer stille, og ingen hadde brydd seg.

    • Jimmy, jeg er uenig. Slik loven/direktivet står beskrevet vil ende-til-ende kommunikasjon også pålegges scanning av innhold.
      Det vil si scanning av data som aldri lagres i skyen, ergo blir dette scanning av data på den enkeltes private enhet.

      Dette er et prinsipp er jeg sterk motstander av. En skal være varsom med å la måler forherlige middelet.

  6. Mine tanker

    Kriminelle som utnytter barn kommer så klart at finne veier utenom denne loven. En lov som da i praksis vil fungere som masseovervåkning av bland annet journalister og vanlige mennesker. De kriminelle kommer fjerne informasjon og finne andre veier mens ytringsfrihet og retten til privatliv for vanlige mennesker kommer svekkes betydelig, slik som i Kina. Politiet kan så klart allerede overvåke kriminelle og deres telefoner hvis de har en misstanke og kan helt sikkert også se krypterte chatter, noe som er bra hvis en dommer eller lignende har godkjent saken slik at det finnes demokratiske grunner.

    Som pappa er det for meg viktigt at etter hvert lære barna at kryptere sin informasjon på nettet slik at den ikke kan bli misbrukt av andre på en enkel måte. EU´s innføring av GDPR skal de ha all heder før men dette lovforslaget vil kunne sette bland annet HBQT, politiske motstandere og journalisters liv i fare.

    Er stor sannsynlighet at loven kan og vil bli misbrukt på en rekke ulike måter og at informasjon løper stor risiko at komme på avveier. Barn og voksne må ha rett at ta bilder, diskutere om EU, krig, politikere og det meste uten at bli overvåket, hvis ikke lever vi snart i et elektroniskt diktatur hvor ingen stoler på hverandre.

    Svar på denne kommentaren

  7. Frank R. Haugen

    hackere, ekstremister, narkotika, overgrep, pornografi, blasfemi, homofili og masse annet som den vanlige borger synes er gode grunner til å gi ifra seg friheter og rettigheter… Det blir som når Kripos tidligere flagget folk som brukte VPN fordi hvis man brukte VPN så drev man med ulovligheter…

    Man finner alltid en vei rundt, fordi den konkrete ordlyden av loven kommer til å ha smutthull, og rent praktisk så vil det være umulig å br ut jeg en enhet som bruker batteriet sitt på å kjøre maskinlæringsalgoritmer på tekst, lyd, bilde og video hele tiden.

    Og hva er terskelen? Hvis jeg laster ned en fagtekst om overgrep, eller kanskje seksualundervisningsmateriale, ett bilde av meg selv som nakent barn på en skinnfell til og med skriver noe i en chat ironisk som ute av kontekst, vil dette da trigge hvaenn algoritme?

    Jeg ser ikke for mye at dette kan realiseres

    Svar på denne kommentaren

  8. Dette var overraskende kost fra systemlojale NRK beta.

    Kritikk av EU og tilogmed hint om en konspirasjon er jo ekstremt sjeldent, nærmest fraværende i dag.

    Hersketeknikkene Russland, konspirasjonsteorier, desinformasjon osv. er jo veldig sterke og hindrer nesten all motstand mot konsensus.

    Men de sa fra i Danmark og EDRi og da var det vel trygt å henge seg på.

    Svar på denne kommentaren

  9. Lurer på hva NRKBeta driver med når de ikke publiserer artikler. De kommer jo et par ganger i måneden, det må da være mulig å i det minste gi litt innsats og noen få artikler mer.

    Svar på denne kommentaren

    • Martin Gundersen (NRK) (svar til Navn)

      Heia! Vi er ikke verdens største redaksjon og vi har bidratt inn i NRKs dekning av krigen i Ukraina med å verifisere bilder og videoer.

Legg igjen en kommentar

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *. Les vår personvernserklæring for informasjon om hvilke data vi lagrer om deg som kommenterer.