nrk.no

Det umulige regnestykket

Kategori: Kommentar

Illustrasjon: Ståle Grut / NASA / Forsvaret

Kommentar: E-tjenesten ber oss om å godta masseovervåkning i det godes tjeneste, men snakker ikke høyt om at matematikken neppe går opp.

Si at det finnes to terrorister som planlegger et angrep mot Norge, og at de er dumme nok til å bruke åpen og ukryptert kommunikasjon som går gjennom E-tjenestens systemer (allerede her svikter logikken for enkelte av oss, siden vi nesten må anta at terrorplanlegging foregår over anonymiserte og krypterte kanaler).

Kommunikasjonen mellom de to lagres i Etterretningstjenestens database, sammen med flere hundre millioner andre opplysninger fra stort sett hele befolkningen, pluss en masse utlendinger.

Så har de et system de bruker for å søke i dataene, sikkert med ulike algoritmer som sorterer under begrepet «kunstig intelligens».

La oss legge til grunn at systemet finner de to terroristene og flagger dem. Det er jo bra.

Men så er det problemet med feilmarginer. Alle systemer har feilmarginer. Ingen unntak.

Selv de mest moderne maskinlæringsalgoritmer gjør feilkalkuleringer. Det er slik datamaskinen «lærer». Også E-tjenestens systemer vil ta feil og flagge en rekke mennesker som ikke er terrorister.

Sett at Etterretningstjenesten har ninja-programmerere som har klart å redusere feilmarginen til vanvittig lave nivåer. Kanskje systemet er så bra at det bommer i bare 0,5 promille av tilfellene. Det vil si at systemet tar feil i 1 av 2000 tilfeller.

Da er vi på en feilmargin som er langt lavere enn de beste allment tilgjengelige maskinlærings-algoritmene.

La oss så postulere at tjenesten sitter med informasjon om 6 millioner mennesker (de fleste voksne nordmenn og en masse utlendinger). Hvis systemet har en feilmargin på 0,5 promille vil det gi treff på 3 000 uskyldige mennesker. Pluss to terrorister.

Lykke til med å finne to rette.

Hvis hensikten er å avdekke trusler og å stanse utenlandske terrorister, må systemet i det minste ha bedre treffprosent enn du ville fått ved å kaste mynt og kron. Informasjonsmengden de ønsker å samle inn er rett og slett for stor og antallet skurker heldigvis for lavt til at det gir mening å prøve å lete etter enkeltindivider.

Jeg er ikke den første som gjør dette regnestykket for å illustrere det ubehjelpelige i å masseovervåke en hel befolkning for å finne noen få skurker.

Har du et grunnkurs i statistikk, kjenner også du til Bayes’ teorem.

Likevel er myndighetene villige til å undergrave selvsagte rettigheter, som innbyggernes krav til privatliv, kildevern og advokaters adgang til å ha fortrolig korrespondanse med klienter – for å nevne noen.

Dette og en rekke andre grunnleggende rettigheter er ikke bare attributter som kan manipuleres bort under en politisk tautrekking. Det er disse tingene som konstituerer demokratiet vårt.

Interessert i personvern, forbrukerrettigheter og sikkerhet?

Få et ping i postkassa hver gang vi publiserer noe interessant om teknologi eller medier!

Forsvarsdepartementet nærmest bagatelliserer forskningsbaserte fakta om den nedkjølende effekten overvåkningstiltak vil få på det offentlige ordskiftet, og peker på kampen mot ytre fiender som et nærmest altoverskyggende mål i seg selv.

I høringsnotatet til lovforslaget, sår Forsvarsdepartementet sågar tvil rundt holdbarheten av den forskningen som er gjort på nedkjølingseffekten, noe Datatilsynet kommenterer på denne måten:

Det er det ingen grunn til, nedkjølingseffekten har blitt påvist i en rekke studier og lagt til grunn av både EU-domstolen og Den europeiske menneskerettighetsdomstolen (EMD).

Jeg tror Etterretningstjenesten har folk som kan regne. Jeg tror de er klar over at nytteverdien trolig ikke er så stor i forhold til å forhindre enkeltstående terrorhandlinger, selv om de fremhever dette som det vesentligste formålet med datainnsamlingen.

Nytteverdien vil imidlertid være betydelig når de skal konstruere en rekke av indisier mot eventuelle mistenkte i ettertid. Og, kanskje mest av alt, kan data fra en slik database tenkes å være gull verdt som byttevaluta mot samarbeidende tjenester i andre land.

Fundamentet for den formålsutglidningen Datatilsynet og andre er bekymret for ligger der allerede, mellom linjene. Som journalist er jeg skremt over hvordan slike data kan bli brukt den dagen kilden min blir mer enn bare et hår i suppa for myndighetene.

Hvis den kilden i det hele tatt tør å ta kontakt med meg.

Les også NRKbetas forklaringsartikkel om hvordan systemet fungerer

47 kommentarer

  1. «allerede her svikter logikken for enkelte av oss, siden vi nesten må anta at terrorplanlegging foregår over anonymiserte og krypterte kanaler»

    altså, å beskylde andre for «sviktende logikk» når man selv er en tåpe blir noe rart.

    poenget med denne loven er jo faktisk å fjerne «anonymiserte og krypterte kanaler».

    TOR (som eksempel) er til stor grad eliminert som sikker kilde nettopp fordi man har god kontroll på trafikken inn og ut i nettverket via de forskjellige noder. man mangler noe (enkelte land), noe denne loven vil kunne fikse.

    kryptering er det pålagt operatører å omgå, og hvem tror at «omgå» ikke vil inkludere «sperre» om man ikke har anledning til å dekryptere.

    ellers kunne du gitt deg etter matematikken.

    den har gang på gang blitt bevist.

    man hadde data om 911, ABB mfl. men de klarte alikevel ikke fange det opp og stoppe det. der har du helt rett.

    Svar på denne kommentaren

    • Å forby kryptering er i praksis ikke mulig uten å fjerne hele grunnlaget for kommersiell virksomhet på internett. Du har misforstått fullstendig hvordan TOR fungerer om du tror man bare kan overvåke exit nodes for å fange opp kriminell aktivitet, det er ikke noe problem for en TOR-klient å lage en hidden service og en annen TOR-klient å koble seg til den.

      Egentlig trenger man ikke TOR en gang, det holder at den ene parten kjører en OpenVPN server og den andre en klient. Det vil være klin umulig å se forskjell på legitim og kriminell bruk av VPN.

    • Hei!

      Med den nye loven vil det fortsatt være fullt mulig å kommunisere kryptert, men det krever høyere teknisk kompetanse.

      Myndighetene vil ikke være i stand til å knekke ende-til-ende-kryptering uten tilgang til nøkkelmateriale. En normalt paranoid bruker holder seg klokelig unna tjenester der tilbyderen har kontroll på krypteringsnøklene, eller der klientprogramvaren baserer seg på lukket kildekode.

      Ut over dette er det få grunner til ikke stole på nummerteorien, algebraen og matematikken som ligger til grunn for åpne og anerkjente kryptografiske algoritmer. Selv gode, gamle RSA (som er fra 70-tallet) holder vann så lenge nøkkelen er lang nok -fordi det fortsatt er fryktelig tidkrevende for vår tids datamaskiner å faktorisere store primtallsprodukter, akkurat som for 50 år siden.

      Du er sikkert også klar over at det finnes teknikker som kan overføre krypterte data i det skjulte, selv der myndighetene pålegger operatører å blokkere krypterte datastrømmer de selv ikke kan dechiffrere. Derfor synes jeg ikke det er en tåpelig påstand, når jeg hevder at (teknisk orienterte) kriminelle fortsatt vil kunne kommunisere under radaren.

      Du har for øvrig et godt og viktig poeng når du påpeker at anonymiseringsnettverket TOR er utsatt for sterk grad av overvåkning. Mange er ikke klar over at trafikken ved endepunktene ikke nødvendigvis er kryptert.

      Men at den generelle anonymiteten i TOR skal være kompromittert i den grad du hevder, er nytt for meg. Vis gjerne til noen kilder som kan bekrefte dette 🙂

    • asdfasd (svar til asdfasdf)

      det er du som bør si noe om hvorfor de artiklene er feil, ved siden av din løse påstand.

      du har i praksis IKKE noe kjennskap til den forskning som er rundt temaet, men vil alikevel være fri til å påstå ting…

      og så lurer man på hvorfor det går til helvete.

    • Hei asdfasdf – jeg er genuint nysgjerrig. Hvis jeg lager et nøkkelpar på en maskin (gjerne uten nett-tilgang) og sender den offentlige nøkkelen til noen andre – og de krypterer en melding med min offentlige nøkkel – hvordan skal e-tjenesten/nett-tilbydere/andre dekryptere innholdet? Mener du at all form for kryptering er ødelagt? At alle krypterte meldinger (der myndigheter ikke har tilgang til privatnøkler) blir stoppa? Hilsen amatør og nysgjerrig

    • sdfgsdasdfa (svar til asdfasdf)

      > Hvis jeg lager et nøkkelpar på en maskin
      > (gjerne uten nett-tilgang) og sender den
      > offentlige nøkkelen til noen andre – og de
      > krypterer en melding med min offentlige
      > nøkkel – hvordan skal e-tjenesten/nett-
      > tilbydere/andre dekryptere innholdet?

      nei dette er i praksis umulig. og du kan forsøke å skjule dette vha for eks steganografi el.

      om du derimot sender meldingen via ordinære kanaler så er meldingen sporbar. ikke nødvendigvis innholdet.

      men man vil vite hvem avsender og mottager er. det er kan være nok for å gjette på meldingens innhold.

      og når meldingene er sporbare, og i mange tilfeller gjenkjennbare som krypterte, er det lett å omgå denne krypteringen ved å droppe denne trafikken.

      VPN vil dermed være ubrukelig siden man ikke får brukt dette.

      dette er allerede implementert i flere land, og det mange andre som er i ferd med å stille krav om master nøkler eller ingen kryptering.

    • Jon Borknøyfjord (svar til asdfasdf)

      Jeg bestrider påstanden om at NSM vet hvem avsender og mottaker er, selv med blankofullmakt. Du kan f.eks. kjøpe datamaskin kontant og bruke åpne Wi-Fi nettverk.

    • > Jeg bestrider påstanden om at NSM vet hvem
      > avsender og mottaker er, selv med
      > blankofullmakt. Du kan f.eks. kjøpe
      > datamaskin kontant og bruke åpne Wi-Fi
      > nettverk.

      Så da må du altså ubemerket få tak i kontanter, ubemerket gå inn på Elkjøp, og ubemerket bruke ett åpent wifi. på dette åpne wifi skal du, ubemerket, foreta deg noe noen ikke liker?

      og alt dette mens du gjør akkurat det samme som du alltid har gjort uten noe avvik fra ordinær rutine?

      og så skal du kaste og å repetere? eller gjenbruke samme taktikk med åpent wifi. igjen ubemerket.

      lykke til med det.

      also: inget signal er også signal…

    • Det ser ut som at du tror at du alt har fått gjennomslag for at ingen må bruke onion routing av noe slag (enten det heter Tor eller noe annet) 🙂

      Du stiller opp veldig absolutte forutsetninger, der du antar at absolutt alt som er teoretisk mulig for å spore deg vil være tilgjengelig for overvåkerne og vil bli tatt i bruk. Hvis de under slike forhold har en teoretisk mulighet for å fakke deg, da var det ingen vits i å prøve å beskytte seg, du kan like gjerne la være … Du sier ikke det i klartekst, men det er omtrent det inntrykket som henger igjen.

      Også for avlyttere er kost/nytte-forholdet av stor betydning. De vet ikke hva nytten er før de har lyktes i avlytting/sporing (de vet ikke at du ikke selger narkotika om de ikke leser all eposten din uten å finne spor av blomsterspråk). Hvis alle vi lovlydige øker kostnadene ved å alltid kryptere linja, og reduserer nytten ved å kryptere brevinnholdet, blir k/n-forholdet så dårlig at overvåkerne må ha veldig sterke indisier for å kaste bort ressurser på oss.

      Å spore asynkron trafikk, innimellom masse annet, er svært vanskelig. Et epost-ruter-nettverk kan bruke en halvtime eller mer på å få en epost til mottakeren. Å koble sammen at Hans Hansen sendte en epost kl. 12:43, og Jens Jensen mottok en epost kl. 13:25, ergo må de to ha kontakt med hverandre, blir lite pålitelig (særlig hvis epost-programmene legger på fyll opp til nest kbyte på alle meldinger, slik at ikke sending/mottak kan sammenholdes etter størrelse).

      All trafikk som er ute av nettverket på veien (dvs. med rutere over IP-nivå), selv for synkron trafikk (som telefoni), er ikke-trivielt å spore: TCP-forbindelsen inn til en telefonisentral som handterer fem tusen samband er uavhengig av TCP-forbindelsen ut til mottaker (eller til neste sentral). De kan ikke spore den gjennom nettet; de må kontinuerlig monitore samtlige endepunkter. De kommer ikke inn i mitt hus, og jeg har fiber inn som er vanskelig å avlytte utenfor – de må inn i ISPens utstyr. Det er selvsagt mulig, men knapt «diskret», og ISPen godtar det nok bare etter en rettskjennelse. Retten vil neppe gi kjennelse til å overvåke samtlige endepunkter kontinuerlig over lang tid.

      Du nevner at «inget signal er også signal…», som er sant nok, det kan skape mistenksomhet. (Jeg gjør alle hverdagsinnkjøp kontant, og hvis myndighetene blir interessert i meg vil de nok lure på hvorfor jeg ikke vil røpe for dem når jeg kjøper fullgjødsel… Diesel vet de når jeg kjøper; det går på kort, men det er ikke suspekt så lenge jeg har eksosbil.)

      Minst like mistenkelig er vel den ene mannen som finner det nødvendig å klistre igjen konvolutten når han sender brev, og kryptere epost. Hva er det han vil skjule? Jeg vil tilbake til den tiden da alle klistret igjen konvoluttene uten at det var suspekt. Vi bør få alle til å kryptere eposten sin, slik at det ikke er suspekt å gjøre det.

    • Katrine –

      «Hvis jeg lager et nøkkelpar på en maskin (gjerne uten nett-tilgang) og sender den offentlige nøkkelen til noen andre – og de krypterer en melding med min offentlige nøkkel – hvordan skal e-tjenesten/nett-tilbydere/andre dekryptere innholdet?»

      Som andre sier: Dette er så godt som skuddsikkert. Men det som ikke er sikkert, er om den offentlige nøkkelen faktisk kommer fra deg! Hvis noen har brutt seg inn på linja, maskerer seg som deg, og sender en offentlig nøkkel de påstår er din, da kan de lure motparten til å sende seg info som var ment kun for dine øyne.

      Dessuten: Hvordan vet du at meldingen du får, faktisk kommer fra den du tror? Din offentlige nøkkel er offentlig; alle har tilgang til den, og kan sende deg informasjon som tilsynelatende kommer fra den du tror, men du blir lurt. For å unngå det er det normale at meldingen både krypteres med avsenderens private nøkkel og med mottakerens offentlige. Du dekrypterer både med din private og avsenderens offentlige nøkkel. Bare hvis det fungerer, vet du at meldingen ikke er bløff.

      PKI, Public Key Infrastructure, viser til bruken av en utenforstående, pålitelig instans som utsteder et «sertifikat», som er den offentlige nøkkelen pluss annen info. Det mest essensielle er stempelet som viser at «Jeg går god for at denne offentlige nøkkelen faktisk tilhører den som er identifisert i dette sertifikatet – jeg har kontrollert det grundig!», stemplet med utstederens eget sertifikat (og eventuelt sertifikatet til en høyere instans som bekrefter at sertifikat-utstederen er den han utgir seg for). Dessuten er det info om hva sertifikatet gjelder for, og gyldighetsdato.

      Et sertifikat gjelder bare for en viss bruk. Kontrollene utstederen gjør avhenger av gyldighets-området. For et epost-sertifikat kan du få sertifikatet sendt til oppgitt epost-adresse, kryptert med den offentlige nøkkelen, og hvis du kan dekryptere det med din private, har du bekreftet at du har kontroll over både angitt epost-adresse og privat-nøkkelen. – Det er super-enkel verifisering!

      Skal du ha et sertifikat som bekrefter at du er en gitt person, tilsvarende et pass, må du legge fram langt mer omfattende bekreftelser, og som regel betale en langt høyere pris. (Epost-sertifikater er det mulig å få gratis – det var ihvertfall, for få år siden.)

      X.509 er en standard for slike sertifikater som er bekreftet av en autoritet. Når du sender av gårde en epost, kan du gjerne vedlegge sertifikatet; det avslører ingenting hemmelig. For en del år siden ble det gjort noen forsøk på å etablere «telefonkataloger» der du kunne slå opp sertifikatet til hvemsomhelst – de finnes sikkert fortsatt, men jeg har ikke inntrykk av at de er særlig vesentlige i dag. Du deler ut sertifikatet til de som trenger det.

      PGP er teknisk sett svært likt med X.509, men uten I’en, uten noen sertifikat-infrastruktur. Når du generer et nøkkelpar, lages også et «konsentrat» av den, kalt et «fingeravtrykk», på 16 (eller er det 32?) tegn. Når du sender din offentlige PGP-nøkkel til mottakeren, kan han konsentrere den til et fingeravtrykk, og f.eks. ringe deg opp, gjenkjenne deg på stemmen og småprat om felles interesser så han kan være sikker på at han snakker deg og ikke med en bløffmaker, og spørre: Var det du som sendte meg en offentlig nøkkel med fingeravtrykk sånn-og-slik? og du kan bekrefte eller avkrefte det.

      Slik personlig bekreftelse fungerer greit blant venner. Skal f.eks. helsevesenet sende ut konfidensiell info til vilkårlig klient, faller det i fisk. Det må være automatisert i en PKI-struktur, der du kan legge inn sertifikatet ditt samtidig med at du legger inn epost-adressen.

      Myndighetene burde ha etablert en katalog over X.509-sertifikater, tilsvarende telefonkatalogen.no, og de burde ha en offentlig tjeneste for utsteding av sertifikater. Tydeligvis er det null interesse fra det hold for å gjøre det enklere for vanlige borgere å kryptere eposten sin. Man kan undre seg på hvorfor…

    • Jon Borknøyfjord (svar til asdfasdf)

      > Så da må du altså ubemerket få tak i kontanter

      Ubetydelig: Kontanter spores ikke. Mynter har ikke en gang serienummer.

      > ubemerket gå inn på Elkjøp

      Også ubetydelig, datamaskiner blir heller ikke sporet.

      > og ubemerket bruke ett åpent wifi.

      Ubetydelig: Det er mange wifi-nett som er åpne nettop så du skal kunne bruke dem, f.eks. på kaféer. Ikke det at wifi-signaler er så veldig synlige til å begynne med.

      > på dette åpne wifi skal du, ubemerket, foreta deg noe noen ikke liker?

      Ja, noe så vanskelig som å sende en melding og får svar.

      > lykke til med det.

      Takk, men det er ikke nødvendig.

    • «det er du som bør si noe om hvorfor de artiklene er feil, ved siden av din løse påstand.

      du har i praksis IKKE noe kjennskap til den forskning som er rundt temaet, men vil alikevel være fri til å påstå ting…»

      Det er vanskelig å se hvem du referer til som «du», hva du referer til som «din løse påstand» og hvilke «de artiklene» du viser til.

      Hvis du identifiserer hvem som kommer med hvilke påstander og hvilke artikler du sikter til, blir det lettere å forholde seg til din argumentasjon.

    • asdytfgd (svar til asdfasdf)

      «du» var opprinnelig Espen. Og «de artikler» relaterer seg til ymse artikler om TOR og hvordan angripe det nettverket.

      hvis man kjenner de artiklene så vet man hva jeg snakker om, og så kan vi diskutere.

      hvis man ikke kjenner disse artikler, er det som å leke med ett barn, og ikke en diskusjon.

    • OK, om det er mer «voksent» å belegge sine utsagn med «ymse artikler om Tor» (og underforstått: Det utvalget av dem som umderbygger dine konklusjoner), da er nok ikke jeg voksen nok til å diskutere med deg. Jeg er nok såpass barnslig at jeg setter pris på konkrete kildehenvisninger. Det er ikke umulig at det gjelder også andre debattanter.

      Du får antagelig mer gjenklang for utsagnene dine om du oppsøker miljøer som har lest akkurat samme utvalg Tor-artikler som deg selv, og ut fra dem trukket akkurat samme konklusjoner som deg selv. Jeg tror ikke at NRKbeta oppfyller det kravet. Det er antagelig for mange barn her.

    • asdfsda (svar til asdfasdf)

      lol.

      hvilke andre kildehenvisninger er det som er forkommet her?

      jeg bare speiler mmiljøet jeg er i med løse påstander og løse referanser.

      det er ganske irriterende ja. det har du rett i.

  2. Ett godt poeng. Systemet vil flagge svært mange vanlige folk for omfattende overvåking. Og selvfølgelig vil folk gjerne unngå å riskere å bli flagget og dermed forsiktig med hva de sier i offentlige debatter, søker og leser på nettet, osv..

    Det største trusselen mot demokratiet er nettopp overvåking av folk.

    Svar på denne kommentaren

    • Alle går på do, men vi lukker likevel døren. De fleste har sex, men vi trekker likevel for gardinene.

      Kan jeg låne mobilen din, og legge ut alle bildene dine?

      Selv de som ikke gjør noe som helst galt, har ting de ønsker å holde privat.

    • Man møter jo på den der og andre varianter av «ingenting å skjule, ingenting å frykte» stadig vekk og det er og blir feil. De som faktisk mener det kan neppe ha sett særlig dypt på sitt eget privatliv.

      Ideen om at man bare ønsker å skjule det man gjør som er ‘galt’ er jo bare tull. Gå på do og ha sex er nevnt som åpenbare eksempler. Cheesy kjærlighetsbrev, planlegging av demonstrasjoner, kontakt med lege, bestilling av ‘kompromiterende’ resepter som antidepp eller viagra etc etc etc. De fleste gjør en masse ting på nettet som man rett og slett ikke ønsker at kreti og pleti kjenner til selv om det ikke på noen måte er ‘galt’.

      At slike ting i følge e-tjenesten ikke vil bli lest er ingen trøst. Om du nå feilaktig havner i søkelyset, noe som uten tvil vil skje med mange, så aner man ikke hvem som vil få innsyn ikke bare i meta data men også innhold. Det kan for alt du vet være en nabo, en venn eller familie.

      Og så har vi selvsagt gode gamle «slippery slope». Når alle data først er tilgjengelig kreves bare bitte små lovendringer, så kan det benyttes til mer og mer. Og vi sitter der som den berømte frosken i gryta.

    • Vi implementerer mekanismer som blir tilgjengelig for myndighetene, uansett hvem de er. I dag har vi bare «snille» myndighetspersoner, både i Norge og andre land (f.eks. NSA), som bare vil oss vel. 🙂

      Men samfunnsforhold endrer seg. Du skal ikke være gammel for å ha gjort noe tidligere i livet som var fullstendig tillatt den gang, men som i dag kan straffes med både bøter og fengsel – og det er endringer som har kommet uten spor av dramatikk, og i fredstid.

      Forestill deg de makthavere du frykter mest: Kan det overhodet tenkes at de vil komme til makten innen din levetid? Det er de du gir disse mekanismene i hendene. De kan ha helt andre ideer om hva du kan, og spesielt ikke kan gjøre ustraffet.

      Kommer du i en konflikt, og argumenterer med at «Det var fullt ut godtatt da jeg gjorde det!», så gjør ikke det deg til en moralsk person etter de nye makthavernes regler. Jfr. meetoo-aksjonene: Når det graves opp tjue-tretti år gamle historier (eller mer), og det man gjorde den gang settes opp mot dagens feminisme, hjelper det ikke den som blir anklaget at det han gjorde ikke bare var «godtatt», men slik man forventet den gang.

      metoo beviser at du kan aldri være trygg i framtida. Ingen kan i dag garantere at du ikke kan bli stilt til veggs for å dele seng uten å være gift, for å kjøpe alkohol, gi dine barn opplysning om vilkårlig emne, for å se filmer og lese bøker som i dag er helt kurante. (Hvis jeg skulle flytte til USA i dag, ville jeg måtte la en håndfull av bøkene mine ligge igjen i Norge, eller risikere å bli arrestert for besittelse av ulovlig materiale – bøker kjøpt helt ordinær over disk i en vanlig norsk bokhandel. Det samme gjelder forøvrig motsatt vei!)

      Du bør godta en mekanisme kun hvis du uten bekymring vil gi det i hendene på ethvert realistisk tenkelig styresett i landet, uansett dets politiske, moralske og religiøse orientering.

      Kan du ikke det, bør du tenke deg om to ganger før du sier «Det er greit – la myndighetene få det som de vil».

    • Utrolig dårlig lærdom. Implikasjonen blir – i tillegg til det som er sagt før her – at tilsynelatende har ingen noensinne noe de har et behov for å skjule. At en googledirektør kan mene at alt bør være tilgjengelig om alle, er en helt annen sak.

  3. Atle Solbakken

    Jeg tviler egentlig på at dette vil utgjøre noen trussel mot demokratiet. Å overvåke og få noe som helst nyttig ut fra kryptert trafikk er fullstendig håpløst på alle måter. Og ved dataangrep vil man uansett finne adresser til angripere (som regel andre hackede maskiner) i logger. NSA klarte å lure inn en bakdør i RSA, men man har lært siden den gang.

    Jeg betviler sterkt kompetansen til de som har utformet dette lovforslaget og som nå vil bruke 100 årsverk på å finne høy i høyet. De vet åpenbart ikke hvordan Internett fungerer. Samme problem var det også med DLD. Kanskje NRK beta kan skrive om RSA, DH, elliptic curves, DES, AES osv.?

    Svar på denne kommentaren

    • Jamil Dybwad (svar til Atle Solbakken)

      Kronikken nevner nedkjølingseffekten – så poenget er at vi blir i dårlig humør og tilbakeholdne av å tro at vi blir overvåket. Dataene kan også brukes til aktivt å påvirke oss når det gjelder handlinger og preferanser. Populisme, overforenkling og ensretting preger samtalene i samfunnet, så vi har ikke en samtale som bør trues til stillhet av nedkjølende tiltak.

    • Metaforer er morsomme – det er første gang jeg hører om å «finne høy i høyet», men jeg liker det språklig beslektede «Da hadde jeg ikke mye høy i hatten!»

      Dette er et totalt sidespor, men takk for et nytt innslag i lista over artige vrier.

  4. Artikkelforfatter trekker frem Bayes teorem som et motargument mot denne loven, når det er akkurat det teoremet som er grunnlaget for den. En automatisk grovsortering gjort av en datamaskin vil sette E-tjenesten i stand til å sette menneskelige ressurser inn på langt færre treff, nemlig slik at man kan ta seg av de falske positive og negative, samt de ekte positive. Videre (og her trenger man ikke en gang grunnkurs i etterretning), dreier dette seg også om å stanse de dummeste kriminelle, slik at ressursene kan settes inn på de farligste i større grad. Vanlige mennesker vil kanskje føle at privatlivet krenkes, men dette er ikke noe annet enn overvåkningskameraer i heisen på handlesenteret.

    Svar på denne kommentaren

    • Hei!

      Godt poeng. Det kan nok være at myndighetene tenker at systemet skal foreta et form for «shortlisting» av potensielle kandidater. Og det er en naturlig tanke.

      Men da må E-tjenesten samtidig gjøre en farlig antakelse: De må stole på at systemet faktisk klarer å fange opp de aller fleste skurkene. Ellers vil de neppe våge å se bort fra resten av datauniverset.

      Bayes’-teoremet tar i betraktning poenget med at ikke alle de ekte positivene nødvendigvis blir funnet. Faktisk kan man i verste fall risikere at ingen «ekte» skurker blir flagget av algoritmen.

      Skal de da bruke tid på å gå gjennom tusenvis av falske positiver uten egentlig å vite om de kommer til å finne den rette, eller skal man finne andre og mer målrettede former for etterretningsvirksomhet som kanskje treffer bedre enn masseovervåkning?

      Det var bare i mitt nokså forenklede regneeksempel, at vi forutsatte at systemet fanger opp alle de ekte terroristene. 🙂

    • Karsten Berg (svar til Karsten Berg)

      Til Espen: Ingen rettssystemer har vel hittil vært uten falske negative (som jeg tror du mener med «de ekte positive som ikke blir funnet»)? Kriminelle løslates, og vi har tilfeller av justismord på samvittigheten her til lands også.
      Videre klarer jeg ikke å forestille meg at selv den ondeste etterretningstjeneste ber om en lov som gir dem fullmakt til å skape et meningsløst pengesluk bare for å ha makt i overvåkning av uskyldige, jeg stoler faktisk på at de har kalkulert kost/nytte, og kommet frem til at dette er verdt tid og penger. I begynnelsen vil det som alle systemer ha barnesykdommer og vil trenge justeringer, uten at jeg tror at vi står overfor enorme tilfeller av justismord i den innledende fasen. Hvis det er ett produkt nå til dags som i så godt som 100% av tilfellene blir bedre ved bruk, så er det algoritmer.
      Vi kan ikke la være å innføre et system med nytteverdi for samfunnet selv om effekten ikke er 100% optimal første dag. Denne nettsiden er jo til og med kalt opp etter en prøvekjøringsmetode, så helt fremmed kan ikke tanken være for dere.
      Selvfølgelig skal vi ikke tillate holdningen som sier at «jaja, en og annen uskyldig dømt skal vi tåle i starten», det må åpenbart legges tung vekt på bevisførsel, dokumentasjon og nitid menneskelig vurdering før man reagerer på automatiske treff. Etterretningstjenesten skal jo heller ikke foreta seg noe innenfor rettsforfølgelse, etterforskning og arrestasjoner må forbli en politioppgave, og deretter skal domstolene stå for det siste filteret. De to siste leddene i rettsikkerheten er jo allerede etablert, og vi er ikke akkurat det verste landet i verden på dette. Folk flest reagerer mest på at «forbrytere går fri».
      Vi kan ikke sitte på hendene og vente til noen kommer med en metode som gir overveldende konsensus om effektivitet, rettsikkerhet og garanti mot overvåkning blant hele befolkningen før vi tar i bruk digitale verktøy i stor skala. Tiden er ikke på vår side på noen måte, og dette er ikke et verktøy som vil føre til stor eller irreversibel skade eller inngripen i uskyldige borgeres liv og levned.

    • Allerede med bombene i London-undergrunnen (2005) reagerte jeg så sterkt da det skjedde at jeg noterte ned hvor lang, eller rettere sagt kort tid det tok før terror-politiet kom med nye avsløringer. Offisielt var aktørene totalt ukjente for politiet på forhånd, hadde aldri på noen måte vært i politiets søkelys.

      24 timer etter at bombene smalt, var det helt utrolig hvor grundig aktørenes liv var kartlagt. Ikke minst alle detaljene om hvordan de var kommet seg til London langs ulike ruter, hadde etterlatt en bil på en parkeringsplass i en by på halvvegen og gått over på toget der, og … Etter 48 timer var deres religiøse utvikling kartlagt, deres kontaktnett etc. etc.

      Detaljeringen var på et så avslørende nivå at det var helt åpenbart at politiet umulig kunne ha innhentet og analysert all denne informasjonen fra «originalkilder» på ett til to døgn. En vesentlig del av det som ble «avslørt» ha blitt funnet ved å søke i allerede innsamlet informasjon. Til tross for at personene aldri hadde vært i politiets søkelys.

      Nå var det jo her snakk om muslimer og de må vel regne med å bli overvåket av myndighetene, selv om ingenting knytter dem til suspekt aktivitet… De er jo … de er jo muslimer, må vite! De kan ikke forvente beskyttelse av menneskeretter og slikt!

      Vi hadde et annet tilfelle i Norge for en del år siden: «Faiza-saken» der ei ungjente ble kidnappet og kjørt bort i bagasjerommet i en bil. I bagasjerommet klarte hun å få opp mobilen sin og ringe politiet, som sporet mobilen gjennom Oslo og ut «på landet». Der var avstanden mellom basestasjonene så stor at kidnappernes bil smatt ut på en sidevei uten at det ble oppdaget. De slapp unna og saken fikk dessverre fatal utgang. Men politiet var stolt av hvordan de hadde sporet bilen ganske langt, og avslørte for folk flest at politiet med et enkelt tastetrykk kan spore bevegelsene til enhver mobil i hele landet.

      Reelt har politiet «alltid» hatt loven bak seg, men «folk flest» har trodd at alt slikt måtte godkjennes av en dommer: Nå ble det klart for allmennheten at det slett ikke er tilfelle. Mener politiet at «Det har vi ikke tid til!», da kan de gjøre som de vil, når som helst. I prinsipp skal de i ettertid be en dommer om tilgivelse. Jeg har aldri hørt at noen ekstern instans har gjennomgått politiets systemer og gått god for at det er umulig å «trykke på knappen» uten at det blir loggført og kan jamnføres med hva politiet faktisk røper overfor en dommer at de har gjort.

      Så lenge politi og overvåking kan vise til «Se så flinke vi er til å avsløre grusomme kriminelle forbrytere!» jubler folket og lukker fullstendig øynene for at metodene politiet bruker dekker adskillig mer enn bare de «grusomme kriminelle»; de kan også omfatte deg og meg. De overvåke deg og meg for å kunne slå fast at vi ikke er kriminelle!

      Et annet aspekt: Politi/overvåking skal slette logger innen x måneder (x er litt avhengig av hva slags logg det er snakk om). For det første har jeg null tro på at alle backups, sikringskopier, slettes (det ble jo også bekreftet av Telenor i Baneheia-saken). Langt mer viktig: Det som skal slettes er bare loggene, rådataene. Ikke de slutninger overvåking/politi trekker på grunnlag av dem. Bygger de opp, i sin egen database, en modell av hvem som har kommunikasjon med hvem, blir ikke informasjon i denne basen slettet når grunnlags-materialet er x måneder gammelt!

      For DLD må politiet eksplisitt begjære utlevering av ISPens logger innen x måneder, og de må ha en identifisert grunn til det. For DGF snakker vi om at overvåkingen skal ubetinget ha tilgang til alt, uten å måtte gi noen grunn. Hvis de får mistanke om at du kan ha vært borti noe, kan de søke i alt sitt materiale, og ekstrahere det som gjelder deg og alle dine kontakter, atten måneder tilbake i tid, og overføre til andre databaser. Så sletter de loggen i henhold til loven, men beholder informasjonen…

      Neida, ingen av våre myndigheter ville finne på å gjøre noe slikt, ville de vel? De er jo «good guys»! Er alle våre politikere, i dag og i framtida, garantert å være «good guys»? Vil alle norske innbyggere vurdere dem som det, uavhengig av partitilhørighet, religion eller moralsyn?

      Vi som er snille, parti-tro, moralske og hederlige borgere, vi har jo ingenting som verken politi eller overvåking er interessert i. Så om vi begynner å kryptere all vår datatrafikk og maskere hvem vi kommuniserer med, er det uansett noe overvåking og politi ikke bryr seg om. Så la oss gjøre det, da!

  5. Thorvald Arne Randulff Nielsen

    En del av å sikre seg økt sikkerhet og robusthet for Norge burde vel være å legge kabler som reduserer dataflyten gjennom Sverige som ved lov masseovervåker alt som går innom Sverige. Sverige kan antas å bli mer og mer ustabilt framover i tid, så derved er det vel stor sannsynlighet for at en terrorist vil komme nettopp fra Sverige. Ved å legge så mye og gode kabler at svenskene begynner å «route» via Norge, så kunne man da fått tilgang til å avlytte svensk data hvor terrortrusselen har stor sannsynlighet å komme fra.

    Når det gjelder kostnadssiden burde man kanskje heller prioritere dette framfor å kaste titalls milliarder av kroner regelrett i havet ved å elektrifisere sokkelen framfor å generere kraft der og pumpe avgassene ned igjen i reservoarene for å opprettholde trykket og redusere CO2-utslippene mer effektivt sett i et globalt perspektiv. Det hjelper lite å elektrifisere norsk sokkel når det medfører et større totalt utslipp (mindre for Norge, mer totalt globalt).

    Ergo – så kan disse midlene brukes på fiberkabler i stedet til eksempel.

    Svar på denne kommentaren

    • Når norske nettoperatører leier «svart fiber» gjennom Sverige hindrer ingen dem i å kryptere alt som går på lina en bloc, slik at det er fullstendig utilgjengelig for svensk overvåking. De bare må velge å gjøre det!

      Det gjelder ikke bare Norge-til-Norge-trafikk: Hvis f.eks. Uninett ruter masse trafikk relatert til et felles-prosjekt mellom NTNU og et kinesisk universitet, er det ingenting i veien for at Uninett krypterer all trafikken som går gjennom Sverige til den kinesiske ruteren. De bare må velge å gjøre det.

      Det eneste svenskene da kan avsløre er trafikkvolumet. Når linja fører hundrevis eller tusenvis av forbindelser røper heller ikke det stort.

  6. Espen Andersen, er forutsetningen om at overvåkingen gjelder terror riktig?
    Jeg har lenge tenkt på samme måte som deg når det gjelder muligheten til å oppdage enkeltpersoner som planlegger terror. Den er langt på vei illusorisk. Det tror jeg våre etterretnings- og sikkerhetstjenester også forstår.
    Jeg har sikkert fulgt for dårlig med, men jeg har trodd at behovet for overvåking av datatrafikk inn/ut av landet, gjelder truslen fra statlige aktører som forbedrer cyberangrep mot kritiske samfunnsfunksjoner som ledd i nye konsepter for hybrid krigføring. Vi har avdekket at «disse» stadig «øver seg» og at vår evne til å avdekke og avverge bør forbedres.
    Likefullt er jeg enig i at vi ikke kan godta overvåking i strid med personvernlovguvningen.

    Svar på denne kommentaren

    • Hei og beklager seint svar!

      Etterretningstjenesten er ansvarlig for sivil og militær etterretning i utlandet. Som del av dette, skal de i aller høyeste grad konsentrere seg om å avdekke terrortrusler fra utlandet.

      Å beskytte norsk IT-infrastruktur mot cyberangrep er imidlertid hovedoppgaven til en av de andre hemmelige tjenestene, nemlig Nasjonal Sikkerhetsmyndighet (NSM), særlig gjennom den underliggende enheten NorCERT. De forvalter blant annet det såkalte varslingssystemet for digital infrastruktur (VDI). Her er hovedformålet nettopp å avdekke alvorlige dataangrep mot samfunnskritiske systemer og databaser. NRK er en del av VDI-samarbeidet, og heller ikke dét er uten implikasjoner for det journalistiske kildevernet. Vår nåværende etikkredaktør Per Arne Kalbakk skrev litt om akkurat det på NRK Ytring i 2014, mens han var nyhetsdirektør.

      Etterretningstjenesten har en annen rolle. De skal konsentrere seg om personer og organisasjoner i utlandet, og hvis vi går til høringsnotatet om forslag om ny lov om Etterretningstjeneste, ser vi at departementet flere steder refererer til terrortrusselen. På side 118 i høringsnotatet finner vi en kort, innledende setning som egentlig oppsummerer dette ganske bra:

      Samtidig som trusselbildet har endret seg og internasjonal terrorisme har ført til at Etterretningstjenesten må følge med på norske personer i utlandet, har den teknologiske utviklingen akselerert. (…)

      Lenger ned på samme side begynner en redegjørelse for hvorfor dataene må samles inn og lagres i et så stort omfang:

      I punkt 9.5.6 redegjøres det nærmere for at det i moderne kommunikasjonsetterretning er teknisk umulig å tolke og sammenstille rådata, herunder utføre analyse, utvalg og filtrering, mens de er i transitt. Rådataen, som er ubearbeidet eller automatisk bearbeidet informasjon i enhver form hvis etterretningsverdi ikke er vurdert, må derfor lastes ned og lagres, for at det i det hele tatt skal være mulig å finne de informasjonsbitene om utenlandske forhold som er interessante. Dette kan eksemplifiseres med det mye omtalte nålen i høystakken-eksempelet, som tilsier at man må ha tilgang til relevante deler av høystakken for å kunne finne nålen. I bulk-innsamling vil de kommunikasjonsstrømmer som har størst etterretningsmessig verdi selekteres ut. I denne prosessen følger det, teknisk uunngåelig, med trafikkdata som ikke er av interesse. Ved senere evaluering av dataene vil slike data klassifiseres som overskuddsinformasjon. Overskuddsinformasjonen vil kunne inneholde trafikkdata relatert til norske personers kommunikasjon, selv om dette ikke er intendert.

      Jeg tror ikke det er en urimelig tanke at E-tjenesten ser for seg å bruke nettopp maskinlæring og AI for å, som de skriver, «finne de informasjonsbitene om utenlandske forhold som er interessante», noe som bringer oss rett inn i problemstillingen med feilmarginer. Avsnitt 8.4.2.2 på side 122, med tittelen «Tvilstilfeller» er i denne sammenhengen spesielt interessant lesning, fordi det understreker nettopp poenget med at datagrunnlaget i en innledende fase av etterforskningen er mangelfullt, og at man ikke kan være for restriktiv med hvem man inkluderer i uttrekkene. Jeg hitsetter:

      Gitt dagens grenseoverskridende trusler, både hva gjelder internasjonal terrorisme og digitale trusler, som tilsier at etterretningsmål beveger seg og kommuniserer over landegrensene, antas det nettopp å være en del tilfeller der tjenesten vil være i tvil om hvor en trusselaktør eller annen etterretningsrelevant person oppholder seg. I dag praktiseres i disse sakene prinsippet om alminnelig sannsynlighetsovervekt. Det betyr at det er tilstrekkelig at informasjonen som Etterretningstjenesten besitter eller klarer å fremskaffe gir minimum 51 prosent sannsynlighet for at det anførte faktum er riktig for at faktumet kan legges til grunn. Et strengere krav, eksempelvis kvalifisert sannsynlighetsovervekt, antas i slike saker å vesentlig vanskeliggjøre tjenestens oppdragsløsning.

  7. Dette handler om Makt. Folk skal overvåkes, holdes i sjakk. Du tenker deg om to ganger før du skriver det du mener, deltar i politisk virksomhet eller varsler om korrupsjon til en journalist. Hvor hvit som snø må din ungdomtid være for at du ikke kan bli presset til å «gjøre det rette» i fall du senere blir politiker eller posisjon med makt/authoritet. Det føles kansje litt fjernt for oss her i Norge, men slik overvåkning er også meget kjekk å ha når horder av gule vester er ute i gatene. Finn lederne deres og knus opposisjonen. Terrorister er ingen trussel mot klikken på toppen. Og nå kan de bare definere deg som «terrorist» og vips er dine rettigheter kastet ut vinduet. IS kommer aldri til å overta Norge uansett hvor mange terror-angrep. Bare egen befolkning kan true status-quo gjengen der oppe i teppeland. Krigen mot terror, er en krig mot Deg og Meg.

    Svar på denne kommentaren

  8. Det første spørsmålet er:
    Ville dette stoppet den terroren vi har opplevd ? Nei
    Ville dette stoppet terror slik vi har sett den i Sverige og Danmark ? Nei
    Har da hele planen noe håp om å gi noe … sannsynlig ikke..
    Bruk heller disse resursene på å være tilstede på nett og IRL…

    Svar på denne kommentaren

  9. Siden det er tonnevis med it kommentarer vil jeg skyte inn litt fakta.

    Amerikansk etteretning har fastslått mesteparten av kommunikasjonen etjenesten leter etter finnes ikke over Internett. Det er meldinger levert på gamlemåten med kurer.
    Dersom det kommuniseres elektronisk er det ofte via satellitt telefon som kan kjøpes usporbart i utlandet, usporbart kontantkort fra utlandet, og sender ikke via bakke stasjon men direkte via satellitt.

    Så som kriminelle narko selgere bærer de ikke mobil, skriver ikke noe på nettet med eposter eller noe som kan brukes mot dem.

    Så hva oppnår man? Masseovervåkning av uskyldige. Med nedkjølingseffekt på kjøpet. Man kompromitterer frihet og demokrati i noe som gir bortimot null nytte effekt. Så kan man spørre seg om hvorfor? Er det for man ønsker nedkjølingseffekt, mindre frihet og forvitring av demokratiet?

    Svar på denne kommentaren

  10. Espen Andersen, er forutsetningen om at overvåkingen gjelder terror riktig?
    Jeg har lenge tenkt på samme måte som deg når det gjelder muligheten til å oppdage enkeltpersoner som planlegger terror. Den er langt på vei illusorisk. Det tror jeg våre etterretnings- og sikkerhetstjenester også forstår.
    Jeg har sikkert fulgt for dårlig med, men jeg har trodd at behovet for overvåking av datatrafikk inn/ut av landet, gjelder truslen fra statlige aktører som forbedrer cyberangrep mot kritiske samfunnsfunksjoner som ledd i nye konsepter for hybrid krigføring. Vi har avdekket at «disse» stadig «øver seg» og at vår evne til å avdekke og avverge bør forbedres.
    Likefullt er jeg enig i at vi ikke kan godta overvåking i strid med personvernlovguvningen.

    Svar på denne kommentaren

    • Vær klar over at signatur «keal» nå er tatt i bruk av en annen person enn undertegnede, som har benyttet det i årevis uten at andre har «kuppet» det.

Legg igjen en kommentar

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *. Les vår personvernserklæring for informasjon om hvilke data vi lagrer om deg som kommenterer.