På mobilen har jeg 160 apper. Nøyaktig hva de gjør er jeg egentlig ikke sikker på. Men det bestemte jeg meg for å finne ut av.
Read the English version of the article.
Jeg har en følelse av at appene spionerer på meg. Ikke at de lytter på hva jeg sier, men at de vet hvor jeg er. At de deler mine minste bevegelser videre. Når jeg er på butikken, ute på byen eller med venner.
Jeg vet det finnes noen som kjøper og selger slik informasjon. Hvordan sporer de oss og hva vil de egentlig med våre data?
For å få svar på disse spørsmålene startet jeg i februar et eksperiment. Jeg skaffet meg en ekstramobil og installerte massevis av ulike apper. Den skulle jeg så bære med meg overalt.
Eller nesten da. Jeg lot den ligge igjen hjemme da jeg tok en koronatest den 6. april.
Lett å misbruke
Det er en god grunn til at følelsen av å bli overvåket har blitt sterkere med årene. I vår var jeg en del av et NRK-team som dokumenterte at over 8300 mobiler ble sporet mens de oppholdt seg på sykehus og krisesentre.
I bytte mot 35.000 norske kroner hadde vi fått tilgang på stedsdata som viste hvor titusenvis av nordmenn hadde beveget seg i 2019.
En av dem var 31 år gamle Karl Bjarne Bernhardsen fra Stavanger. Informasjon gjorde at vi enkelt kunne identifisere ham, selv om selgeren hevdet dataene var anonymisert.
Da vi ringte ham kunne vi fortelle ham hvor han hadde vært, nesten dag for dag, gjennom 2019. Dyrepark. Jobbintervju. Og på sykehus, hvor han hadde vært i flere dager da han ble far for første gang.
– I feil hender kan det bli misbrukt av hvem som helst, sa Karl til oss da han sto frem med sin historie om å bli sporet.
– Et forræderi
Det er et vanlig refreng at kommersiell overvåkning ikke er så farlig: «Det brukes jo bare til annonser.» Men det er etter hvert blitt mange som er ute etter sporene som mobilene våre legger igjen.
Nylig avdekket nettstedet Vice Motherboard at det amerikanske militæret kjøpte data om mobilbevegelser og at en muslimsk bønneapp sendte slike data til selskaper innen den amerikanske forsvarsindustrien.
«Det føles som et forræderi», var reaksjonen fra lederen av en forening for islam-amerikansk samarbeid.
I 2018 ble eieren av en nedlagt Kentucky Fried Chicken-restaurant i grensebyen San Luis arrestert. Han skal ha bidratt til å bygge en tunnel mellom Mexico og USA for å smugle narkotika under grensen.
Operasjonen skal ha blitt avslørt delvis på grunn av at immigrasjonsmyndighetene (ICE) analyserte kommersielt tilgjengelig informasjon om mobilbevegelser, ifølge Wall Street Journal.
Etterhvert skal de kommersielle dataene ha blitt delt med avdelingen hos immigrasjonsmyndighetene som tar seg av deportasjoner, ifølge avisen. Den amerikanske toll- og grensemyndigheten (CBP) har også inngått en avtale om å kjøpe «global» tilgang til slike data.
Det er altså ikke helt uten grunn at journalister i NRK blir bedt om å tenke oss om to ganger før vi tar telefonen med når vi skal møte anonyme kilder. Myndigheter kan få tilgang på informasjon om hvor vi er, selv uten godkjennelse fra en domstol.
Om mine mobilbevegelser kommer på avveie kan det få konsekvenser for andre enn meg selv. Det er min største frykt – at noen som har fortalt meg noe i fortrolighet skal bli avslørt.
Jeg ber om innsyn
Selskapet som leverte informasjonen om frityrkylling-restauranten til ICE heter Venntel. Ifølge selskapets forretningspapirer holder de til i en industriklynge i delstaten Virginia.
Der finner man kjente og kjære navn innen forsvarssektoren som Lockheed Martin, selskapet bak jagerflyet F-35, og Edward Snowdens tidligere arbeidsgiver Booz Allen Hamilton. En kort kjøretur øst ligger Langley, Virginia. Hovedkvarteret til CIA.
20. august ba jeg selskapet om en kopi av all informasjon de hadde om meg. Det har vi alle rett til å gjøre, som følge av personvernforordningen (GDPR), som ble vedtatt i 2018.
Dagen etter spurte Venntels juridiske avdeling meg om å oppgi noen adresser jeg nylig hadde besøkt.
«Når vi har denne informasjonen vil vi sjekke om annonserings-IDen du oppga ligger i vår database», stod det i eposten.
«Annonserings-ID» er noe alle smarttelefoner har. Det er denne som er nøkkelen til å spore mobilbrukere over tid og på tvers av apper. Mobileiere kan begrense hvor enkelt det er å få tak i denne IDen, men få benytter seg av muligheten.
Venntel fikk adressen til NRK Marienlyst, Bjørnstjerne Bjørnsons plass 1, og leiligheten min.
Data til salgs
Nesten en måned senere ble jeg tilsendt et interessant vedlegg fra Venntel. Det var en logg på 75.406 registreringer av hvor jeg hadde vært siden 15. februar. Jeg kunne plutselig følge mine egne bevegelser tilbake i tid – på tur i Oslomarka, på byen, og på reise til min farmor på Sørlandet.
Det var ingen telefonnumre eller navn i dataene, likevel ville det vært enkelt for nærmest hvem som helst å finne ut at det var mine bevegelser. Noen enkle søk på Google og Gule sider ville vist at det var en Martin Gundersen som bodde i Sorgenfrigata i Oslo og som jobbet på NRK Marienlyst.
Venntel opplyste også at de hadde delt informasjonen om meg med sine kunder. Kundene kunne bruke denne informasjonen til formål som føderalt politiarbeid og nasjonal sikkerhet.
Hvem disse kundene var, ville Venntel ikke oppgi.
Godt bevart hemmelighet
Hvordan kunne mine mobilbevegelser ende opp hos Venntel i USA? Ingen av appene jeg hadde installert nevnte noe om selskapet. Ingen steder. Ikke en gang i de tungleste personvernerklæringene knapt noen leser.
Venntel kunne opplyse om at de hadde fått informasjonen fra morselskapet sitt, Gravy Analytics, og at de kun i noen få tilfeller fikk vite mer om hvilke apper det gjaldt.
Gravy Analytics er egentlig en dataforhandler i markedsføringsbransjen. De samler inn store mengder data om forbrukere for å gjøre annonser mer treffsikre. Også Gravy Analytics hevder at de ikke kjenner opprinnelsen til dataene. Men svaret på en innsynsforespørsel jeg fikk fra dem inneholdt navnet på to nye selskaper: franske Predicio og amerikanske Complementics.
En ny runde med innsynsforespørsler avslørte at noen av mobilbevegelsene som endte opp hos Venntel stammet fra en slovakisk apputvikler ved navn Sygic, som har en portefølje på 70 apper.
Den mest populære skal ha mer enn 200 millioner brukere, oppgis det på Sygic sin hjemmeside.
Den 15. februar installerte jeg to navigasjonsapper fra Sygic. Begge ba meg om å samtykke til noen avtalevilkår om å personalisere annonseopplevelsen min.
Hvis du er en av dem som ikke leser godt igjennom hva du samtykker til er du i godt selskap. De færreste leser brukervilkårene til apper og tjenester de installerer.
«Jeg godtar», trykket jeg. Sygic og jeg hadde nå gjort en bindende avtale.
Brøt personvernlover
Det kan se ut til at avtalen med Sygic ble brutt da Gravy Analytics fikk dataene. For Gravy Analytics mente de kunne bruke mine personlige opplysninger til en rekke ulike tjenester for partnere og kunder. Ifølge deres egen personvernerklæring inkluderte det blant annet føderalt politiarbeid, overvåke svindel og å fremme nasjonal sikkerhet.
Sagt på en annen måte – Gravy Analytics delte mine mobilbevegelser med datterselskapet som tilbyr sine tjenester til denne typen kunder.
Det førte oss tilbake til avtalen jeg gjorde med Sygic i februar.
Jeg rådførte meg med tre jurister, Malgorzata Agnieszka Cyndecka, Lee Bygrave og Arve Føyen, som alle er spesialister på personvern. De mente at det var et åpenbart brudd på GDPR at min informasjon kan brukes til andre formål enn jeg samtykket til. Personvernreglene i GDPR stiller nemlig strenge krav til hva som er lov å gjøre med våre opplysninger.
– Denne formålsutglidningen er uakseptabel. En slik praksis undergraver ikke bare prinsippet om formålsbegrensning, men også prinsipper om åpenhet og rettferdighet i GDPR, sier Cyndecka, som jobber ved Universitetet i Bergen.
Morsomt vær til besvær
Jeg ble også sporet av værappen Funny Weather, ifølge datafilene fra Gravy Analytics og Venntel. Appen lover å gi brukeren værmeldinger på en humoristisk måte. For hva er ikke den daglige værmeldingen uten noen banneord?
Da jeg installerte appen i høst samtykket jeg til at mine data kunne brukes til analyseformål og «monetization», altså å finansiere driften av appen.
Juristene mener samtykket ikke er i tråd med GDPR, til det er altfor uklart hva «monetization» egentlig innebærer. «Analyseformål» dekker heller ikke alle av Venntels forretningspraksiser.
Lawiusz Fras, utvikleren bak Funny Weather, har ikke noe stort apparat i ryggen. Han sier han ikke kjenner til Venntel, men opplyser om at han er åpen om appens forretningsmodell.
– Det at jeg samarbeider med selskaper som bruker litt av dataene appen har tilgang til for å tjene penger, det er ikke hemmelig, skriver Fras i en epost.
Han tar selvkritikk på at appen kunne vært tydeligere på hva «monetization» innebærer. Det skal han gjøre noe med i appens personvernerklæring.
Men han holder fast ved at brukerne har blitt godt informert.
– Umulig å spore
Hvordan dataene fra værappen endte opp hos Venntel er fortsatt et mysterium, men det er sannsynlig at dataene fløt gjennom franske Predicio. Dette mellomselskapet er nemlig oppgitt som en partner i appens personvernerklæring.
Hvilke andre apper Venntel får data fra, er en godt bevart hemmelighet. Selv ikke folkene bak mobilappene visste at de var involvert.
– Vi kjenner ikke til selskapet Venntel, svarer presseansvarlig Zuzana Kacanova hos apputvikleren Sygic, på spørsmål om hvordan mine data endte opp hos dem.
Kacanova hevder at mitt samtykke var innhentet lovlig etter GDPR og at deres partnere er forpliktet gjennom en kontrak til kun bruke mine data til markedsføringsformål.
– Basert på informasjonen du har gitt oss er det ikke entydig at dataene stammer fra Sygic GPS Navigation. Hvis det er sant er det et brudd på kontrakten vi har med våre partnere, skriver Kacanova.
Våre egne analyser tilsier at mine data fra Sygic har endt opp hos Venntel. Blant annet bruker Complementics en spesiell identifikator for Sygic-data som vi finner igjen hos Venntel.
Kacanova svarte ikke på spørsmål om hva dette vil bety for deres videre samarbeid med Predicio eller Complementics.
Bygget på ulovligheter
Med GDPR, som kom i 2018, vant personvernforkjempere en viktig seier. Det felles europeiske lovverket skulle gjøre det mulig å gå flere selskaper i sømmene. Deler av den digitale annonseindustrien har likevel endret seg lite.
– De prøver å holde seg til gamle arbeidsmåter og forkle dem som noe annet, sier David Martin, fra stua i Brussel.
Han leder den digitale rettighetsgruppen i BEUC, en sammenslutning av europeiske forbrukerorganisasjoner. Det digitale annonsesystemet er bygget opp på «et nesten systemisk brudd» på GDPR, ifølge Martin.
Han og de fleste personvernforkjempere mener det samme: At GDPR er bra på papiret, men har noen alvorlige mangler i møtet med virkeligheten.
Den østerrikske personvernforskeren og aktivisten Wolfie Christl har i en årrekke undersøkt hvordan selskaper bruker våre data. Nylig hjalp ham Forbrukerrådet med «Out of Control», en rapport som dokumenterte flere mulige lovbrudd i appøkosystemet.
– I de fleste tilfeller er det vanskelig eller umulig å spore hvordan personlig informasjon flyter mellom apper, dataforhandlere, og sluttkunder.
Christl mener det virker som datatilsynene i EU enten ikke klarer eller er villige til å stoppe mange av bruddene på GDPR.
– Vi vil ikke se noen endringer uten massive bøter og databehandlingsforbud. EU-landene og EU-kommisjonen må handle, konstaterer han.
Spørsmålet er om noen vil høre, og hvor enkelt det er å gå etter de angivelige bruddene.
Arve Føyen, partner i advokatfirmaet Føyen Torkildsen, mener det vil være vanskelig å straffe selskaper som Venntel, siden de ikke har noen forretningskontorer i Europa.
– Jeg er redd dette gir et illusorisk skinn av at reglene gjelder – de lar seg bare ikke forfølge rettslig i praksis, forklarer Føyen.
Et digitalt fotoalbum
Det har gått flere måneder siden jeg tok med ekstratelefonen til Ullevålseter, et populært stopp i Oslomarka for kaffe og vafler.
På dataskjermen ser jeg prikker som snirkler seg langs turstiene i marka. Langt mellom hver prikk da jeg gikk fort. Flere samlet i en klynge der jeg har tatt et pust i bakken.
Det var varmt denne søndagen i slutten av sommeren. Kleggen var aktiv, spesielt i de myrvåte områdene.
Vi glemmer de fleste stedene vi har vært og hva vi gjorde der, men det skal ikke mye til før minner kommer tilbake. Å følge mine egne skritt ble som å bla i et fotoalbum der hver side har sin egen historie.
Det rare med det hele er at noen andre sitter på disse dataene. Mine bevegelser.
Det er ubehagelig å følge mine egne skritt, selv om de ikke avslører utroskap, hemmelige møter, eller pinlige helseplager.
De fleste av oss har øyeblikk i livet vi ikke er interessert i å dele videre. Verken til våre nærmeste, sjefen, eller myndighetene.
Vil du vite mer om personvern og mobilteknologi?
Få en epost når vi publiserer det fyldige nyhetsbrevet vårt. Vi kommer aldri til å misbruke adressen din.
Vanskelig å få svar
Jeg klarte å kartlegge dataflyten fra mobilapper til Venntel, men fortsatt sitter jeg igjen med mange ubesvarte spørsmål. Hvilke kunder av Venntel fikk informasjon om meg? Kan det være selskaper innen forsvarssektoren, etterretning, FBI?
Gravy Analytics har ikke besvart noen av våre henvendelser. Datterselskapet Venntel har ikke ønsket å la seg intervjue verken over telefon eller epost.
«Vi vil ikke kommentere noe nærmere om våre forretningsforbindelser eller vår tolkning av loven», skriver Venntel i en kort uttalelse.
De hevder at mine mobilbevegelser ikke er delt med immigrasjonsmyndighetene (ICE) eller amerikanske toll- og grensemyndigheten (CBP). De skal heller ikke ha et samarbeid med apputgiverne Sygic og Lawiusz Fras. (NRK har heller aldri hevdet at de har et samarbeid, men dokumentert at selskapet får informasjon fra disse appene via andre.)
CBP oppgir å ha begrenset tilgang til kommersielt tilgjengelige data og at de brukes i tråd med relevante lover og reguleringer, ifølge en uttalelse gitt til NRK.
Presseoffiser Jason Givens i CBP svarte ikke på oppfølgingsspørsmål om hvilke begrensninger CBP har på å få tilgang til data om europeiske borgere eller mobiler som oppholder seg utenfor det amerikanske grenseområdet.
FBI og ICE har også avtaler med Venntel, men de har ikke ønsket å svare på spørsmål om å hvilke muligheter det gir til å spore europeere i og utenfor Europa.
Da den franske dataforhandleren Predicio svarte på innsynsforespørselen 11. august nevnte de ikke noe om å dele data med Venntel i tidsrommet februar til juli. Appen Funny Weather ble installert 10. august. Predicio har ikke besvart mine gjentatte henvendelser om intervju.
Medgrunnlegger i Complementics, Walter Harrison, oppgir i en epost at mine data ble brukt til å lage markedsføringsanalyser. Harrison har ikke ønsket å stille til et intervju og han har unnlatt å svare på spørsmål om deres forhold til Gravy Analytics.
Da Vice Motherboard kontaktet Harrison om deres samarbeidet med Gravy Analytics, fikk de beskjed om at Gravy Analytics har forpliktet seg i en kontrakt til å ikke dele data med amerikansk etterretning, immigrasjonsmyndigheter, eller føderale politimyndigheter.
> Guide: Slik begrenser du sporing av din mobil
Henrik Lied bidro med research og tekniske analyser.
FBI
«The FBI’s mission is to protect the American people and uphold the Constitution. That mission is dual and simultaneous, not contradictory, which means that one part need not—and must not—come at the expense of the other. All FBI operations are conducted in accordance with all legal requirements, to include the Constitution, the Privacy Act of 1974, our Domestic Investigations Operations Guide, the Justice Manual, and the standards with which the American people expect the FBI to protect them. Additionally, all FBI operations are subject to robust compliance mechanisms and oversight from the three branches of government.»
USAs immigrasjonsmyndigheter (ICE)
«U.S. Immigration and Customs Enforcement (ICE) is complying with all applicable privacy statutes, guidance, and policies. You can review the contract documents associated with Venntel at: FPDS. ICE defers to Venntel with regard to compliance with the GDPR.»
USAs grense- og tollmyndigheter (CBP)
«U.S. Customs and Border Protection may obtain access to commercially available information relevant to its border security mission. Consistent with its border security and law enforcement authorities, CBP has acquired limited access to commercial telemetry data through the procurement of a limited number of licenses to a vendor provided interface.
While CBP is being provided access to location information, it is important to note that such information does not include cellular phone tower data, is not ingested in bulk, and does not include the individual user’s identity. Rather, CBP officers, agents, and analysts are provided with access to the vendor’s interface on a case-by-case basis, and are only able to view a limited sample of anonymized data consistent with existing border security or law enforcement operations. All CBP operations in which commercially available telemetry data may be used are undertaken in furtherance of CBP’s responsibility to enforce U.S. law at the border and in accordance with relevant legal, policy, and privacy requirements.»
Torstein
Hele GDPR viser seg å være en stor vits. Her spioneres det i det skjulte på omtrent alle som har en telefon (les: omtrent enhver person fra tenårene og eldre i hele vesten). Det skrives kontrakter om å dele data uten at det byr på problemer. EU bryr seg ikke noe som helst.
Men at f.eks. Ticketmaster har hatt et datainnbrudd og noen kjeltringer har tvunget til seg kundeinformasjon, slik at stakkarslige 6000 kredittkort må erstattes. Ja det mener EU er et så stort brudd på GDPR at Ticketmaster fortjener en bot på 1,25 milliarder pund.
Blir som at jeg skriver en kontrakt om videresalg av en bil jeg stjeler i bilbutikken uten at politiet bryr seg. Så får jeg bot av politiet dagen etter fordi noen stjeler min egen bil som jeg har kjøpt for egne penger.
Henrik
Hadde følgt analogien din om det var snakk om billettar eller noko, og ikkje kreditkort.
Ein betre analogi er kanskje eit bankran, kvar kjeltringar sjeler dine pengar, og banken blir straffa for å ikkje ha god nok sikkerhet, eller ta godt nok vare på det dei har lovd å passa på.
Om dei gjer det som i ein film heist – stil, med laser teknologi, skyter bedøvelsespiler på vakter etc. Så kan me nok sei at det ikkje var banken sin feil.
Derimot om banken kvar fredag plasserer alle penga utanfor Banken uten tillsyn for lufting og reingjering av velvet, så er ein straff heilt på sin plass.
Eg kjenner ikkje ticketmaster saken, så er veit ikkje kva fall som liknar mest av mine analogiar, så veit ikkje kor rimligt det var med bot, eller alvorligheten av tillitsbrotet.
Kyrre Sørensen
Jeg tenker GDPR er ganske mye bedre enn ikke noe. Det er også en god start, og har fått mange selskaper til å endre seg og begynne å tenke på at de må endre litt på ting.
Jonas
Og noen der ute er redde for kineserne?
Denne artikkelen viser at politikere, datatilsyn og forbrukermyndigheter er inkompetente til å lede landet.
Einar Aaraas
Ingen kommentar, forsåvidt – men et spørsmål: Undertegnede har for sikkerhets skyld latt være å installere app’er av noen som helst art, men jeg undres om det er noe av det som ligger inne på telefonen som kan misbrukes.
Martin
Google Android og Apple iPhone har som forretningsmodell å tilrettelegge for, samle, og selge informasjon om brukerne.
Hva Nokia 3310 gjør er mer uklart. Ser ut som den nyere versjonen har applikasjoner som f.eks. den kinesiske nettleseren Opera.
Joakim L. Christiansen
Opera er IKKE en kinesisk nettleser, den er norsk!
Lars
Joakim, Opera er nok eid av kineserne nå. Siden 2016.
«Etter at Opera Software ASA hadde solgt forbrukerdelen Opera Software AS, med nettleseren Opera, til det kinesiske konsortiet Golden Brick Capital i 2016, besto selskapet av fire forretningsområder eller datterselskaper. »
Hvis du googler den setninger finner du nok Digi artikkelen. Ellers er den som kilde på wikipedia for Opera.
Thor Hammer
*Martin
«Google Android og Apple iPhone har som forretningsmodell å tilrettelegge for, samle, og selge informasjon om brukerne.»
Denne var i mine øyne både lettvin og usaklig. Jeg er ikke naiv i forhold til Apple, men det er faktisk veldig stor forskjell på forretningsmodellene rundt iOS og Android og disse selskapenes forhold til persondata.
Martin Gundersen (NRK)
Det er vanskelig å si noe konkret om kommersiell og statlig overvåkning. Litt enkelt forklart sier man jo at alle elektroniske dingser koblet på internett / mobilnett etc legger igjen digitale spor.
Fjerner du apper og begrenser hvem som får vite AD-ID så er mye gjort. Alle har sin terksel for hvor komfortable de er med å eksponere seg selv. Enkelte jobber eller livssituasjoner påvirker hvor villig man er til å være aktiv i sosiale medier, ha apper på mobilen etc.
Jørgen
Var det ikke mer kontroll enn å angi et par steder du hadde vært for å få tilgang til dataene? Hva med å sende Stortinget og en av leilighetene til stortinget og se hva som kommer tilbake
Bayfront
Det er tilstrekkelig med at du har et mobilabonnement for å kunne bli sporet. Det er ikke nødvendig med tilleggsapper.
Joakim
Med en «dum» mobil er det vel bare teleoperatører som vet posisjonen din. Her i Norge er det ganske streng lovgivning på hvor lenge de kan oppbevare den dataen, og myndighetene må vel få rettslig godkjennelse for å hente ut posisjonsdata?
Det er uansett på et helt annet nivå enn med en smarttelefon. Ditt eget nivå av paranoia avgjør hva som er til å leve med 🙂
Alexander Wilhelmsen
Teknologi gigantene som Apple og Google er like sårbare for rettslige skritt for å kreve informasjon som alle andre. De vil gjerne sloss litt hardere for prinsippet og PR men staten vinner til slutt. Særlig prekært ble dette at kryptering ble så utbredt, nå kunne de ikke «hacke» seg inn i telefoner o.l i samme grad. Snowden viste også til dette.
Måten du beskytter deg er med en dum telefon som ikke samler inn all mulig info i første omgang. De kan ikke hente info som ikke fins tross alt. Du kan f.eks custom rom en android til dette formålet. Da kan du få en tlf som kun er tlf med masse lokal lagring og kraft. ingen netttilkobling utover telenett.
Maarit Mantila Hanssen
Det føles ekkelt ja. Telefonselger WindMill i Kristiansand ringte meg hjem nesten samtidig på mobilen min og fasttelefonen vår når min datter la inn flere SMSer på sin mobiltelefon til min mobiltelefon i Londonadressen hennes i går den 2. desember 2020.Og, takk for opplysende artikkel!
Arne Mario Gjestland
Hei, jeg blir mer og mer overbevist om at min beslutning om ikke å gå rundt med en datamaskin («smartphone») i lommen har vært riktig. Min gamle Nokia 3310 kan jeg ringe og SMSe med, men den vet ikke hva en app er. Tror ikke den leverer så info til fremmede? Takk for flott research og artikkel.
Solveig Gaaseide.
Mener å ha lest at Bill Gates, Microsoft syntes det hadde vært enklest om en person styrte hele verden. Den personen kan jo være alt mulig fra Psykopat, Sosiopat, Religiøs grubler etc. Jeg er medlem av Den Norske kirke.
Ellers har vi boken om Orwells 1984, og en bok fra Bing og Bringsvær. London 2084, En fortelling om fremtidige forbrytelser. Poker der man satser indre organer, bitcoin handel og kloning.
Mikkel
Jeg tror du skal være veldig forsiktig med å «lese noe om Bill Gates» på internett, uten en skikkelig grundig faktasjekk.
Han er ett yndet mål for konspirasjonsteoretikere – på ett nivå som langt overstiger det latterlige.
Carl-Erik
Nesten alt som står om Bill Gates på nettet nå til dags er riv ruskende galt. Bruk nøtta og ha en kritisk tilnærming til sånne påstander: sjekk om det finnes kilder om noe virker veldig sensasjonelt. En kjapp oppsummering om ham sett fra ståstedet til en anti-vaxxer vil se slik ut:
—
Bill Gates er del av «New World Order», Bilderberger-bevegelsen og «the lizard men» som ønsker å ta kontroll over verdens befolkning gjennom vaksiner med microchiper kombinert med chem trails.
—
(sånn ca oppsummert fra diverse kommentarfelt)
Fred
Den eneste jeg kan erindre som ønsket fullt og totalt herredømme over universet og alle galaksene var Anakin Skywalker aka. Darth Vader i Star Wars.
Hvis du vil vite mer om Bill Gates, så anbefaler jeg Netflix-dokumentaren. Den er sikkert heller ikke objektiv men gir et bedre inntrykk av hvem personen er.
Andreas
Bra at det er lov å kommentere på NRK igjen. Er kjekt at dere tilrettelegger for ytringsfriheten igjen…
Jeg håpte det skulle stå i artikkelen hvordan man finner ut hvem som overvåker en ved hjelp av mobilen.
For alt journalisten vet kan det fortsatt være apper som videreselger informasjon til andre firmaer enn de nevnt her. Kan du lage en artikkel på hvordan jeg ser hvor ofte og hvilken app som sender posisjonsdataen min til eksterne servere?
Finnes det en app som overvåker andre appers behandling av min personlige informasjon?
Martin Gundersen (NRK)
Det er ikke så enkelt å finne ut hvem som får hvilke data fra mobilen vår. Iphone er blitt ganske gode på det – og man kan gå inn i innstillinger for å se hvilke apper som har tilgang til hva.
Å analysere nettverkstrafikk er ikke enkelt og det tar mye tid.
Så det er ikke så enkelt å finne ut av.
Karl Erik Hofseth
Martin har gitt noen gode svar her; regner med han er mest kjent med iPhone.
Også i Android finnes det en enkel oversikt—i alle fall i noen Android-versjoner. Android 11 har en «Permissions manager» der du kan se bl.a alle apper som har tilgang til posisjon. Du kan da også flytte apper enkelt fra «Tillat hele tiden» til «Tillat mens appen er åpen», eller skru helt av. Jeg synes «Tillat mens appen er åpen» er et godt kompromiss mellom å ikke lekke posisjonsdata men samtidig kunne bruke appen som trenger posisjon (som Yr eller kart-apper).
Om kommentarer så har de aldri vært skrudd av på NRKBeta (der vi er nå), da de har sin egen løsning. Kommentarene på NRK Ytring ble skrudd av fordi de brukte Disqus (som hadde noen voldsomme personvernproblemer), og er aldri blitt skrudd på igjen.
Martin
Foreningen NUUG har et relevant foredrag neste uke:
nuug.no/aktiviteter/20201208-doctorow/
«Monopoly, Not Mind Control: What’s Really Happening With «Surveillance Capitalism»» med Cory Doctorow.
Extraordinary claims require extraordinary evidence, and the claim that Big Tech can use big data to bypass our cognitive faculties is a doozy. Whether the claim is being made by big tech or its critics, it’s pretty thin, and if you’re a tech critic, it’s a kind of backhanded compliment: even if Big Tech is being run by evil geniuses, at least they’re still geniuses.
There’s a more parsimonious explanation: Big Tech are mediocre monopolists, engaged in the same deep-pocketed moneyball that allowed their robber-baron forebears to corner entire sectors of the economy. If that’s true, then we have a range of options that don’t require safeguarding the alleged mind-control rays hidden in their data centers.
Joakim
Skal bli spennende å se foredraget. Det er nok mange som overvurderer makten som tech-firmaene har i dag, men jeg lurer på om ikke Cory Doctorow undervurderer hvor mye potensiell makt som ligger i å vite «alt» om «alle». Det å ha noe på alle innbyggere. Det er et mektig våpen, f.eks. for å luke ut potensielle motstandere. Eller vite hvilke knapper man bør trykke på som en god populist. Eller stoppe uønskede strømninger før de i det hele tatt får vind i seglene. Det trenger ikke være mind control, jeg synes den typen kontroll er ille nok.
Øyvind
«Mind-control» kan være mye forskjellig. Det er gjort svært mye forskning på hva som får menesker til å gjøre forskjellige ting, og å «dirigere» folk i ønsket retning.
Eksempler på dette er hvilken rekkefølge varene i en butikk er plasert, hva musikke som spilles på kjøpesentre til forskjellige tider osv.
I en studie der folk skulle vurdere verdien på varer, vurderte samme person sammme vare som mer verdifull om personen sto på teppelagt gulv en på linolium.
Kunnskap av tilsvarende slag er relevant for alt næringsliv som selger produker til folk flest, regjeringer, politiske parti, politikere, politi, forsvar og etteretning og garanter mange flere. Det er nok brukt ufattelige svimlende summer på denslags forskning, og hva kunnskap dette har avlet er sikkert umulig å få full oversikt på. Kombinerer en dette med innsamlede person data og moderne AI algoritmer så har en nok muligheter til å manipulere ikke ubetydelige deler av befolkningen, både generelt og målrettet.
Anne Markhus
Tusen takk for opplysende artikkel. Det er så viktig å få frem i lyset alt som skjer i det skjulte slik at vi blir opplyste. Uten slik dokumentasjon ville vi fortsette i uvitenhet men fare for å ende opp som robåter hele gjengen før eller siden. Nå skal jeg begynne å skru mobilen helt av når jeg er ute på tur……..
Bjørn Søland
Dette er bra journalistikk. Takk!
Jeg har lyst til å kommentere at «GDPR er en vits» Det vi leser her viser at lovgivning på området er viktig. At noen bryter en lov betyr ikke at loven er uviktig. At loven ikke går langt nok betyr bare at loven må utvikles videre. GDPR er den viktigste beskyttelsen av privatlivet som har hendt på mange år – et felles lovverk som beskytter langt over en halv milliard mennesker har betydning og blir også respektert i høy grad. Journalisten fikk informasjonen sin pga at EU fikk på plass GDPR. Hadde han fått den uten?
Roger
Og her frykter folk Huawei, så viser det seg at vår allierte i NATO er minst like ille, on ikke verre.
Joakim
For oss er de mye verre. Kina så hva USA har fått til av masseovervåkning og tatt det ennå lenger, innenfor sine egne grenser. USAs masseovervåkning er global. Som individer trenger vi ikke frykte Huawei, det går mer ut på politisk spionasje og industrispionasje. For meg og deg er Google, Facebook, Amazon og Apple større grunn til bekymring enn Huawei.
Mikkel
Har dere spurt om digitaliseringsministeren vår har noen uttalelse denne gangen?
Forrige gang var hun rystet, og skulle ta opp problemstillingen i EU.
Joakim
Tviler sterkt på at hun egentlig var rystet. Isåfall skjønner jeg ikke hvordan hun kan ha blitt digitaliseringsminister. Fikk hun ikke med seg Snowden-avsløringene?
Frederick
veldig god artikkel.
Men jeg lurer på noen ting i forhold til innhenting av data.
Vet dere i hvor stor grad det bevegelsesdata hentes inn på andre måter en GPS?
OG er det mulig for apper å hente data hvis gps er avslått manuelt.
Martin Gundersen (NRK)
Det vanligste er at appen får tilgang til å vite mobilens posisjon. Det gjøres ved at mobilen bruker GPS/wifi og andre datakilder for å si cirka hvor den er. Så spør appen mobilens operativsystem: «hvor er jeg?»
Joakim
De bruker triangulering av mobilmaster og WiFi-nettverk for å beregne omtrentlig posisjon uten å bruke GPS. Å deaktivere GPS hindrer ikke posisjonering. Man må nesten se på en smarttelefon som en «tracking device», så lenge du har en på deg kan du bli sporet.
Bjørn
For de som vil komme seg unna Apple/Googles klamme hånd finnes et Google-fritt Androidalternativ som kan legges inn på en lang rekke telefoner. Mer om det her: doc.e.foundation/what-s-e
Og en nærmere omtale her: theregister.com/2020/11/12/android_without_google_e_smartphone/
Merk: Jeg har bare lest om det så langt, skal installere det på en gammel Samsung S3 snart. Men det jeg hører er at det virker utmerket. Så får en bare bruke skjønn om en på død og liv må ha inn en app.
Jan
«I bytte mot 35.000 norske kroner hadde vi fått tilgang på stedsdata som viste hvor titusenvis av nordmenn hadde beveget seg i 2019.»
Å betale for ulovlig tilegnet informasjon er et lovbrudd under norsk rett. Det er vel ikke noe NRK bør gjøre (ingen unntak for journalister)
Bengt Nilsen
Sliter litt med når folk blander inn lovlig og ikke lovlig i en informasjonsartikkel som omhandler legalitet av de som vi stoler på.
Prinsippet er at man ikke dreper eller skader noen, men disse selskapene har potensiale til å skade og drepe mange, -og enkelte selskaper selger denne informasjonen videre, -kan se ut som hvem som helst: Noe som ikke er ulovlig, -så langt jeg vet. Men ja, det er noe som dirrer om praksisen til innsamlerne. Datamaskinene vet hvem de selger til:
nrk.no/nyheter/spionerer-pa-norsk-oljesektor-1.15272527
Nei, la all informasjon være offentlig, og hvor informasjonen kom fra, -bare slik kan de som ønsker å beskytte seg, beskytte seg og velge teknologi som også gjør det. Kanskje likt det man i dag gjør med innsyn i skatt. Vi kommer til å ha mange slike saker i fremtiden, og vi vet allerede hvordan beskytte seg: Innsyn og gjennomsiktighet.
Men komme med ‘Shoot the messenger’-kommentarer vil ikke gi ny innsyn og kunnskap.
Takk, Martin og NRK-beta.
Sven-Ove
De har ikke kjøpt ulovlige data (i hvertfall ikke som de visste var ulovlig i kjøpsøyeblikket).
Lars
I stedet for å måtte godta at informasjonen blir brukt til annonseformål, ville det beste være å få på plass en lov som forbyr sporing til bruk for personlig tilpasset reklame. Salg av brukerdata på internett er forholdsvis nytt, så et klart lovforbud her burde ikke være umulig å få på plass. Sånn GDRP fungerer nå, er det bare veldig mye klikking før man kan bruke tjenester.
Joe Bud
Slike data kan absolutt bli misbrukt, men i et samfunn som Norge er det liten grunn til å bekymre seg mye over dette for sin personlige del. Å engasjere seg i problematikken rundt slik sporing er bra, men dersom man frykter dette her i landet er man enten paranoid eller kriminell.
Joakim
Sikker på at det ikke er du som er naiv? Norge og USA er nært allierte og utveksler overvåkningsdata. Som NRK har vist er det også mulig for høystbydende å kjøpe den typen data. Antageligvis gjøres det ikke i så stor grad i dag, men muligheten ligger der for en framtidig regjering som måtte ønske å utnytte seg av den. Veien til et totalitært overvåkningssamfunn er ikke veldig lang.
Joakim
Det begynner å bli et tiår siden Edward Snowden avslørte omfanget av USAs masseovervåkning. Virker ikke som det har gjort noen stor forskjell. Vi lever i et overvåkningssamfunn hvor sensitiv informasjon om deg er en verdifull handelsvare som selges i det skjulte til høystbydende. Er det greit?
Er den typen samfunn det leder til på sikt greit? Et samfunn hvor myndighetene vet mer om deg enn du selv gjør.
Kaja Graff Huster
Fortsatt betraktes folk som Edward Snowden og Julian Assange som skurker som USA ønsker å bure inn i flere menneskealdre. De burde feires som helter!
«Big brother is watching you» er virkelig skremmende.
Jeg anbefaler Edward Snowdens bok «Systemfeil» på det varmeste.
Thomas
finnes norske firma som driver med det samme men de skriver dere aldri om. lurer på hvorfor!
Terje
Android 10, Setting, Apps,
Apps Permission (Permission Manager).
Sett alle apper til «Allow only while in use».
Det vil fjerne muligheten til a samle inn nøyaktig lokasjonsdata 🙂
Joakim
De vil fortsatt kunne spore posisjonen din mens du bruker de, så det er bare en halvveis løsning. Du har også Android i bunn som alltid vil sende inn data til Google.
Eneste sikre løsningen er (dessverre) å ikke bruke smarttelefon.
Simon
Wow. Utrolig god artikkel og flott gravearbeid. Takk for at dere gjør denne jobben. Urovekkende og tankevekkende.
Reidar Kaarbø
GDPR er blitt en vits. Mulig intensjonen var god (at det skulle være enkelt å reservere seg), men «næringene» har klart å sabotere ordningen og politikerne evner (eller vil) ikke følge opp og gjøre jobben sin.
Erik
På min Android-mobil kjøpt i år har jeg åpnet bootloaderen og fjernet alt av google og facebook-relatert. Har færrest mulig apper. Bruker apper fra f-droid som er open source. Mobil id og mobilbank måtte jeg laste ned fra google play, men gjorde det anonymt gjennom aurora store. Bruker Orbot vpn og Tor nettleser. Har gjort en del andre instillinger også. Forsøker å være litt anonym på nett og ihvertfall gjøre det vanskelig å spore meg. Skal man ikke bli sporet må man ta ut batteriet som ikke er så lett i disse dager. Da kan man jo bruke en Faradaypose 🙂
Har en Xperia XA2 som jeg har installert operativsystemet fra E-foundation på som nevnt ovenfor her. Funker som gull og batteriene på begge mobilene varer i en evighet når man får fjernet all bloatware, slår av wifi og bluetooth scanning osv
RR
Sist jeg åpnet bootloaderen på en Android tlf fikk jeg feilmelding på mobilbank og Vipps.
Fikk beskjed at de ikke kunne kjøres på rooted tlf..
Har du/bruker du vipps?
Google sin forretnings ide er en av grunnene til at jeg har en billig eple tlf nå.
Har flere ganger vurdert «dum» tlf men så var det kontroll av elbil og nettbank og slikt da..
Erik
Fikk samme melding som deg på min Xperia XA2, men ikke på min Moto g8 Power når det gjelder mobilbank og mobil id. Vipps har jeg ikke fått til å fungere
Jo Øiongen
Det som blir skikkelig spennende er når arbeidsgivere, forsikringsselskap, NAV og andre finner ut hva de kan bruke disse dataene til. Mobilen din kan og vil bli brukt mot deg.
Terje
Kjør periodisk (hver måned?) reset på annonse ID:
Settings > Google > Ads > Reset advertising ID
Burde gjøre koblingen vanskeligere 🙂
Aslak Borgenvik
Jeg varierer måten jeg søker eks. bruk fulle stemninger med tvetydige muligjeter i Google og det skaper nok krøll at jeg ikke får automatisk svar «jeg ønsker» og reklamen blir ikke repeterende. Jeg mottar også mindre fra Google og tredjepart enn før.
Johan Hauknes
Flott, informativ og lærerik artikkel!
GDPR er et viktig skritt, selv om den verken er fullstendig eller omfattende nok, og heller ikke blir fulgt opp godt nok.
Det ligger nok en frykt for å åpne for anklager om handelskonflikter om man presser på for en omfattende oppfølging av GDPR. Dette i tillegg til at den internasjonale rettstilstanden er alt for svak.
Paradokset er jo at man ekskluderer Huawei fra europeiske markeder med argumentet om at man skal stoppe kinesisk overvåking. Mens man aksepterer at amerikanske teknologi- og sytemleverandører leverer/stilltiende aksepterer at det blir levert, identifiserbare individdata til amerikansk overvåking.
Alle vet det, men ingen vil snakke om elefanten i rommet. Bedre da å snakke om flodhesten i hjørnet.
keal
Et «sporing light»-scenario som er fullt mulig:
Sett at du tar et par øl for mye på et utested så du blir kastet ut. Utestedet har en Bluetooth «sniffer» som lytter etter Bluetooth ID-som sendes ut av enhver aktiv BT-enhet; ID-en er unik, f.eks. for din mobil. Har du BT påslått når du kastes ut, blir IDen ført opp i en svarteliste.
Et halvt år senere vil du inn på samme utested, men blir stoppet: Ingen adgang! Snifferen ved inngangsdøra har mottatt din BT ID, og funnet den i oversikten over svartelistede.
Det skal mere til for f.eks. å oppdage hvor du bor, navnet ditt osv. Det de kan avsløre er at samme person/mobil er «sett tidligere» (og det er vanskelig å hindre at utesteder utveksler svartelister). BT-sniffere kan brukes av hvemsomhelst, kan ikke avsløres (de er ikke mer enn en spesiell type radio-mottaker) og behøver ikke koste mer enn et par hundrelapper. Den vesentlige begrensingen er at BT-enheten (mobilen) må være innenfor noen få meters avstand fra snifferen.
Få tak i en sniffer selv, og sett opp ved inngangsdøra di: Når Hans, eller Petter, eller Kari, nærmer seg ringeklokka, kan du spille av en person-avhengig velkomst-melding, før de rekker å trykke på knappen!
Skal du sikre deg mot sporing, er det beste å slå av mobilen fullstendig. Men «må» du ha den med deg, så slå av GPS, WiFi og Bluetooth annet enn akkurat når du selv bruker det. En ekstra bonus er at batteriet da holder dobbelt så lenge før det må lades opp igjen!
Aslak Borgenvik
Blant mange muligheter, men ikke lovlig. Det betyr ikke at folk ikke bryter lover, men for et utested er risikoen alt for høy.
keal
Ett sted går grensen for the lovlige, men det er ikke glassklart hvor. Du kan sette opp kamera ved inngangsdøra di, så lenge det ikke dekker offentlig område. Lite tilsier at en BT-sniffer ved døra er prinsipielt annerledes.
Tilsvarende for etablissementersom med overvåkingskameraer innen sine områder. Med det tillatt, er argumentene for å forby BT-sniffing svake. Et utested har rett til å avvise folk de har dårlige erfaringer med – det er ingen borgerrett (/menneskerett) å få komme inn på et privat etablissement. Om det brukes kamera-bilde eller BT-ID som hjelpemiddel for å bestemme om døra skal åpnes er ikke avgjørende.
I august ble Nye Veier grepet i BT-overvåking ute på veiene, i et offentlig område. Det var diskusjon om dette var likeverdig bilnummer-OCR / Køfri, eller enda «mildere» siden BT-IDen bare ble holdt en kort periode, ikke permanent lagret, så person ikke kunne identifiseres. Bilnummer / Køfri kan føre deg til eier av bilen, og Køfri-kameraet kan identifisere føreren. Men det var lite snakk om at registreringen per se var ulovlig – kun om hva som ble lagret: Om de burde søkt om konsesjon, og om «kundene» har krav på å få vite om overvåkingnen.
Man kan spørre seg hvorfor NV ikke ville bruke bilnummeret, og istedet avlese hvilke fem personer som satt i den bilen som kjørte en strekning 120 km på en time. Jeg kan tenke meg flere grunner, men ingen sammenfaller med oppgavene til NV. NV bedyret at de overhodet ikke gjorde fartsmåling, de målte «reisetid»: Å måle at du bruker en time på å kjøre 120 km er noe helt annet enn å måle at du kjører i 120 km/t, må vite…
Nå bedyrer NV at de avsluttet målingene, men det er trivielt for hvem som helst – myndigheter eller private – å sette opp tilsvarende målinger, uten å bli avslørt.
Hvis flere utesteder utveksler svartelister er det antagelig lovstridig uansett hvordan listene er skapt – om det så er dørvaktene som har laget tegninger av uønskede gjester. Hvis tre utesteder har samme eier har én svarteliste er det ikke like klart lovstridig: Har du overvåkingskamera på hytta blir du ikke lovbryter om du ser på videobildene hjemmefra.
Søker et utested konsesjon for et register over BT-IDer på besøk, med avkryssing for «har skapt trøbbel», og intet annet, er jeg slett ikke sikker på at de får avslag, om de kan begrunne at eneste bruk av registeret er å unngå mer trøbbel.
Det kan uansett settes opp drøssevis av eksempler på «overvåking» (f.eks. å spille av en velkomsthilsen til den som står på dørmatta di) som ville gå under radaren. Utstyret koster bare et par hundrelapper, er fritt tilgjengelig på markedet (jeg har et sett liggende på bordet foran meg), og er så godt som totalt umulig å avsløre.
Det hadde vært bra om flere overvåkings-saker kunne ende i retten – og helst helt til høyesterett – så de kunne bli klarere grenser for hva vi må tåle, og hva vi ikke skal tåle av overvåking. Men verken myndigheter eller private ønsker slike klare, entydige begrensinger i hva de har lov til. Bare politiet kan få fakket flere fæle forbrytere, bejubler vi sivile de overvåkings-mekanismer politiet har brukt. Nærmest uansett.
Jeg føler en viss trang til å gjøre en parafrase over Øverlands klassiske advarsel (barnasrett.no/Dikt/du_ma_ikke_sove.htm):
Du skal ikke tåle så inderlig vel
den overvåking som ikke rammer deg selv.
Øyvind Granberg
Så lenge det er mennesker og firmaer som er villige til å betale for disse opplysningene, vil nok app-utviklere fortsette å hente inn disse. GDPR ser ut til å være tannløs og en falsk trygghet, så lenge den juridiske oppfølgingen er omtrent umulig, eller ikke-eksisterende. Men lenge før du installerer noen apper, har produsenten av mobiltelefonen, satt sporing på deg. Også produsenten av OS’et. Er det i det hele tatt mulig å beskytte seg mot dette? Kun bruke fast-telefon?
Aslak Borgenvik
Det er bare en løsning som kan hjelpe. Skattelegge tungt etter hvor mye data som samles inn, brukes, deles, og impleteres i innsamlers systemer. Dette vil ikke fjerne at det samles inn data, men det blir vanskeligere og dyrt å samle inn til kommersielt bruk i kjøp og salg. Det vil også automatisk redusere f.eks Facebooks makt. Det må skattlegges så tungt at salgsdeler ikke blir økonomisk gullgruve. Det betyr man må betale for apper, men har du virkelig behov bør det ikke være til problem. Og reklamedelen blir borte.
keal
Jeg har ikke tenkt den tanken før, og heller ikke hørt den foreslått, men det er faktisk en interessant idé! At en app ilegges en skatt / avgift for hver enkelt adgang til «overvåkings-informasjon» som de ønsker å bruke, fra GPS til BT til kontaktliste til …
Det må jo være slik at skatten / avgiften er bestemt av, og går til, landet der kunden har sitt abonnement, slik at ikke leverandøren kan lure seg unna ved ved å operere fra avgiftsparadiser.
Ved å betale «stykkpris» tar de virkelig store aktørerene sin rettferdige andel av «avgiftskaka»; det blir relativt billig for små-aktører som lager apper på hobby-basis. Avgiftene kan i tillegg være progressive, lave for de første tusen brukere, høye fra fem tusen og oppover.
Det er naturligvis to store problemer. Først, hvordan kan noe slikt kontrolleres, overvåkes. Dernest: Avregning. Enhver app-utvikler må forholde seg til drøssevis av land. For å fungere må det etableres en «TONO-lignende» internasjonal formidlingsordning der ‘n’ app-utviklere rapporterer inn alle salg / leveranser, og får én samlet regning fra ‘m’ ulike land.
Det er vel for optimistisk å tro at noe slikt kunne komme i stand. Men som prinsipiell mulighet, og som utgangspunkt for diskusjoner om mer realistiske løsninger, er det en absolutt interessant idé!
Kristian
Bra gravende og kritisk journalistikk. Altfor sjelden vare nå til dags og nærmest fraværende i politikken.
Men ikke noe å gjøre med overvåkingen. Til det har jo tom. vår egen regjering avslørt seg som ivrigste i klassen. Villig til å bryte grunnleggende rettigheter som vi så med Datalagringsdirektivet og andre personvernovergrep (det ulovlige DNA-arkivet osv).
Blir det for mye mas fra bermen, ender det bare opp med mere popups og svada.
Jon
Det er en grunn til at de fleste apper krever at du har posisjonstjenester via gps’en aktiv.
Jeg kan ikke engang synke data mellom mobilen og klokka mi om ikke gps’en er aktiv. Dette selv om den ikke bruker annet enn bluetooth.
keal
Jeg fikk ikke med meg grunnen til at appene krever at tu har posisjonstjenester aktiv. Kan du utdype?
Øystein Thorvaldsen
Interessant om CBPs bruk av slike data arstechnica.com/tech-policy/2020/12/cbps-warrantless-use-of-cell-phone-location-data-is-under-invest…
Marius
Finfin artikkel!
Da her jeg spurt om å få fataen min utlevert fra Venntel. Noen som vet om noen andre reklamebyråer jeg også kan spørre om dataen min fra?