Disse kommandoene hører smarthøyttaleren din, men ikke du

Kategorier: Kommentar, Musikk og lyd & Sikkerhet

Amazon Echo og Google Home. Foto: Eirik Solheim / NRK

New York Times melder at forskere nå har funnet måter å kunne sende kommandoer til Apples Siri, Googles Assistant og Amazons Alexa uten at du kan høre dem. De lurer meldingen inn i annen lyd. Og dine gode men menneskelige ører hører dem ikke. Mens digitale assistenters kunstige intelligens tror at det er godkjente kommandoer og utfører ordre.

En ting er at den talestyrte assistenten i mobiltelefonen din kan la seg lure. Men det er kanskje vel så viktig at de mer og mer populære smarthøyttalerne som folk har i stuen sin også kan lures.

Hvordan trolle TV-publikum som har smarthøyttalere. Foto: Illustrasjon/skjermbilde fra TVNorge

For noen uker siden gjestet jeg Jon Almaas sitt talkshow Praktisk Info. Jeg var der for å snakke om smarte hjem. Og hadde med både Amazon Echo og Google Home i studio. Vi snakket til dem og jeg sa blant annet «OK Google, set the timer to twelve minutes». Googleboksen i studio adlød lydig med «OK, timer set to twelve minutes, starting now».

Det jeg ikke hadde tenkt på var at jeg samtidig satte timeren til masse folk hjemme i stuene deres. De som så på TV med lyden på i stuen og en Google Home i samme rom fikk også satt timeren til tolv minutter. En av mine venner sendte meg til og med en video der jeg fikk se hvordan jeg på TV-skjermen hans aktiverte Google Home ved siden av i stuen hans.

Akkurat det er ikke noe nytt, og både Burger King og South Park har lekt med muligheten til å styre dingser i de tusen hjem.

Men at man ved hjelp av den riktige teknologien kan lure inn kommandoer som eieren av systemet ikke kan høre er ganske nytt. Og belyser nok en gang utfordringen ved å ha veldig brukervennlige og åpne teknologier som kan styre andre dingser.

Disse kommandoene kan lures inn i musikkstykker og annen form for lyd. Og avhengig av hva du har latt din digitale assistent styre kan skjulte ordrer gjøre alt fra å besøke websider, sette på musikk, slå av lys og til og med låse opp dører.

Enn så lenge er teknologien som kan lure digitale assistenter noenlunde trygt forvart hos noen forskere. Men det tar nok ikke lang tid før flere får tilgang til disse mulighetene. Og som alltid med digitale løsninger er katt-og-mus-leken igang. Utviklerne av talestyrte assistenter jobber med å øke sikkerheten slik at de kan settes til å kun respondere på enkelte stemmer. De setter opp begrensninger slik at assistenten trenger ekstra bekreftelse for risikable funksjoner og de gjør den kunstige intelligensen bedre slik at de ikke skal la seg lure av skjult lyd.

Uansett er dette et eksempel på farer man kanskje ikke tenkte på da teknologien ble utviklet. Og at man bør tenke seg om før man lar ny teknologi styre kritiske funksjoner i hjemmet.

Jeg for min del venter nok en stund før jeg kobler alarm og dørlås sammen med min smarthøyttaler.

4 kommentarer

  1. Simply wish to say your article is as amazing.

    The clarity in your post is just great and i could assume you are an expert on this
    subject. Fine with your permission let me to grab your RSS feed
    to keep updated with forthcoming post. Thanks a million and please carry on the rewarding work.

    fodboldtrøjer børn

    Svar på denne kommentaren

  2. Jok et felt der jeg vil bli klassifisert som fossil, fordi jeg erklærer «Sorry, er ikke interessert i teknologien, uansett hvor moteriktig den er – jeg rett og slett vil ikke ha slike ting inn i mitt hjem!»

    Jeg har riktignok blitt tvunget til å gi etter på et par felter: Jeg har fått meg smartphone (men bruker den minimalt), og har slått på WLAN på internett-ruteren. Men FB, streaming- og nettavis-abonnementer klarer jeg meg uten. Vipps og annen mobil-betaling likeså. Jeg bruker Google-tjenester kun der jeg slipper å logge inn, og sletter regelmessig alle cookies fra nettleseren. Kommenterer bare i fora som ikke krever innlogging (men har gitt etter for at jeg må oppgi epost-adresse).

    Kanskje det er fordi jeg er siv.ing. i databehandling og har arbeidet med IT hele mitt voksne liv, i 35 år. At jeg ser truslene. Jeg ser folk si «Ja, ja!» (jfr. https://www.nrk.no/satiriks/nordmenn-reagerer-pa-facebook-skandalen_—altsa…-jaja-1.13977107) og blir forstemt: 99 av 100 flirer av Satirks, for det skal man jo gjøre, … og fortsetter akkurat som før. Jaja.

    På en måte er det godt å være så gammel at omgivelsene (motvillig) aksepterer meg som fossil, uten å stille krav om at jeg må bli med på kjøret og legge alle motforestillinger på hylla. At jeg «har lov til» å si Neinei!

    Svar på denne kommentaren

    • afgadf (svar til keal)

      godt du virkelig har kontroll da, og har forstått all underliggende teknologi slik at du unngår å bli spora og ellers går klar av alle problemer.

      misunner deg den store kunnskap og forståelsen din altså.

    • keal (svar til keal)

      Til afgadf:

      Jeg er IT-mann av yrke og 35 års erfaring. Sikkerhet og personvern har opptatt meg en stor del av tiden. Naturligvis kjenner jeg ikke all slik teknologi til bunns, men langt bedre enn mannen i gata. Ikke bare på det rent tekniske nivået, men også de sosiale og samfunnsmessige følgene om informasjoen brukes på uheldige måter. Det er delvis faget mitt, delvis fordi jeg er adskillig mer interessert i dette enn de fleste andre.

      Da vet jeg også at jeg slett ikke unngår å bli sporet. Men jeg har rimelig god oversikt over når det skjer, og jeg kan redusere sporingen betydelig med ganske enkle milder. Jeg vet når sporingen krever askillg større innsats (og i prinsipp: godkjenning fra rettsvesenet – jeg vet også at mydinghetene slett ikke behøver å ha slik godkjenning før de gjør overvåkingen…)

      Jeg forventer naturligvis ikke at alle skal ha like stor interesse og forståelse for problemene som jeg selv har. Men jeg blir litt frustrert over hvor mange som bare fjaser bort problemstillingene uten å tenke over dem i det hele tatt.

      Det er ikke dumt å lese «1984» (hele boka – ikke bare tittelen!) som bakgrunn for debatter som dette. For kontroll-aspektet har jeg også sans for Kodémus (https://old.efn.no/kodemus/kodemus.pdf).

Legg igjen en kommentar

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *. Les vår personvernserklæring for informasjon om hvilke data vi lagrer om deg som kommenterer.