nrk.no

Kjære Mark, stopp nå. Hilsen demokratiene.

Kategori: Kommentar

Facebooksjef Mark Zuckerberg på scenen på City National Civic i San Jose i anledning Facebooks F8-konferanse for utviklere i 2017 Foto: Maurizio Pesce CC BY 2.0

English version here: Dear Mark, please end this. Sincerely, democracy.

Kjære Mark Zuckerberg,

Gjennom din posisjon i Facebook har du muligens mer makt over demokratiers skjebne verden rundt enn noen annen enkeltperson har hatt gjennom historien.

Det gjør deg isåfall mektigere enn Djenghis Khan, Aleksander den store, Caesar, Hitler, Churchill.

Som betyr at jeg mener du må ta hensyn dette:

Siden 2016 har det vært nær umulig å være på konferanser uten å høre stadig nye foredrag om Facebook.

En familie jaget av troll

Under SXSW-konferansen sist uke reiste en mann i salen seg, den tyske journalisten Richard Gutjahr. Han fortalte hvordan han og familien hans hadde blitt angrepet av troll på Facebook gjennom flere år, etter å ha pådratt seg ekstremisters og konspirasjonsteoretikeres vrede. Han fortalte hvordan Facebook hadde feid det til side, og til og med tatt ned TEDx Talken der han forteller historien. Han spurte Facebooks Public Policy Manager Shaarik Zafar:

«Familien min, er de bare tilfeldige ofre for aksjekursen deres?»

Når Zafar (som jeg er sikker på er et godt menneske i uheldige omstendigheter) unnskyldte og lovte å følge opp personlig, svarte Gutjahr at han ikke lenger hadde tillit til at Facebook kanskje kom til å gjøre etellerannet. Han stolte mer på at tyske myndigheter ville regulere dere.

Det går ikke over av seg selv

Trykket mot Facebook er økende verden over. Jeg vil gjette det ikke forsvinner før det skjer en markant endring.

Det er etterhvert dessverre lettere å komme på eksempler for hvordan Facebook rammer demokrati og politiske prosesser, enn hvordan det tjener samfunnet positivt. Du har sikkert vel så god oversikt som meg, så jeg skal ikke bruke plass på oppramsing, men du finner flere eksempler i denne listen over 68 Facebook-PR-skandaler det siste året.

Symptombehandling

På årets SXSW Interactive-konferanse var det mange eksperter som diskuterte hvordan Facebook kan gjøre ditt eller datt for å hindre at desinformasjon spres: Kunstig intelligens, menneskelige moderatorer, faktasjekk-samarbeider, kildekritikk-programmer.

Det alle disse ideene har felles, er at de behandler symptomene. De er tenkt å løse det som skjer når en superkraftig maskin for informasjonsspredning utnyttes eller misbrukes for å nå noen av Facebooks 2,2 milliarder brukere verden over med nålepresisjon.

Men: Ingen av disse behandler kilden til symptomene; sykdommen selv. Noen av ideene kan til og med forårsake nye, mer kritiske problemer nedstrøms.

Sykdommen er Hva skjer når et kraftig verktøy som er bygget rundt å selge tilgang til folk slippes løs på samfunn verden over, og noen ønsker å misbruke det. Desssuten, hvilken effekt har det i seg selv bare utifra virkemåten. Nå har verden sett negative effekter av Facebook et utall ganger. Og for å være rettferdig, du har sagt «unnskyld» etterpå …før dere har fortsatt videre i omtrent det samme sporet.

Klima for å finne løsninger

I seg selv er Facebook muligens ikke en kraft for det gode eller det onde. Men udemokratiske krefter har i mange tilfeller vært dyktigere til å utnytte kreftene. Videre, og muligens verre, den underliggende dynamikken i nyhetsfeeden dyrker ytterpunkter og sterkere følelser, det maskerer vekk nyanser og felles verdier.

De som har blitt selvradikalisert på Facebook kan ende med å se lite annet enn bekreftelser på egne synspunkter, motangrep som rammer identitetsfølelsen, eller til og med oppkonstruert innhold designet for å hisse dem opp.

Dette skaper ikke et fruktbart klima for å finne gode måter å leve sammen på i samfunnet – som, dypest sett, er formålet med de demokratiske prosessene.

Det er på tide å innse at dette er vanskelig eller umulig å reparere med teknologi, menneskelige moderatorer, eller til og med oppbryting av selskapet eller regulering.

Fordi:

Med kreativiteten til millioner av mennesker, ondsinnede aktørers ekspertise og ressurser, og mektige og rike støttespillere, så vil nye metoder finne veien rundt mottiltakene fortere enn dere rekker plugge igjen de gamle hullene i systemet.

Slik kan det kanskje fikses

Den eneste måten å fikse det på jeg kan se, er at Facebook – og her tenker jeg spesifikt på deg, Mark Zuckerberg selv og daglig leder Sheryl Sandberg – kurerer sykdommen ved roten. At dere faktisk og helhjertet tar fullt ansvar for det dere har bygget, det det har utviklet seg til, og for hvordan dere har tillatt det å bli brukt.

Dere må definere hva som fra nå av vil være forbudt område for Facebook. Hva dere aldri igjen vil være medskyldige i.

Og selvsagt mener jeg samfunn verden over må gjøre sitt beste for å begrense skadene Facebook kan forårsake. Men reell, varig endring kan bare komme fra innsiden.

En moralsk kjerne

Facebooks endring til det gode må springe ut av grunnleggende indre etiske prinsipper. En moralsk kjerne som veileder alt Facebook vil – og ikke vil – gjøre i fremtiden. Hver enkelt ansatt må settes i stand til å instinktivt forstå hvilke stier ingen i Facebook noensinne skal sette fot på igjen, uansett lønnsomhet.

Jeg regner med du kjenner dette bruddstykket fra medisinens etiske kodeks: Primum non nocere: «Fremfor alt, ikke skade». Jeg mener dere må begynne å praktisere dette i samfunnene dere opererer i, der dere har blitt en del av infrastrukturen. Du må spørre deg selv: Hvilke ting kan jeg gjøre for å sette alle ansatte i stand til å bli med meg i å ta fullt ansvar for samfunnenes helse?

Velg en vei

Å umiddelbart trekke seg ut av alt som lukter av politikk, er et godt første skritt. Og ganske enkelt. Men du må skape et helt sett av grunnleggende prinsipper for hva du vil din arv som menneske skal være: En mann som innså sine feiltrinn og skiftet kurs mot noe bedre, eller en ødelegger av verdener.

Jeg er ikke alene om å tenke i disse retningene. Her om dagen sa din tidligere mentor Roger McNamee noe i retning: Du kan gjøre 100 ganger mer godt ved å endre forretningsmodellen enn enhver ideell stiftelse noensinne kan gjøre

Led andre i riktig retning

For å være rettferdig: McNamee har utvilsomt rett i at Google, Amazon og Microsoft bruker de samme mekanismene for atferdsendring, overvåking og kommersialisering av tilgang, med lite ansvar overfor andre enn aksjeeierne. Men hvorfor kan ikke du lede veien ut av dette algoritmiske helveteshullet du har ført oss alle ned i? Være den som blir kjent for begrepet ansvarlige algoritmer?

På litt over 10 år har Facebook utviklet seg til en global infrastruktur. Dessverre har det hatt negative effekter for demokratier. Jeg tror det er på tide at du begynner å handle som den ansvarlige skaperen av verdens største våpen.

Eller som Astrid Lindgrens Pippi sa: «Den som är veldigt stark måste också vara veldigt snäll».

8 kommentarer

  1. Takk for et godt og viktig innlegg.

    Det er skremmende å se kombinasjonen FaceBook + tabloide (misvisende overskrifter) + «lik og del»…

    Mange leser ikke artikler før de «reagerer» – følelser aktiveres umiddelbart. Selv om man senere får vite at det lenger ned i saken stod at den var løst, eller at det var uenighet om hendelsen, så sitter førsteinntrykket fremdeles.

    Dette er svært uheldig når man tenker på at mange ikke har abonnement – og dermed kun får se overskriften.

    Svar på denne kommentaren

  2. Petter Bae Brandtzæg

    Men hva er ansvarlige algoritmer? Og hva betyr «ikke skade» i et samfunnsperspektiv. Det er nok mye letter å definere i en medisinsk kontekst enn i en samfunnskontekst. Ditt bilde av hva som er et godt og sunt samfunn er ikke nødvendigvis det en annen mener. I boken 21 Lessons fro the 21st Century av Yuval Noah Harari diskuteres nettopp dette.Historien om den liberale opplyste verden er i ferd med å kollapse. For øvrig er jeg enig i at FB har mye makt, men du skal heller ikke glemme at FB har gitt og gir mye makt til folk flest. Så jeg synes historien din blir for tendensiøs. Jeg har tro på at folk også greier å tenke,fortolke og skape mening. Vi er ikke viljeløse individer som lar oss styre av Mark sine algoritmer.

    Svar på denne kommentaren

    • «Vi er ikke viljeløse individer som lar oss styre av Mark sine algoritmer.»

      Det er nettopp det Yuval påstår at vi er:

      «But science is now telling us there is no such thing as free will. It’s a myth.
      […]if you look at the scientific journals, articles, and experiments, science doesn’t even understand the meaning of free will. We don’t know of any free processes in nature. We know only two types of processes in nature. We know of deterministic processes and random processes. And the combination of the two gives us probabilistic processes. But randomness isn’t freedom and probability isn’t freedom. People certainly have a will. People certainly have desires. People certainly make choices all the time. But we are not free to choose our desires. We are not free to choose what to will. Our desires are shaped by both nature and culture in ways that are beyond the understanding and control of individuals.»

      http://nautil.us/issue/67/reboot/yuval-noah-harari-is-worried-about-our-souls

  3. «en ødelegger av verdener»

    Like mye konspirasjonsbabbel som fra hvilket som helst annet hold.

    Dessuten er det åpenbart at dette er ikke pga. småting som listet, det er som alltid i denne pågående kampanjen i hovedsak basert på ting som Trump og Brexit. Dette er tatt ut av luften skal være Facebooks skyld og er en verdenskatastrofe bare fordi du er av en annen politisk overbevisning. At gammelmedia bevisst har kjørt de verste påvirkningskampanjene man kan tenke seg i mannsaldre nå bryr deg selvfølgelig ingen verdens ting, for dette er de ‘rette nyhetene’. Den ‘riktige historien’. Og da er det ikke noe å si på det og det er selvfølgelig dette du vil konservere ved å nøytralisere alternative medier.

    «ansvarlige algoritmer»

    Mengden stemmer som på kort tid har kommet ut for regulering og politisk styring av Facebook er ikke tilfeldig, og er det noe som er virkelig skremmende så er det dette orwellianske monsteret som viser det stygge hodet sitt nå.

    Svar på denne kommentaren

    • asdfdas (svar til Tellef)

      fordi man ikke er like skrivefør som en middels bladfyk med en viss teknofetish, betyr ikke at prinsipielt kan avvises. man kan velge å se på innpakkingen, og være misfornøyd med det blomstrede (eller ikke) papiret, mens innholdet fortsatt er like fint, om man bare gidder å ta bort innpakningen.

      la meg prøve (og feile i) å reformulere det du IKKE svarte på:

      1) når nå Facebook ikke ga oss drømmen som man initiellt trodde at SOME ville kunne gi oss, med fred frihet og broderskap, så er man plutselig skeptisk til det resultat som har kommet ut av SOME generelt og Facebook spesielt. hvorfor det? man har bevislig heiet SOME og Facebook frem, og så plutselig skal man snu. det er faktisk litt vanskelig å ikke gå på en konspi her, siden man ikke kan skylde på uvitenhet. det har ikke manglet på advarsler eller annet relatert til det samme, men man har alikevel valgt å heie på. hvorfor? finnes det noen god forklaring som IKKE lander i konspi eller i beste tilfelle under blåøyd naivitet?

      2) dette plutselige frafallet fra «ytringsfrihet» (i mangel av noe bedre ord) og maset om hatprat, polarisering og annet. på hvilken måte avviker dette fra gamle medier (virkelig gamle medier!) hvor grove personlige utskjellinger var mer enn vanlig, men alikevel var greit å la gå i trykken. hvorfor nå når plutselig den «politiske» (egentlig ikke nødvendigvis politiske, men yeah, mangel av bedre ord) vinden blåser i en annen retning enn man hadde håpet på? hvorfor er polarisering viktig nå, mens det initielle opplysningsprosjektet, og ja faktiske påvirkningskampanjen for samme prosjekt, var helt greit i 1).

      3) når SOME og Facebook, åpenbart er samlende. riktignok i ekkokammer og større og mindre grupperinger, men fortsatt gir ett fellesskap og en røst for vanlige folk: hvordan avviker dette ovenstående (koko-røret?) fra den samme lange semi-intellektuelle harangen relatert til Facebook? harangen vs koko-røret er fortsatt om utenforskap, hvem eier historien, korrekthet etc? hvorfor er dette akseptabelt når ordene er mange, lange og tunge, fulle av referanser, mens ett ærlig spørsmål fra en ordfattig stakkar tynt på referanser, skal snakkes ned, trakasseres og sees på som mindreverdig og til og med karakteriseres som koko?

      i min bok burde neppe gjøken skamme seg akkurat her.

      og ja jeg vet dette ramler vel antagelig også i koko-kurven.

    • Tellef (svar til Tellef)

      Anders Hofseth (svar til Tellef): «Nå er du LANGT inne i koko-land»

      «koko-land» Så søtt. Da fikk vi et innblikk i dine algoritmer og det var egentlig akkurat som forventet.

      Hvis det er noen som er i ‘koko-land’ så er det du med det hysteriske Facebook brevet ditt, og her ved å fornekte at media har kjørt den verst tenkelige propagandakampanje mot f.eks. Trump med daglige hatartikler (har ikke engang stått av veien for hitling https://www.abcnyheter.no/nyheter/politikk/2018/10/30/195451621/viser-trump-samme-tendenser-som-hitler ), fullstendig demonisering av Putin/Russland med bla. den latterlige ‘fake news’ -kampanjen, og alt hva det er av løgner mot Assad (blåkopi av Saddam-kampanjen), Iran, Venezuela, Brexit, og ikke-dekning av Frankrike, grusomheter som Jemen. Osv osv osv osv osv.

      Og disse er de virkelige farlige tingene for de leder til endeløs krig med hundretusener døde og nå ny kald krig mot Russland (nesten varm verdenskrig pga. fake news historiene rundt gassangrepene i Syria).

      Men som jeg sa bryr ikke slikt deg. For dette er propaganda i den ‘godes’ tjeneste synes du. Det er laget ditt som du heier på. Og er det sjanse for at disse propagandakanalene kan miste sin påvirkningsmakt som de nå gjør pga fri spredning av informasjon som på bla. Facebook stepper du inn. Og du gjør det for å få stans på det. Det er hva det egentlig handler om. Man kunne kanskje avfeid deg som en naiv dilter, men så dum er du ikke. Du er i realiteten bare en simpel propagandist og anti-demokrat fordekt som dets motsats.

    • Hei Tellef
      Jeg har – som du muligens husker – forsøkt å diskutere med deg før. Det kom etter mitt syn ikke så mye matnytte ut av det; jeg oppfattet det primært som konspirasjonsteorier om media, Russland, osv. og en generell marsjering av diverse poeng rundt i manesjen – jeg husker dem som lange, men kanskje ikke så veldig substansielle.

      Du skriver «media har kjørt den verst tenkelige propagandakampanje mot f.eks. Trump». Hvis du kan by på en liste med «daglige hatartikler mot Trump» (Det holder med én pr dag fra la oss si siste 30 dager) tror jeg du har et interessant poeng. Ellers er det fristende å avskrive det som en påstand, sammenblanding av hat og kritisk journalistikk, sammenblanding av propaganda og journalistikk, og sammenblanding av kampanje og løpende dekning av maktpersoner.

      Ikke at jeg egentlig skjønner hva Russland har med denne saken å gjøre, men du pleier bringe det på bane hver gang, så: Når det gjelder Russland og demokrati pleier jeg lene mitt perspektiv på EIUs demokrati-indeks som jeg har inntrykk av at er relativt anerkjent i mer konvensjonelle miljøer. De beskriver demokratistatus og -utvikling i Russland slik:

      Jeg tillegger denne rapporten større vekt som informasjonskilde enn anonyme individer i kommentarfeltet.

      Det står deg selvsagt fritt å mene du er omgitt av konspirasjoner og hemmelige agendaer, men om en veldig høy andel av verden du observerer virker å ta helt helt feil sett fra ditt perspektiv, er én mulig løsning at ikke det er alle de andre som har misforstått…

Vil du kommentere? Svar på en quiz fra saken!

Vi er opptatt av kvaliteten på kommentarfeltet vårt. Derfor ønsker vi å sikre oss at alle som kommenterer, faktisk har lest saken. Svar på spørsmålene nedenfor for å låse opp kommentarfeltet.

Hvilken av disse ble ikke forslått på SXSW-konferansen som en måte å redusere Facebooks negative effekter

Linjen som siteres fra medisinens etiske kodeks betyr:

Hva er ifølge artikkelforfatteren den eneste måten å begrense problemene Facebook skaper for demokratiet?

Legg igjen en kommentar

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *. Les vår personvernserklæring for informasjon om hvilke data vi lagrer om deg som kommenterer.