Teknologi

Agnar Kaarbø

agnarkaarbo@gmail.com

– Vi kan ikkje tolerere den totale mangelen på respekt for lova som dei store teknologiselskapa syner, seier Marietje Schaake.

Den tidlegare profilerte EU-parlamentarikaren meiner politikarar må bruke meir makt mot desse selskapa. Fram til i fjor var Schaake medlem av EU-parlamentet for det nederlandske sosial-liberale partiet D66. I løpet av ti år på den europeiske politikkscena markerte ho seg i teknologispørsmål. «Europas mest tilkopla politikar», skreiv Wall Street Journal.

No har 41-åringen bytt europeisk politikk med akademia på den amerikanske vestkysten. Dag og Tid treffer henne like utanfor portane til det velkjende Stanford-universitetet i hjartet av Silicon Valley. Der er ho tilsett som international policy director ved Cyber Policy Center og som forskar ved Institute for Human-Centered Artificial Intelligence. Med si røynsle skal ho bidra til å minske gapet mellom politikkutvikling og teknologi.

Signal om å handle

Schaake legg ikkje skjul på at ho er uroa over utviklinga i den teknologiverda som spring ut av miljøet i og rundt den nye arbeidsplassen hennar. For henne er problemet at vi tolererer at det er OK å bevege seg raskt, øydeleggje ting, slik Facebook-grunnleggjar Mark Zuckerberg formulerte seg i unge år – og i tillegg ikkje respektere lova.

Samstundes vil ho ikkje at uroa skal paralysere, men heller vere eit signal om å handle.

– Viss lovgjevarane heile tida får høyre at dei manglar kunnskap, menneske og verkemiddel, skjer det lite. Eg vil gje dei mot til å handle, seier Schaake.

Ho avviser innvendinga om at reguleringar hindrar innovasjon.

– Som om innovasjon er viktigare enn demokrati? Det er det ikkje. Vi må setje ting i perspektiv. Kvifor har vi desse omstendelege prosessane? Dei har ein eigenverdi. Men om eg er utolmodig? Sjølvsagt.

Start med demokratiet

Men der forfattaren Jamie Susskind i førre utgåve av Dag og Tid meinte at samfunnet treng ei ny tilnærming og eit nytt politisk vokabular for å handtere desse utfordringane, er Schaake meir pragmatisk.

– Mykje avheng av kva som er startpunktet ditt. Startar du med teknologien, eller startar du med demokratiet? Eg startar med demokratiet. Eg vil byggje på det vi alt veit. Eg har tru på å gå tilbake til velkjende prinsipp om kva lova seier om rettvis fordeling, menneskerettar og demokrati. I ei tid der demokratiet er under åtak, kan det å etablere noko nytt, til dømes internasjonale avtalar, føre til eit kappløp mot botnen. Eg skjønar sjølvsagt at situasjonen krev rettleiing og tillegg til lovene. Men eg føretrekkjer å ikkje bryte opp alt, seier Schaake.

Schaake meiner vi kan gjere mykje med eksisterande lovverk.

– Vi må sjå på prinsippa vi vil ta vare på, og gjere det som er naudsynt. Viss du ikkje treng nye reguleringar, er det bra. Då kan du vere raskare. Viss du treng nye reguleringar, OK, gå for det, seier ho.

Ho minner om at styresmaktene har mange og store høve til å gjere noko, anten det gjeld mjølkeprodusentar, Google eller Gazprom.

– Juksar dei bak scenen? Bryt dei reglane? Styresmaktene kan undersøkje grundig, også når selskapa seier at algoritmane er verna forretningsløyndomar. Intellektuell eigedomsrett går for langt i å verne desse selskapa. Desse lovene har eit anna føremål enn å verne dei frå kritisk offentleg innsyn. Vi snakkar om å undersøke om lover blir brotne, ikkje om å gjere dei offentlege.

Ho meiner at skjerpa straffer kan vere ein veg å gå. Det må svi økonomisk å bryte lova.

– Når vi har selskap som kan betale milliardar av dollar i utbytte årleg, må du verkeleg tenkje gjennom kva ei passande straff er. Det er også naturleg å vurdere å straffe einskildpersonar på bakgrunn av det ansvaret vedkomande har, inkludert ein kriminalprosess. Det kan vere ein vekkjar, seier ho.

Ubalanse i kunnskap

For Schaake er hovudproblemet ein fundamental asymmetri mellom den unnskapen teknologiselskapa har, og den kunnskapen politikarar og samfunn har.

– Det er så mykje kunnskap og makt som ikkje lenger er hos demokratiske styresmakter, men hos kommersielle aktørar og autoritære statar – og kombinasjonen av desse.

Ho peiker på at Google endrar søkjealgoritmen sin 3200 gonger årleg, altså ti gonger om dagen.

– Kven forstår kva som eigentleg hender? Selskapa veit det, og dei kan hjelpe til oss å kome til kjernen av desse spørsmåla. Men dei gjer ikkje det utan press, seier Schaake.

Også ho etterlyster betre innsyn i korleis teknologien påverkar grunnleggjande prinsipp, til dømes korleis algoritmar diskriminerer, korleis dei påverkar oss til å ta økonomiske val.

– Når vi forstår kva som står på spel, kan vi lage betre lover og gjere betre tolkingar av eksisterande politiske prinsipp, seier forskaren.

EU må sameine seg

Schaake er også klar på at EU må bruke meir makt og vere meir samd med seg sjølv. Ho trekkjer fram striden om den kinesiske teknologileverandøren Huawei skal få levere ein ny generasjon mobilband av typen 5G.

– 27 ulike nasjonar skal avgjere spørsmål som har mykje å seie for tryggleiken. Kva som er ulovlege ytringar, er regulert av 27 ulike lover. Viss vi har eit større felles rom for å vurdere dette, er det betre, også for selskapa. Vi må nærme oss ein digital fellesmarknad.

Så legg ho til at EU ikkje må miste av syne den beinharde konkurransen som finst om kapital, kunnskap, marknader og standardisering gjennom teknologi og økonomisk suksess.

– Økonomisk suksess er i realiteten skalering. Skalering er viktig.

Schaake synest også det er merkeleg at EU-strategien om digitalisering ikkje omfattar militær bruk av kunstig intelligens.

– Viss EU ønskjer å bli ein større geopolitisk spelar, er det no mogleg å sjå kollektivt på cybertryggleik og kryssinga mellom geopolitikk og tryggleik. Mykje pengar og ressursar går inn her. Både USA og Kina integrerer dei ulike områda i stor grad. EU bør gjere det same, seier ho, men medgir at dette er eit lite populært tema å snakke om.

– Realiteten er at forsvarsindustrien gjer meir og meir sivil bruk av teknologiar. Vi må vere uroa for korleis teknologien blir spreidd. Det står mykje på spel her.

Ho insisterer at dette feltet krev parlamentarisk innsyn.

– Ved sida av korleis styresmakter og dei militære opptrer, uroar eg meg over at privat sektor utviklar verktøy som i realiteten gjer dei like mektige som statar brukte å vere. Maktmonopolet i den digitale sfæren er ikkje lenger hjå statar.

Resultatet er, etter hennar meining, at informasjonsøkosystemet online er dominert av nokre få. Ho meiner vi manglar kunnskapsbasert og uavhengig innsyn om kva for konsekvensar dette har.

kan ikkje velje

Som borgarar kan vi vere kritiske til teknologiselskapa. Samstundes vil vi ha friksjonsfrie tenester. Vi godtar brukarvilkåra utan å protestere. Er vi for ukritiske? Schaake meiner at vi er det. Ho spør samstundes om vi skal la borgarane ta alle desse vala.

– Det ikkje alltid vi skal la alle velje, seier Schaake og meiner at dei fleste heller vil ikkje betale skatt viss dei fikk avgjere det sjølv.

Sjølv fekk ho interesse for teknologibruk og nye medium som utvekslingsstudent i USA i 1996. Schaake hadde e-post, adressa var eit nummer, for å kommunisere med foreldra heime. Så blei det studium i informasjonsteknologi.

– Vi var nokre få studentar som heldt på med alt frå koding til kva internettet kunne få slags verknader på ulike område. Og då eg som ukjend kandidat stilte til val til EU-parlamentet fyrste gongen, brukte eg sosiale medium for å nå veljarar. Eg såg at desse kanalane skapte ein annan dynamikk mellom borgar og stat. Eg var håpefull innleiingsvis, men eg fann raskt ut korleis autoritære regime også brukte teknologien til å overvake og undertrykkje innbyggjarane. Maktdynamikken blei øydelagd, fortel ho.

– Vi var naive

Ho byrja å følgje dette frå så mange vinklar som mogleg, og trudde, som så mange andre, at teknologien i seg sjølv skulle bidra til å spreie demokrati. Det var naivt, medgir ho i dag. Der demokratiet har freista å styrkje reglar som gjeld handel og menneskerettar, har det vore stopp når det gjeld teknologi.

– Demokratiet freistar å ta igjen det tapte, men vi ser at brot på datatryggleik og åtak ikkje får konsekvensar for gjerningspersonane. At ingen må stå til ansvar, svekkjer tiltrua til styresmaktene. Korleis skal vi forklare at data til hundrevis av millionar er kompromittert utan at det får følgjer for dei som står bak? Ja, at vi ikkje veit kven dei er? Det er eit problem.

Korleis vi enda her, forklarar ho med at vi trudde på forteljinga om forretningsfolk og teknologar med gode intensjonar. Dei skapte ei kraft som nok var større enn dei førestilte seg. Og vi gløymde å lage ein internasjonal regelbasert orden som kunne møte denne tidevassbølgja av makt. No betalar vi prisen, er bodskapen frå Schaake.

– Vi ligg bakpå når det gjeld å matche maktsystemet med eit system av styring og lovreglar. Det er ein asymmetri mellom privat sektor og det som er bra for fellesskapet, og det som kan sikre oss mot diskriminering av einskildgrupper, databrot og åtak på det demokratiske systemet, seier ho.

Truga demokrati

Schaake er ikkje i tvil om at dette kan vere eit trugsmål mot demokratiet.

– Selskapa er i stand til å bevege marknaden fordi dei er i store. Då kan dei også påverka demokratiske val. Dei kan bli instrument i det å avgjere resultat av val. Sjølv om det ikkje er noko dei ønskjer, er det ein konsekvens av makta deira og mangelen på innsyn og kontroll, seier ho.

Ho ber oss hugse på at dette er ein online marknadsplass, ikkje ei online ålmente.

– Har du pengar, kan du nå menneska. Dei som er villige til å bruke mykje pengar, kan teste ulike annonsar. Det treng ikkje vere politiske annonsar, men nyhende som løftar fram kriminalitet som handlar om innvandrarar eller nokon frå nærområdet ditt. Då handlar det ikkje om kva som er sant eller ikkje. Vi veit at det er lett å skremme menneske. Det er mykje sprøtt som gjev inntekter til desse selskapa. Og det er for mykje vi ikkje veit om kva makt dei har.

Ho trur det er mogleg å få til ein meir demokratisk styringsmodell for teknologibruk. Men det krev ein betre diskusjon og at fleire land enn USA og EU engasjerer seg.

– Så kan leiarane i desse selskapa ta meir ansvar viss dei berre vil. Vil du leie eit selskap som respekterer demokrati, kan du starte i dag.

Schaake er ikkje i tvil om at aktørane i Silicon Valley og i dei store teknologiselskapa har kome unna med for mykje for lett.

– Det har skapt den kulturen vi har no. Men det kjem også reaksjonar. Ting endrar seg raskt i California. Og når eg ser på studentane på Stanford, er det ikkje like kult å arbeide for Facebook som det var for fem år sidan. No ser dei meir etter kva verdiar som ligg til grunn.