Kunstig intelligens

Marita Liabø

marita@dagogtid.no

I Global Risks Report, den årlege risikorapporten til Verdas økonomiske forum (WEF), ligg feil- og desinformasjon øvst på lista over dei ti største truslane dei neste to åra, framfor ekstremvêr, økonomisk uro og krig.

Grunnen til at lista ser slik ut, er at 2024 er valår for opp mot tre milliardar menneske. Russarar, britar, iranarar, pakistanarar og mange andre har alt gått til urnene, og det er straks val i USA. Neste år er det nordmenns tur. Og for første gong er kunstig intelligens (KI) eit verkemiddel.

– Det har vore stor spenning knytt til bruken av KI i valkampane, seier Hanne Sofie Lindahl.

Ho er prosjektleiar i Teknologirådet, som gir råd til Stortinget og regjeringa om ny teknologi. Ved kvart årsskifte leverer rådet ein teknotrendrapport, og i årets rapport står KI sentralt.

– Det har blitt billig og enkelt å lage KI-generert medieinnhald, og no er kvaliteten så høg at det kan vere vanskeleg å sjå forskjell på falsk og ekte informasjon. I tillegg har det vore fritt fram, også i politikken. Når det er få reglar og lite openheit rundt bruken av KI, blir det lettare å lyge.

At Donald Trump påstår at folkemengda Kamala Harris taler til, er KI-generert, mens han sjølv publiserer KI-generert innhald der han blir hylla av folk som aldri ville stemt på han, seier litt om kompleksiteten.

– I India var mange deepfakes «cheapfakes». Det er lett å sjå at dei ikkje er ekte.

Hanne Sofie Lindahl, Teknologirådet

Den store testen

I vår blei det største valet i historia halde, då 642 millionar indarar stemde. Spenninga var stor: Ville det hindunasjonalistiske partiet Bharatiya Janata (BJP) og Narendra Modi, som har vore statsminister sidan 2014, få halde fram, eller ville opposisjonen klare å ta makta?

Modi har blitt skulda for undertrykking og overgrep mot minoritetar, og i valkampen spelte det største opposisjonspartiet, Indian National Congress (INC), på at India har blitt meir korrupt, mindre sekulært og mindre demokratisk under BJP.

BJP svarte med å nå ut til fleire og bli synlegare enn nokon gong – ved hjelp av KI.

Blant anna kunne Modi med eitt kommunisere med veljarar på ei lang rekke språk. Mange som såg han tale på skjermen sin, trudde verkeleg at han snakka språket deira. I tillegg blei folk oppringde av Modi; han førte ein realistisk samtale.

For å illustrere kor lett det er å la seg lure, la BBC ut ein truverdig video der ein indisk journalist pratar med ein KI-generert Trump om det som opptar henne mest: at straumen stadig går.

Vind i segla

No er ikkje desinformasjon noko nytt. Det blei meir av det då internett kom, og endå meir då sosiale medium kom. Det har blitt stadig lettare å lage falske profilar og manipulere innhald. Men med KI kan ein forvrenge i det uendelege. Som historikar Yuval Noah Harari skriv i den nye boka si, Nexus: Sjølv leiande KI-ekspertar og -gründerar, som Elon Musk og Mustafa Suleyman, åtvarar om at «KI kan komme til å ødelegge sivilisasjonen».

Det blir sagt at det første KI-valet var valet i Argentina i fjor, då Sergio Massa og Javier Milei prøvde å overgå kvarandre i bruken av KI-generert innhald, men teknologien har utvikla seg raskt, og India er ei IT-vogge. Dei indiske partia skal ha brukt 50 millionar amerikanske dollar på KI-generert kommunikasjon retta mot veljarane, og mange små KI-selskap med basis i underhaldningsbransjen fekk vind i segla: Ei rekke deepfakes blei spreidde for å forvirre. Blant anna la INC ut innhald der kjende skodespelarar kritiserer BJP og Modi. Millionar såg videoane før dei blei fjerna og saka politimeld av dei som jo blei utsette for ei form for identitetstjuveri.

Det blei laga videoar der avdøde politikarar taler til folket, og bilde som viser statsministerkandidatane i overraskande – både flatterande og latterleggjerande – omgivnader. Det blei vanskeleg å vite kva som var sant og kva som var usant. Som Harari skriv: «Fremveksten av ubegripelig fremmed intelligens undergraver demokratiet.»

– Vi er ikkje så lette å lure

Samtidig har fleire observatørar konkludert med at KI-bruken i valkampen i India ikkje var øydeleggande. I The Conversation 10. juni skriv teknologiekspertane Bruce Schneier og Vandinika Shukla at jo, KI blei brukt for å sverte motstandarar, men i det store og heile blei han brukt konstruktivt for å nå veljarane.

At BJP gjorde det dårlegare enn forventa, meiner dei er eit bevis på at KI-bruken gjorde bodskapen til politikarane meir tilgjengeleg. Dei skriv at «eksperimenteringa» viser kva vi kan forvente i valkampar i andre land, men understrekar at bruken må vere «trygg og etisk». «Teknologiens evne til å produsere ikkje-godkjende deepfakes kan gjere det vanskelegare å skilje mellom sanning og løgn, men i tilfelle der bruken er godkjend, er han sannsynlegvis demokratiserande.»

Hanne Sofie Lindahl i Teknologirådet seier seg langt på veg einig.

– KI har potensial til å gjere skade, men i India såg vi at KI òg blei brukt på ein god måte, som når talar blei simultanomsette og innbyggarane fekk informasjon på sitt eige språk og sin eigen dialekt.

I tillegg har mange vent seg til å sjå KI-generert medieinnhald.

– Vi er ikkje så lette å lure, poengterer ho.

– I India var mange deepfakes «cheapfakes». Det er lett å sjå at dei ikkje er ekte. Det er tidleg å gjere opp rekneskap, men vi er halvvegs i året, og ingen val har tippa på grunn av teknologi. The New York Times skreiv nyleg om «the year of the A.I. election that wasn’t».

Det er ikkje dermed sagt at vi ikkje treng reglar.

Norske spelereglar i tide

I mai gav Teknologirådet ut rapporten Generativ kunstig intelligens i Norge. Ei av tilrådingane er at vi må få på plass tverrpolitiske spelereglar for bruk av generativ KI før stortingsvalet i 2025.

No har regjeringa sett ned ei ekspertgruppe som skal hente inn informasjon om korleis andre land har jobba for å motverke at val blei påverka av KI, og legge fram forslag til tiltak.

– Venstre har tatt initiativ til å lage spelereglar for valkampen, men dei er sjølvsagt avhengige av at dei andre partia blir med på det, seier Lindahl.

Noreg er lite, med redaktørstyrte medium som vi har tillit til. Vi har faktasjekkarar, og vi har politikarar som har vore forsiktige med bruk av KI. Demokratiet vårt er ganske godt rusta, slik Teknologirådet ser det.

Samtidig les vi nyhende på sosiale medium som jo er globale, og det har blitt vanleg å sende ut målretta politiske bodskapar der ein bruker data frå sosiale medium for å nå spesifikke grupper.

Då er det viktig at veljarane får vite korleis politikarane går fram for å nå dei, partia må vere opne om kva teknologi dei bruker, kva det kostar, og at dei evaluerer bruken etter valkampen.

To klare reglar vi kan sjå for oss, er at KI-generert informasjon blir merkt, og at partia avstår frå å spreie djupforfalskingar à la den vi såg i Danmark i april, seier Lindahl.

Skremmande humor

Det var under EU-valkampen – verdas største transnasjonale val – at Dansk Folkeparti la ut ein video der statsminister Mette Frederiksen seier at ho vil fjerne heilagdagane, og at berre id al-fitr skal vere fridag. Dansk Folkeparti forsvarte seg med at dette er humor. Digitalminister Karianne Tung, derimot, stempla stuntet som «forkastelig» på LinkedIn. Ho skreiv at ho håpar norske politikarar held seg for gode til «å herme etter danskene».

I fjor haust laga Medietilsynet ein kampanjevideo for å illustrere at kven som helst kan lage truverdig djupforfalska materiale, og at kjeldekritikk er viktigare enn nokon gong. I videoen kjem Abid Raja ut av skapet: Han er eigentleg ein trønder – Einar – som berre ville bli kjendis.

Då deepfake var tema i Debatten på NRK i mai i år, fekk vi sjå ein djupforfalska Fredrik Solvang messe om at ulvedebatten var konstruert av staten for å skjule større samfunnsproblem.

Kort veg til ustabilitet

Teknologirådet åtvarar om at dei mange vala i år skjer i ei tid då halvparten av verdas demokrati opplever tilbakegang, og at geopolitiske spenningar kan bli intensiverte. Viss ein ikkje kan stole på valresultatet, er vegen til ustabilitet kort.

I årets valkamp i Mexico, med 100 millionar veljarar, måtte presidentkandidatane – historisk nok to kvinner – tole mykje falsk og til dels hatefull informasjon. Samtidig har Mexico større utfordringar. Frå valkampen tok til og fram til valet 2. juni, blei 37 politikarar på vallista drepne.

Også Sør-Afrika, der ANC som venta mista majoriteten i valet 31. mai, slit med større kriser, som energimangel, bustadmangel og korrupsjon. Ikkje minst blei over 30.000 innbyggarar drepne i året fram mot valet, og mellom årsskiftet og valdagen blei over 40 politikarar som stod på val, avretta.

I eit slikt bilde vekker KI-generert desinformasjon mindre merksemd, sjølv om han florerer.

Taiwan, som heldt val i januar, har ei anna utfordring, med millionar av nettangrep dagleg. Kina står bak dei fleste, og målet er sjølvsagt å destabilisere det taiwanske folkestyret.

2. september la Elon Musk, som eig X, ut dette bildet av Kamala Harris for å vise støtte til Donald Trump.

Foto: X-skjermbilde

Grok

I ei fersk undersøking – utført for The Guardian – knytt til valet i USA, kjem det fram at berre éin av fire veljarar stoler på si eiga evne til å skilje mellom ekte og KI-generert visuelt innhald. Like mange ønsker eit forbod mot deling av KI-generert innhald.

76 prosent av dei spurde etterlyser tiltak for å hindre spreiing av KI-generert innhald, og nesten like mange svarte at det er uakseptabelt at politiske kandidatar publiserer KI-genererte bilde, videoar og lydklipp utan at dei er tydeleg merkte som KI-genererte.

No er EU i gang med å lage eit KI-lovverk, og Google, OpenAI, Meta og Microsoft har forplikta seg til å utvikle tekniske løysingar for merking.

Alt i fjor haust etterlyste Narendra Modi merking. «Slik vi merker sigarettar som helseskadelege, bør KI-generert materiale merkast», sa han.

Inntil vidare går den virtuelle verda sin gang: Elon Musk, som sjølv har blitt misbrukt i eit svindelføretak der mange mista alt dei eigde, lanserte nyleg eit nytt manipuleringsverktøy på X, som han jo eig: Grok. Her delte han – for å vise støtte til Trump – eit bilde av Harris i raud kommunistuniform.

Ikkje berre bryt Musk sitt eige forbod mot å dele innhald «som kan villeie eller forvirre og føre til skade»; X-brukarar sette straks i gang med å dele bilde av Trump og Musk – like lite flatterande, like umerkte og dermed like forvirrande.