Kunstig intelligens

Magnus Furre Gjerde

magnus@dagogtid.no

I april 2021, meir enn eitt år før ChatGPT vart lansert, la EU-kommisjonen fram eit ambisiøst lovforslag om regulering av kunstig intelligens. Forordninga om kunstig intelligens, The Artificial Intelligence Act, som lova heiter, er det første forsøket på å introdusere eit omfattande rammeverk som regulerer bruken av kunstig intelligens på ulike område. Sidan lova vart lagd fram, har så mykje skjedd på KI-feltet at ideen om vidfemnande KI-regulering verkar særs framsynt.

KI-forordninga styrker trenden ein har sett dei siste par åra, der EU tek ei leiande rolle i internasjonal regulering av digital teknologi. Forordninga er ikkje ferdig framforhandla, men onsdag 14. juni tok EU eit viktig steg framover. Då stemte Europaparlamentet med eit stort fleirtal for å støtte eit revidert utkast til forordninga. Neste steg er forhandlingar mellom parlamentet, Rådet for Den europeiske unionen og EU-kommisjonen. Dersom forhandlingane ikkje låser seg, vil lova kunne verte ferdig før utgangen av 2023 og tre i kraft i 2025.

Bakgrunn og innhald

Ei av årsakene til at EU i det siste har vore frampå innanfor teknologiregulering, er frykta for å gjenta tabbane som vart gjorde då sosiale medium og overvakingsøkonomien fekk vekse fram uregulert på 2010-talet. No er det eit poeng å lage reglar før ein kjem i bakleksa.

Før eg byrjar å skildre innhaldet i lova, må eg be om tolmod frå lesaren, noko som er særs naudsynt når ein les om EU-lovgjeving. Det er ikkje noko kjekkare å skrive om EU-lover enn det er å lese om dei, men kva som står i desse lovene, kva denne brokete samlinga av europearar frå Bulgaria til Irland blir samde om, vil langt på veg bestemme korleis me i Noreg skal handtere kunstig intelligens framover.

Ei forordning er EUs mest inngripande type rettsakt. Ho trer i kraft direkte i alle medlemsland og vil etter ein eigen EØS-prosess bli gjeldande i Noreg, slik til dømes personvernforordninga har blitt gjeldande. Tilnærminga i KI-forordninga er å regulere korleis kunstig intelligens vert brukt i ulike situasjonar.

Forordninga skil mellom fire risikonivå som medfører ulike plikter og forbod. Det lågaste nivået er minimal risiko og medfører ingen reglar. Her er det snakk om bruk av KI til formål som spam­filter for e-post og videospel.

Det neste nivået er avgrensa risiko og medfører krav om å vere gjennomsynleg. I denne kategorien fell til dømes KI-system som kan lage eller manipulere tekst, bilete, lyd eller video, og her må brukarar få klar beskjed dersom innhald er laga av KI-system. Dette er spesielt viktig med tanke på såkalla deepfakes, svært overtydande KI-genererte etterlikningar av menneske.

Det nest høgaste risikonivået er høg risiko. Bruk av KI i mellom anna tryggingssystem, utdanning, helsetenester, biometrisk identifisering, kritisk infrastruktur, politi og demokratiske prosessar fell i denne kategorien. På dette nivået er ein pålagd å registrere og gjennomføre risikovurderingar av KI-systema før dei vert tekne i bruk eller selde. I tillegg finst det fleire krav knytte til blant anna risikohandtering, testing, personopplysningar, transparens og menneskeleg kontroll.

Dette betyr til dømes at dersom helsevesenet vil bruke eit KI-system til å handsame personopplysningane dine, skal du kunne ha tillit til at KI-systemet dei bruker, er testa og trygt.

Det høgaste risikonivået er uakseptabel risiko og inneber forbod. Bruken av kunstig intelligens som Europaparlamentet ønsker å forby, inkluderer skadeleg manipulering som bruker underbevisste mekanismar, ansiktsgjenkjenning i sanntid i det offentlege rommet, system som kan identifisere kjensler, og kategorisering av menneske basert på sensitive opplysningar, for eksempel i sosiale kredittsystem som dei bruker i delar av Kina.

Reglar for ChatGPT

Ettersom store språkmodellar som ChatGPT kom ut etter EU-kommisjonens lovforslag, har det vore opp til Europaparlamentet å føreslå reglar som vil gjelde for desse modellane. Det har vore naudsynt ettersom store språkmodellar nyleg har blitt svært kompetente. Dei kan resonnere, ta avgjerder og generere tekstar av høg kvalitet, noko som er lett å misbruke til kriminelle eller politiske formål.

På ein pressekonferanse var EU-parlamentarikarane som har leia arbeidet med lova, Brando Benifei og Dragos Tudorache, tydelege på at store språkmodellar vil bli pålagde ekstra reglar.

– Me har foreslått ting som ikkje fanst i forslaga til kommisjonen og rådet. Me har gått mykje lenger innanfor regulering av generativ KI og språkmodellar, sa Benifei.

På spørsmål om kva som ville måtte endre seg med ChatGPT dersom lova trådde i kraft i dag, svarte Tudorache slik:

– Dersom reglane vart gjeldande i dag, ville [utviklarane av] ChatGPT måtte gjere følgande: For det første må dei ta omsyn til interessene til dei lenger nede i verdikjeda og gje dei den informasjonen dei treng for å følge reglane dersom dei operer i høgrisikoområde. For det andre må dei vere opne om datasetta dei har brukt til å trene ChatGPT, og korleis ChatGPT fungerer. Og for det tredje, som er det viktigaste, må dei som lagar generativ KI, vise at dei har vurdert om innhaldet modellen kan lage, er lovleg, og dei må offentleggjere alt opphavsrettsverna innhald dei har brukt til å trene modellen. Dei må kunne dokumentere dette skikkeleg og vere opne om det.

Sagt med andre ord: Dersom Europaparlamentets utkast trer i kraft utan endringar, vil dei mest kjente språkmodellane me har i dag, vere lovstridige. Det var konklusjonen til ein nyleg studie frå Stanford University som etterforska i kva grad dagens språkmodellar strir med lovforslaget til EU. Noverande KI-utviklarar er spesielt dårlege på å vere opne om kva materiale dei har brukt til å trene modellar.

Internasjonale følger

Korleis vil EUs KI-forordninga påverke resten av verda? Europaparlamentets president Roberta Metsola var tydeleg: «Dette handlar om at Europa tek leiinga og gjer det på vår måte: ansvarleg». Kan hende ein vil sjå den såkalla Brussel-effekten, der EUs reglar strekker seg langt utanfor EUs grenser. EUs personvernforordning, til dømes, har styrkt personvernet globalt ettersom andre land har følgt EUs eksempel, og selskap har valt å følge europeiske standardar i andre land.

Medan USA er best på utvikling av KI, heng dei langt etter innan regulering. President Biden har lagt fram ei KI-rettserklæring som oppmuntrar til at KI-utviklinga skal verne om borgarrettar, demokratiske verdiar og privatliv, men dokumentet er ikkje rettsleg bindande. EUs forordning, derimot, legg opp til at styresmakter kan gje selskap bot på opp til 7 prosent av årleg omsetning og krevje tilbaketrekking av produkt som strir med lovverket.

Enkelte ting gjer det vanskeleg å spå kva som vil skje framover. Det første er at Europaparlamentets lovforslag kan bli endra og utvatna i forhandlingar med andre EU-institusjonar. Me veit ennå ikkje korleis den endelege lova vil sjå ut.

Det andre er at utviklinga av ny KI-teknologi vil kunne endre forholda så mykje at reglane vert delvis utdaterte før dei får tid til å vere nyttige.

Sist, men ikkje minst har ein selskapa som ønsker å tene seg rike på KI-produkt. Dei vil ikkje vente tolmodig på sidelinja medan eurokratar fortel dei kva dei får og ikkje får lov til.