USA innoverer, EU regulerer
Kva lover kan verne oss mot uønskte og utilsikta følger av tankemaskinar? Amerikansk innovasjon tvingar oss til å stille spørsmålet, men europeiske lovgjevarar og byråkratar har kome nærast å gje oss eit svar.
EU har blitt verdas fremste pådrivar for personvern og regulering av digital teknologi.
Illustrasjon: Wetzkaz Graphics / Shutterstock / NTB
Kunstig intelligens
magnus@dagogtid.no
I april 2021, meir enn eitt år før ChatGPT vart lansert, la EU-kommisjonen fram eit ambisiøst lovforslag om regulering av kunstig intelligens. Forordninga om kunstig intelligens, The Artificial Intelligence Act, som lova heiter, er det første forsøket på å introdusere eit omfattande rammeverk som regulerer bruken av kunstig intelligens på ulike område. Sidan lova vart lagd fram, har så mykje skjedd på KI-feltet at ideen om vidfemnande KI-regulering verkar særs framsynt.
KI-forordninga styrker trenden ein har sett dei siste par åra, der EU tek ei leiande rolle i internasjonal regulering av digital teknologi. Forordninga er ikkje ferdig framforhandla, men onsdag 14. juni tok EU eit viktig steg framover. Då stemte Europaparlamentet med eit stort fleirtal for å støtte eit revidert utkast til forordninga. Neste steg er forhandlingar mellom parlamentet, Rådet for Den europeiske unionen og EU-kommisjonen. Dersom forhandlingane ikkje låser seg, vil lova kunne verte ferdig før utgangen av 2023 og tre i kraft i 2025.
Bakgrunn og innhald
Ei av årsakene til at EU i det siste har vore frampå innanfor teknologiregulering, er frykta for å gjenta tabbane som vart gjorde då sosiale medium og overvakingsøkonomien fekk vekse fram uregulert på 2010-talet. No er det eit poeng å lage reglar før ein kjem i bakleksa.
Før eg byrjar å skildre innhaldet i lova, må eg be om tolmod frå lesaren, noko som er særs naudsynt når ein les om EU-lovgjeving. Det er ikkje noko kjekkare å skrive om EU-lover enn det er å lese om dei, men kva som står i desse lovene, kva denne brokete samlinga av europearar frå Bulgaria til Irland blir samde om, vil langt på veg bestemme korleis me i Noreg skal handtere kunstig intelligens framover.
Ei forordning er EUs mest inngripande type rettsakt. Ho trer i kraft direkte i alle medlemsland og vil etter ein eigen EØS-prosess bli gjeldande i Noreg, slik til dømes personvernforordninga har blitt gjeldande. Tilnærminga i KI-forordninga er å regulere korleis kunstig intelligens vert brukt i ulike situasjonar.
Forordninga skil mellom fire risikonivå som medfører ulike plikter og forbod. Det lågaste nivået er minimal risiko og medfører ingen reglar. Her er det snakk om bruk av KI til formål som spamfilter for e-post og videospel.
Det neste nivået er avgrensa risiko og medfører krav om å vere gjennomsynleg. I denne kategorien fell til dømes KI-system som kan lage eller manipulere tekst, bilete, lyd eller video, og her må brukarar få klar beskjed dersom innhald er laga av KI-system. Dette er spesielt viktig med tanke på såkalla deepfakes, svært overtydande KI-genererte etterlikningar av menneske.
Det nest høgaste risikonivået er høg risiko. Bruk av KI i mellom anna tryggingssystem, utdanning, helsetenester, biometrisk identifisering, kritisk infrastruktur, politi og demokratiske prosessar fell i denne kategorien. På dette nivået er ein pålagd å registrere og gjennomføre risikovurderingar av KI-systema før dei vert tekne i bruk eller selde. I tillegg finst det fleire krav knytte til blant anna risikohandtering, testing, personopplysningar, transparens og menneskeleg kontroll.
Dette betyr til dømes at dersom helsevesenet vil bruke eit KI-system til å handsame personopplysningane dine, skal du kunne ha tillit til at KI-systemet dei bruker, er testa og trygt.
Det høgaste risikonivået er uakseptabel risiko og inneber forbod. Bruken av kunstig intelligens som Europaparlamentet ønsker å forby, inkluderer skadeleg manipulering som bruker underbevisste mekanismar, ansiktsgjenkjenning i sanntid i det offentlege rommet, system som kan identifisere kjensler, og kategorisering av menneske basert på sensitive opplysningar, for eksempel i sosiale kredittsystem som dei bruker i delar av Kina.
Reglar for ChatGPT
Ettersom store språkmodellar som ChatGPT kom ut etter EU-kommisjonens lovforslag, har det vore opp til Europaparlamentet å føreslå reglar som vil gjelde for desse modellane. Det har vore naudsynt ettersom store språkmodellar nyleg har blitt svært kompetente. Dei kan resonnere, ta avgjerder og generere tekstar av høg kvalitet, noko som er lett å misbruke til kriminelle eller politiske formål.
På ein pressekonferanse var EU-parlamentarikarane som har leia arbeidet med lova, Brando Benifei og Dragos Tudorache, tydelege på at store språkmodellar vil bli pålagde ekstra reglar.
– Me har foreslått ting som ikkje fanst i forslaga til kommisjonen og rådet. Me har gått mykje lenger innanfor regulering av generativ KI og språkmodellar, sa Benifei.
På spørsmål om kva som ville måtte endre seg med ChatGPT dersom lova trådde i kraft i dag, svarte Tudorache slik:
– Dersom reglane vart gjeldande i dag, ville [utviklarane av] ChatGPT måtte gjere følgande: For det første må dei ta omsyn til interessene til dei lenger nede i verdikjeda og gje dei den informasjonen dei treng for å følge reglane dersom dei operer i høgrisikoområde. For det andre må dei vere opne om datasetta dei har brukt til å trene ChatGPT, og korleis ChatGPT fungerer. Og for det tredje, som er det viktigaste, må dei som lagar generativ KI, vise at dei har vurdert om innhaldet modellen kan lage, er lovleg, og dei må offentleggjere alt opphavsrettsverna innhald dei har brukt til å trene modellen. Dei må kunne dokumentere dette skikkeleg og vere opne om det.
Sagt med andre ord: Dersom Europaparlamentets utkast trer i kraft utan endringar, vil dei mest kjente språkmodellane me har i dag, vere lovstridige. Det var konklusjonen til ein nyleg studie frå Stanford University som etterforska i kva grad dagens språkmodellar strir med lovforslaget til EU. Noverande KI-utviklarar er spesielt dårlege på å vere opne om kva materiale dei har brukt til å trene modellar.
Internasjonale følger
Korleis vil EUs KI-forordninga påverke resten av verda? Europaparlamentets president Roberta Metsola var tydeleg: «Dette handlar om at Europa tek leiinga og gjer det på vår måte: ansvarleg». Kan hende ein vil sjå den såkalla Brussel-effekten, der EUs reglar strekker seg langt utanfor EUs grenser. EUs personvernforordning, til dømes, har styrkt personvernet globalt ettersom andre land har følgt EUs eksempel, og selskap har valt å følge europeiske standardar i andre land.
Medan USA er best på utvikling av KI, heng dei langt etter innan regulering. President Biden har lagt fram ei KI-rettserklæring som oppmuntrar til at KI-utviklinga skal verne om borgarrettar, demokratiske verdiar og privatliv, men dokumentet er ikkje rettsleg bindande. EUs forordning, derimot, legg opp til at styresmakter kan gje selskap bot på opp til 7 prosent av årleg omsetning og krevje tilbaketrekking av produkt som strir med lovverket.
Enkelte ting gjer det vanskeleg å spå kva som vil skje framover. Det første er at Europaparlamentets lovforslag kan bli endra og utvatna i forhandlingar med andre EU-institusjonar. Me veit ennå ikkje korleis den endelege lova vil sjå ut.
Det andre er at utviklinga av ny KI-teknologi vil kunne endre forholda så mykje at reglane vert delvis utdaterte før dei får tid til å vere nyttige.
Sist, men ikkje minst har ein selskapa som ønsker å tene seg rike på KI-produkt. Dei vil ikkje vente tolmodig på sidelinja medan eurokratar fortel dei kva dei får og ikkje får lov til.
Er du abonnent? Logg på her for å lese vidare.
Digital tilgang til DAG OG TID – heilt utan binding
Prøv ein månad for kr 49.
Deretter kr 199 per månad. Stopp når du vil.
Kunstig intelligens
magnus@dagogtid.no
I april 2021, meir enn eitt år før ChatGPT vart lansert, la EU-kommisjonen fram eit ambisiøst lovforslag om regulering av kunstig intelligens. Forordninga om kunstig intelligens, The Artificial Intelligence Act, som lova heiter, er det første forsøket på å introdusere eit omfattande rammeverk som regulerer bruken av kunstig intelligens på ulike område. Sidan lova vart lagd fram, har så mykje skjedd på KI-feltet at ideen om vidfemnande KI-regulering verkar særs framsynt.
KI-forordninga styrker trenden ein har sett dei siste par åra, der EU tek ei leiande rolle i internasjonal regulering av digital teknologi. Forordninga er ikkje ferdig framforhandla, men onsdag 14. juni tok EU eit viktig steg framover. Då stemte Europaparlamentet med eit stort fleirtal for å støtte eit revidert utkast til forordninga. Neste steg er forhandlingar mellom parlamentet, Rådet for Den europeiske unionen og EU-kommisjonen. Dersom forhandlingane ikkje låser seg, vil lova kunne verte ferdig før utgangen av 2023 og tre i kraft i 2025.
Bakgrunn og innhald
Ei av årsakene til at EU i det siste har vore frampå innanfor teknologiregulering, er frykta for å gjenta tabbane som vart gjorde då sosiale medium og overvakingsøkonomien fekk vekse fram uregulert på 2010-talet. No er det eit poeng å lage reglar før ein kjem i bakleksa.
Før eg byrjar å skildre innhaldet i lova, må eg be om tolmod frå lesaren, noko som er særs naudsynt når ein les om EU-lovgjeving. Det er ikkje noko kjekkare å skrive om EU-lover enn det er å lese om dei, men kva som står i desse lovene, kva denne brokete samlinga av europearar frå Bulgaria til Irland blir samde om, vil langt på veg bestemme korleis me i Noreg skal handtere kunstig intelligens framover.
Ei forordning er EUs mest inngripande type rettsakt. Ho trer i kraft direkte i alle medlemsland og vil etter ein eigen EØS-prosess bli gjeldande i Noreg, slik til dømes personvernforordninga har blitt gjeldande. Tilnærminga i KI-forordninga er å regulere korleis kunstig intelligens vert brukt i ulike situasjonar.
Forordninga skil mellom fire risikonivå som medfører ulike plikter og forbod. Det lågaste nivået er minimal risiko og medfører ingen reglar. Her er det snakk om bruk av KI til formål som spamfilter for e-post og videospel.
Det neste nivået er avgrensa risiko og medfører krav om å vere gjennomsynleg. I denne kategorien fell til dømes KI-system som kan lage eller manipulere tekst, bilete, lyd eller video, og her må brukarar få klar beskjed dersom innhald er laga av KI-system. Dette er spesielt viktig med tanke på såkalla deepfakes, svært overtydande KI-genererte etterlikningar av menneske.
Det nest høgaste risikonivået er høg risiko. Bruk av KI i mellom anna tryggingssystem, utdanning, helsetenester, biometrisk identifisering, kritisk infrastruktur, politi og demokratiske prosessar fell i denne kategorien. På dette nivået er ein pålagd å registrere og gjennomføre risikovurderingar av KI-systema før dei vert tekne i bruk eller selde. I tillegg finst det fleire krav knytte til blant anna risikohandtering, testing, personopplysningar, transparens og menneskeleg kontroll.
Dette betyr til dømes at dersom helsevesenet vil bruke eit KI-system til å handsame personopplysningane dine, skal du kunne ha tillit til at KI-systemet dei bruker, er testa og trygt.
Det høgaste risikonivået er uakseptabel risiko og inneber forbod. Bruken av kunstig intelligens som Europaparlamentet ønsker å forby, inkluderer skadeleg manipulering som bruker underbevisste mekanismar, ansiktsgjenkjenning i sanntid i det offentlege rommet, system som kan identifisere kjensler, og kategorisering av menneske basert på sensitive opplysningar, for eksempel i sosiale kredittsystem som dei bruker i delar av Kina.
Reglar for ChatGPT
Ettersom store språkmodellar som ChatGPT kom ut etter EU-kommisjonens lovforslag, har det vore opp til Europaparlamentet å føreslå reglar som vil gjelde for desse modellane. Det har vore naudsynt ettersom store språkmodellar nyleg har blitt svært kompetente. Dei kan resonnere, ta avgjerder og generere tekstar av høg kvalitet, noko som er lett å misbruke til kriminelle eller politiske formål.
På ein pressekonferanse var EU-parlamentarikarane som har leia arbeidet med lova, Brando Benifei og Dragos Tudorache, tydelege på at store språkmodellar vil bli pålagde ekstra reglar.
– Me har foreslått ting som ikkje fanst i forslaga til kommisjonen og rådet. Me har gått mykje lenger innanfor regulering av generativ KI og språkmodellar, sa Benifei.
På spørsmål om kva som ville måtte endre seg med ChatGPT dersom lova trådde i kraft i dag, svarte Tudorache slik:
– Dersom reglane vart gjeldande i dag, ville [utviklarane av] ChatGPT måtte gjere følgande: For det første må dei ta omsyn til interessene til dei lenger nede i verdikjeda og gje dei den informasjonen dei treng for å følge reglane dersom dei operer i høgrisikoområde. For det andre må dei vere opne om datasetta dei har brukt til å trene ChatGPT, og korleis ChatGPT fungerer. Og for det tredje, som er det viktigaste, må dei som lagar generativ KI, vise at dei har vurdert om innhaldet modellen kan lage, er lovleg, og dei må offentleggjere alt opphavsrettsverna innhald dei har brukt til å trene modellen. Dei må kunne dokumentere dette skikkeleg og vere opne om det.
Sagt med andre ord: Dersom Europaparlamentets utkast trer i kraft utan endringar, vil dei mest kjente språkmodellane me har i dag, vere lovstridige. Det var konklusjonen til ein nyleg studie frå Stanford University som etterforska i kva grad dagens språkmodellar strir med lovforslaget til EU. Noverande KI-utviklarar er spesielt dårlege på å vere opne om kva materiale dei har brukt til å trene modellar.
Internasjonale følger
Korleis vil EUs KI-forordninga påverke resten av verda? Europaparlamentets president Roberta Metsola var tydeleg: «Dette handlar om at Europa tek leiinga og gjer det på vår måte: ansvarleg». Kan hende ein vil sjå den såkalla Brussel-effekten, der EUs reglar strekker seg langt utanfor EUs grenser. EUs personvernforordning, til dømes, har styrkt personvernet globalt ettersom andre land har følgt EUs eksempel, og selskap har valt å følge europeiske standardar i andre land.
Medan USA er best på utvikling av KI, heng dei langt etter innan regulering. President Biden har lagt fram ei KI-rettserklæring som oppmuntrar til at KI-utviklinga skal verne om borgarrettar, demokratiske verdiar og privatliv, men dokumentet er ikkje rettsleg bindande. EUs forordning, derimot, legg opp til at styresmakter kan gje selskap bot på opp til 7 prosent av årleg omsetning og krevje tilbaketrekking av produkt som strir med lovverket.
Enkelte ting gjer det vanskeleg å spå kva som vil skje framover. Det første er at Europaparlamentets lovforslag kan bli endra og utvatna i forhandlingar med andre EU-institusjonar. Me veit ennå ikkje korleis den endelege lova vil sjå ut.
Det andre er at utviklinga av ny KI-teknologi vil kunne endre forholda så mykje at reglane vert delvis utdaterte før dei får tid til å vere nyttige.
Sist, men ikkje minst har ein selskapa som ønsker å tene seg rike på KI-produkt. Dei vil ikkje vente tolmodig på sidelinja medan eurokratar fortel dei kva dei får og ikkje får lov til.
Fleire artiklar
Ein mann trakkar på ein plakat av Bashar al-Assad i Damaskus.
Foto: Amr Abdallah Dalsh / Reuters / NTB
Uviss lagnad for Syria
Det store spørsmålet no er kva som vil skje framover i Syria, etter at opposisjonen overraskande fort tok over heile det regimekontrollerte Syria nesten utan militær motstand.
Andrea Bræin Hovig og Tayo Cittadella Jacobsen i rollene som Marianne og Tor, som møtest på Nesoddferja.
Foto: Arthaus
Leiken kjærleik
Alle gode ting er faktisk tre, om du lurte på om trilogien til Dag Johan Haugerud held heilt til mål.
Finansminister og leiar for Senterpartiet Trygve Slagsvold Vedum på landsstyremøtet i år. Partiet har falle kraftig på dei nyaste meiningsmålingane.
Foto: Thomas Fure / NTB
– Populisme er ikkje noko å vere redd for
Trass i dårlege meiningsmålingar har statssekretær Skjalg Fjellheim trua på at Senterpartiet har den beste politikken for Noreg.
Foto: Edvard Thorup
Makta og den uavhengige forskinga
«Eg er fullt klar over at mange gjorde ein stor innsats i Sør-Sudan, og med gode intensjonar.»
Fotballpresident Lise Klaveness under ein pressekonferanse på Ullevål stadion.
Foto: Erik Flaaris Johansen / NTB