Takk for at du vil dele artikkelen

Den du deler artikkelen med, kan lese og eventuelt lytte til heile artikkelen.
Det gjer vi for at fleire skal oppdage DAG OG TID.

Namnet ditt vert synleg for alle du deler artikkelen med.

Samfunn

USA innoverer, EU regulerer

Kva lover kan verne oss mot uønskte og utilsikta følger av tankemaskinar? Amerikansk innovasjon tvingar oss til å stille spørsmålet, men europeiske lovgjevarar og byråkratar har kome nærast å gje oss eit svar. 

Kvar veke les vi inn utvalde artiklar, som abonnentane våre kan lytte til.
Lytt til artikkelen
EU har blitt verdas fremste pådrivar for personvern og regulering av digital teknologi.

EU har blitt verdas fremste pådrivar for personvern og regulering av digital teknologi.

Illustrasjon: Wetzkaz Graphics / Shutterstock / NTB

EU har blitt verdas fremste pådrivar for personvern og regulering av digital teknologi.

EU har blitt verdas fremste pådrivar for personvern og regulering av digital teknologi.

Illustrasjon: Wetzkaz Graphics / Shutterstock / NTB

7514
20230630
7514
20230630

Kunstig intelligens

magnus@dagogtid.no

I april 2021, meir enn eitt år før ChatGPT vart lansert, la EU-kommisjonen fram eit ambisiøst lovforslag om regulering av kunstig intelligens. Forordninga om kunstig intelligens, The Artificial Intelligence Act, som lova heiter, er det første forsøket på å introdusere eit omfattande rammeverk som regulerer bruken av kunstig intelligens på ulike område. Sidan lova vart lagd fram, har så mykje skjedd på KI-feltet at ideen om vidfemnande KI-regulering verkar særs framsynt.

KI-forordninga styrker trenden ein har sett dei siste par åra, der EU tek ei leiande rolle i internasjonal regulering av digital teknologi. Forordninga er ikkje ferdig framforhandla, men onsdag 14. juni tok EU eit viktig steg framover. Då stemte Europaparlamentet med eit stort fleirtal for å støtte eit revidert utkast til forordninga. Neste steg er forhandlingar mellom parlamentet, Rådet for Den europeiske unionen og EU-kommisjonen. Dersom forhandlingane ikkje låser seg, vil lova kunne verte ferdig før utgangen av 2023 og tre i kraft i 2025.

Bakgrunn og innhald

Ei av årsakene til at EU i det siste har vore frampå innanfor teknologiregulering, er frykta for å gjenta tabbane som vart gjorde då sosiale medium og overvakingsøkonomien fekk vekse fram uregulert på 2010-talet. No er det eit poeng å lage reglar før ein kjem i bakleksa.

Før eg byrjar å skildre innhaldet i lova, må eg be om tolmod frå lesaren, noko som er særs naudsynt når ein les om EU-lovgjeving. Det er ikkje noko kjekkare å skrive om EU-lover enn det er å lese om dei, men kva som står i desse lovene, kva denne brokete samlinga av europearar frå Bulgaria til Irland blir samde om, vil langt på veg bestemme korleis me i Noreg skal handtere kunstig intelligens framover.

Ei forordning er EUs mest inngripande type rettsakt. Ho trer i kraft direkte i alle medlemsland og vil etter ein eigen EØS-prosess bli gjeldande i Noreg, slik til dømes personvernforordninga har blitt gjeldande. Tilnærminga i KI-forordninga er å regulere korleis kunstig intelligens vert brukt i ulike situasjonar.

Forordninga skil mellom fire risikonivå som medfører ulike plikter og forbod. Det lågaste nivået er minimal risiko og medfører ingen reglar. Her er det snakk om bruk av KI til formål som spam­filter for e-post og videospel.

Det neste nivået er avgrensa risiko og medfører krav om å vere gjennomsynleg. I denne kategorien fell til dømes KI-system som kan lage eller manipulere tekst, bilete, lyd eller video, og her må brukarar få klar beskjed dersom innhald er laga av KI-system. Dette er spesielt viktig med tanke på såkalla deepfakes, svært overtydande KI-genererte etterlikningar av menneske.

Det nest høgaste risikonivået er høg risiko. Bruk av KI i mellom anna tryggingssystem, utdanning, helsetenester, biometrisk identifisering, kritisk infrastruktur, politi og demokratiske prosessar fell i denne kategorien. På dette nivået er ein pålagd å registrere og gjennomføre risikovurderingar av KI-systema før dei vert tekne i bruk eller selde. I tillegg finst det fleire krav knytte til blant anna risikohandtering, testing, personopplysningar, transparens og menneskeleg kontroll.

Dette betyr til dømes at dersom helsevesenet vil bruke eit KI-system til å handsame personopplysningane dine, skal du kunne ha tillit til at KI-systemet dei bruker, er testa og trygt.

Det høgaste risikonivået er uakseptabel risiko og inneber forbod. Bruken av kunstig intelligens som Europaparlamentet ønsker å forby, inkluderer skadeleg manipulering som bruker underbevisste mekanismar, ansiktsgjenkjenning i sanntid i det offentlege rommet, system som kan identifisere kjensler, og kategorisering av menneske basert på sensitive opplysningar, for eksempel i sosiale kredittsystem som dei bruker i delar av Kina.

Reglar for ChatGPT

Ettersom store språkmodellar som ChatGPT kom ut etter EU-kommisjonens lovforslag, har det vore opp til Europaparlamentet å føreslå reglar som vil gjelde for desse modellane. Det har vore naudsynt ettersom store språkmodellar nyleg har blitt svært kompetente. Dei kan resonnere, ta avgjerder og generere tekstar av høg kvalitet, noko som er lett å misbruke til kriminelle eller politiske formål.

På ein pressekonferanse var EU-parlamentarikarane som har leia arbeidet med lova, Brando Benifei og Dragos Tudorache, tydelege på at store språkmodellar vil bli pålagde ekstra reglar.

– Me har foreslått ting som ikkje fanst i forslaga til kommisjonen og rådet. Me har gått mykje lenger innanfor regulering av generativ KI og språkmodellar, sa Benifei.

På spørsmål om kva som ville måtte endre seg med ChatGPT dersom lova trådde i kraft i dag, svarte Tudorache slik:

– Dersom reglane vart gjeldande i dag, ville [utviklarane av] ChatGPT måtte gjere følgande: For det første må dei ta omsyn til interessene til dei lenger nede i verdikjeda og gje dei den informasjonen dei treng for å følge reglane dersom dei operer i høgrisikoområde. For det andre må dei vere opne om datasetta dei har brukt til å trene ChatGPT, og korleis ChatGPT fungerer. Og for det tredje, som er det viktigaste, må dei som lagar generativ KI, vise at dei har vurdert om innhaldet modellen kan lage, er lovleg, og dei må offentleggjere alt opphavsrettsverna innhald dei har brukt til å trene modellen. Dei må kunne dokumentere dette skikkeleg og vere opne om det.

Sagt med andre ord: Dersom Europaparlamentets utkast trer i kraft utan endringar, vil dei mest kjente språkmodellane me har i dag, vere lovstridige. Det var konklusjonen til ein nyleg studie frå Stanford University som etterforska i kva grad dagens språkmodellar strir med lovforslaget til EU. Noverande KI-utviklarar er spesielt dårlege på å vere opne om kva materiale dei har brukt til å trene modellar.

Internasjonale følger

Korleis vil EUs KI-forordninga påverke resten av verda? Europaparlamentets president Roberta Metsola var tydeleg: «Dette handlar om at Europa tek leiinga og gjer det på vår måte: ansvarleg». Kan hende ein vil sjå den såkalla Brussel-effekten, der EUs reglar strekker seg langt utanfor EUs grenser. EUs personvernforordning, til dømes, har styrkt personvernet globalt ettersom andre land har følgt EUs eksempel, og selskap har valt å følge europeiske standardar i andre land.

Medan USA er best på utvikling av KI, heng dei langt etter innan regulering. President Biden har lagt fram ei KI-rettserklæring som oppmuntrar til at KI-utviklinga skal verne om borgarrettar, demokratiske verdiar og privatliv, men dokumentet er ikkje rettsleg bindande. EUs forordning, derimot, legg opp til at styresmakter kan gje selskap bot på opp til 7 prosent av årleg omsetning og krevje tilbaketrekking av produkt som strir med lovverket.

Enkelte ting gjer det vanskeleg å spå kva som vil skje framover. Det første er at Europaparlamentets lovforslag kan bli endra og utvatna i forhandlingar med andre EU-institusjonar. Me veit ennå ikkje korleis den endelege lova vil sjå ut.

Det andre er at utviklinga av ny KI-teknologi vil kunne endre forholda så mykje at reglane vert delvis utdaterte før dei får tid til å vere nyttige.

Sist, men ikkje minst har ein selskapa som ønsker å tene seg rike på KI-produkt. Dei vil ikkje vente tolmodig på sidelinja medan eurokratar fortel dei kva dei får og ikkje får lov til.

Digital tilgang til DAG OG TID – heilt utan binding

Prøv ein månad for kr 49.
Deretter kr 199 per månad. Stopp når du vil.


Eller kjøp eit anna abonnement

Kunstig intelligens

magnus@dagogtid.no

I april 2021, meir enn eitt år før ChatGPT vart lansert, la EU-kommisjonen fram eit ambisiøst lovforslag om regulering av kunstig intelligens. Forordninga om kunstig intelligens, The Artificial Intelligence Act, som lova heiter, er det første forsøket på å introdusere eit omfattande rammeverk som regulerer bruken av kunstig intelligens på ulike område. Sidan lova vart lagd fram, har så mykje skjedd på KI-feltet at ideen om vidfemnande KI-regulering verkar særs framsynt.

KI-forordninga styrker trenden ein har sett dei siste par åra, der EU tek ei leiande rolle i internasjonal regulering av digital teknologi. Forordninga er ikkje ferdig framforhandla, men onsdag 14. juni tok EU eit viktig steg framover. Då stemte Europaparlamentet med eit stort fleirtal for å støtte eit revidert utkast til forordninga. Neste steg er forhandlingar mellom parlamentet, Rådet for Den europeiske unionen og EU-kommisjonen. Dersom forhandlingane ikkje låser seg, vil lova kunne verte ferdig før utgangen av 2023 og tre i kraft i 2025.

Bakgrunn og innhald

Ei av årsakene til at EU i det siste har vore frampå innanfor teknologiregulering, er frykta for å gjenta tabbane som vart gjorde då sosiale medium og overvakingsøkonomien fekk vekse fram uregulert på 2010-talet. No er det eit poeng å lage reglar før ein kjem i bakleksa.

Før eg byrjar å skildre innhaldet i lova, må eg be om tolmod frå lesaren, noko som er særs naudsynt når ein les om EU-lovgjeving. Det er ikkje noko kjekkare å skrive om EU-lover enn det er å lese om dei, men kva som står i desse lovene, kva denne brokete samlinga av europearar frå Bulgaria til Irland blir samde om, vil langt på veg bestemme korleis me i Noreg skal handtere kunstig intelligens framover.

Ei forordning er EUs mest inngripande type rettsakt. Ho trer i kraft direkte i alle medlemsland og vil etter ein eigen EØS-prosess bli gjeldande i Noreg, slik til dømes personvernforordninga har blitt gjeldande. Tilnærminga i KI-forordninga er å regulere korleis kunstig intelligens vert brukt i ulike situasjonar.

Forordninga skil mellom fire risikonivå som medfører ulike plikter og forbod. Det lågaste nivået er minimal risiko og medfører ingen reglar. Her er det snakk om bruk av KI til formål som spam­filter for e-post og videospel.

Det neste nivået er avgrensa risiko og medfører krav om å vere gjennomsynleg. I denne kategorien fell til dømes KI-system som kan lage eller manipulere tekst, bilete, lyd eller video, og her må brukarar få klar beskjed dersom innhald er laga av KI-system. Dette er spesielt viktig med tanke på såkalla deepfakes, svært overtydande KI-genererte etterlikningar av menneske.

Det nest høgaste risikonivået er høg risiko. Bruk av KI i mellom anna tryggingssystem, utdanning, helsetenester, biometrisk identifisering, kritisk infrastruktur, politi og demokratiske prosessar fell i denne kategorien. På dette nivået er ein pålagd å registrere og gjennomføre risikovurderingar av KI-systema før dei vert tekne i bruk eller selde. I tillegg finst det fleire krav knytte til blant anna risikohandtering, testing, personopplysningar, transparens og menneskeleg kontroll.

Dette betyr til dømes at dersom helsevesenet vil bruke eit KI-system til å handsame personopplysningane dine, skal du kunne ha tillit til at KI-systemet dei bruker, er testa og trygt.

Det høgaste risikonivået er uakseptabel risiko og inneber forbod. Bruken av kunstig intelligens som Europaparlamentet ønsker å forby, inkluderer skadeleg manipulering som bruker underbevisste mekanismar, ansiktsgjenkjenning i sanntid i det offentlege rommet, system som kan identifisere kjensler, og kategorisering av menneske basert på sensitive opplysningar, for eksempel i sosiale kredittsystem som dei bruker i delar av Kina.

Reglar for ChatGPT

Ettersom store språkmodellar som ChatGPT kom ut etter EU-kommisjonens lovforslag, har det vore opp til Europaparlamentet å føreslå reglar som vil gjelde for desse modellane. Det har vore naudsynt ettersom store språkmodellar nyleg har blitt svært kompetente. Dei kan resonnere, ta avgjerder og generere tekstar av høg kvalitet, noko som er lett å misbruke til kriminelle eller politiske formål.

På ein pressekonferanse var EU-parlamentarikarane som har leia arbeidet med lova, Brando Benifei og Dragos Tudorache, tydelege på at store språkmodellar vil bli pålagde ekstra reglar.

– Me har foreslått ting som ikkje fanst i forslaga til kommisjonen og rådet. Me har gått mykje lenger innanfor regulering av generativ KI og språkmodellar, sa Benifei.

På spørsmål om kva som ville måtte endre seg med ChatGPT dersom lova trådde i kraft i dag, svarte Tudorache slik:

– Dersom reglane vart gjeldande i dag, ville [utviklarane av] ChatGPT måtte gjere følgande: For det første må dei ta omsyn til interessene til dei lenger nede i verdikjeda og gje dei den informasjonen dei treng for å følge reglane dersom dei operer i høgrisikoområde. For det andre må dei vere opne om datasetta dei har brukt til å trene ChatGPT, og korleis ChatGPT fungerer. Og for det tredje, som er det viktigaste, må dei som lagar generativ KI, vise at dei har vurdert om innhaldet modellen kan lage, er lovleg, og dei må offentleggjere alt opphavsrettsverna innhald dei har brukt til å trene modellen. Dei må kunne dokumentere dette skikkeleg og vere opne om det.

Sagt med andre ord: Dersom Europaparlamentets utkast trer i kraft utan endringar, vil dei mest kjente språkmodellane me har i dag, vere lovstridige. Det var konklusjonen til ein nyleg studie frå Stanford University som etterforska i kva grad dagens språkmodellar strir med lovforslaget til EU. Noverande KI-utviklarar er spesielt dårlege på å vere opne om kva materiale dei har brukt til å trene modellar.

Internasjonale følger

Korleis vil EUs KI-forordninga påverke resten av verda? Europaparlamentets president Roberta Metsola var tydeleg: «Dette handlar om at Europa tek leiinga og gjer det på vår måte: ansvarleg». Kan hende ein vil sjå den såkalla Brussel-effekten, der EUs reglar strekker seg langt utanfor EUs grenser. EUs personvernforordning, til dømes, har styrkt personvernet globalt ettersom andre land har følgt EUs eksempel, og selskap har valt å følge europeiske standardar i andre land.

Medan USA er best på utvikling av KI, heng dei langt etter innan regulering. President Biden har lagt fram ei KI-rettserklæring som oppmuntrar til at KI-utviklinga skal verne om borgarrettar, demokratiske verdiar og privatliv, men dokumentet er ikkje rettsleg bindande. EUs forordning, derimot, legg opp til at styresmakter kan gje selskap bot på opp til 7 prosent av årleg omsetning og krevje tilbaketrekking av produkt som strir med lovverket.

Enkelte ting gjer det vanskeleg å spå kva som vil skje framover. Det første er at Europaparlamentets lovforslag kan bli endra og utvatna i forhandlingar med andre EU-institusjonar. Me veit ennå ikkje korleis den endelege lova vil sjå ut.

Det andre er at utviklinga av ny KI-teknologi vil kunne endre forholda så mykje at reglane vert delvis utdaterte før dei får tid til å vere nyttige.

Sist, men ikkje minst har ein selskapa som ønsker å tene seg rike på KI-produkt. Dei vil ikkje vente tolmodig på sidelinja medan eurokratar fortel dei kva dei får og ikkje får lov til.

Emneknaggar

Fleire artiklar

Opprørssoldatar ved ei brennande kiste i mausoleet til Hafez al-Assad, som styrte Syria frå 1970 til han døydde i 2000. Mausoleet til den tidlegare diktatoren står i landsbyen Qardaha i Latakia-provinsen nordvest i landet.

Opprørssoldatar ved ei brennande kiste i mausoleet til Hafez al-Assad, som styrte Syria frå 1970 til han døydde i 2000. Mausoleet til den tidlegare diktatoren står i landsbyen Qardaha i Latakia-provinsen nordvest i landet.

Foto: Aaref Watad / AFP / NTB

Samfunn

I oska etter Assad

Ikkje alle i Syria jublar over at diktaturet har falle.

Per Anders Todal
Opprørssoldatar ved ei brennande kiste i mausoleet til Hafez al-Assad, som styrte Syria frå 1970 til han døydde i 2000. Mausoleet til den tidlegare diktatoren står i landsbyen Qardaha i Latakia-provinsen nordvest i landet.

Opprørssoldatar ved ei brennande kiste i mausoleet til Hafez al-Assad, som styrte Syria frå 1970 til han døydde i 2000. Mausoleet til den tidlegare diktatoren står i landsbyen Qardaha i Latakia-provinsen nordvest i landet.

Foto: Aaref Watad / AFP / NTB

Samfunn

I oska etter Assad

Ikkje alle i Syria jublar over at diktaturet har falle.

Per Anders Todal
Ein mann trakkar på ein plakat av Bashar al-Assad i Damaskus.

Ein mann trakkar på ein plakat av Bashar al-Assad i Damaskus.

Foto: Amr Abdallah Dalsh / Reuters / NTB

KommentarSamfunn
Cecilie Hellestveit

Uviss lagnad for Syria

Det store spørsmålet no er kva som vil skje framover i Syria, etter at opposisjonen overraskande fort tok over heile det regimekontrollerte Syria nesten utan militær motstand.

Andrea Bræin Hovig og Tayo Cittadella Jacobsen i rollene som Marianne og Tor, som møtest på Nesoddferja.

Andrea Bræin Hovig og Tayo Cittadella Jacobsen i rollene som Marianne og Tor, som møtest på Nesoddferja.

Foto: Arthaus

FilmMeldingar
Brit Aksnes

Leiken kjærleik

Alle gode ting er faktisk tre, om du lurte på om trilogien til Dag Johan Haugerud held heilt til mål.

Finansminister og leiar for Senterpartiet Trygve Slagsvold Vedum på landsstyremøtet i år. Partiet har falle kraftig på dei nyaste meiningsmålingane.

Finansminister og leiar for Senterpartiet Trygve Slagsvold Vedum på landsstyremøtet i år. Partiet har falle kraftig på dei nyaste meiningsmålingane.

Foto: Thomas Fure / NTB

Samfunn
Sofie May Rånes

– Populisme er ikkje noko å vere redd for

Trass i dårlege meiningsmålingar har statssekretær Skjalg Fjellheim trua på at Senterpartiet har den beste politikken for Noreg.

Lysspel på fasaden av Notre-Dame 6. desember,  fem og eit halvt år etter brannen som la katedralen i ruinar.

Lysspel på fasaden av Notre-Dame 6. desember, fem og eit halvt år etter brannen som la katedralen i ruinar.

Foto: Sarah Meyssonnier / Reuters / NTB

Feature

Frå oskehav til lysfest

PARIS: Notre-Dame kan atter bevege, forkynne og forføre.

Bjørn Kvalsvik Nicolaysen
Lysspel på fasaden av Notre-Dame 6. desember,  fem og eit halvt år etter brannen som la katedralen i ruinar.

Lysspel på fasaden av Notre-Dame 6. desember, fem og eit halvt år etter brannen som la katedralen i ruinar.

Foto: Sarah Meyssonnier / Reuters / NTB

Feature

Frå oskehav til lysfest

PARIS: Notre-Dame kan atter bevege, forkynne og forføre.

Bjørn Kvalsvik Nicolaysen

les DAG OG TID.
Vil du òg prøve?

Her kan du prøve vekeavisa DAG OG TID gratis i tre veker.
Prøveperioden stoppar av seg sjølv.

Komplett

Papiravisa
Digital utgåve av papiravisa
Digitale artiklar
Digitalt arkiv
Lydavis

Digital

Digital utgåve av papiravisa
Digitale artiklar
Digitalt arkiv
Lydavis

Komplett

Papiravisa
Digital utgåve av papiravisa
Digitale artiklar
Digitalt arkiv
Lydavis

Digital

Digital utgåve av papiravisa
Digitale artiklar
Digitalt arkiv
Lydavis