Teknologi

Tore Thorsen

Kunstig intelligens har blitt ein realitet i samfunnet og i den allmenne diskusjonen, og at fenomenet blir tatt på alvor både i avisredaksjonane og blant lovgjevarane, synest vera på høg tid.

Sidan livet oppstod på planeten, har DNA-et langsamt og sikkert auka «informasjonen» hos levande vesen. Hos nokre arter utvikla det seg medvit. Mennesket (og andre slektningar i dyreverda) «vakna», såg seg ikring og blei intellektuelt medvitne om verda ikring og om seg sjølve.

Oppfinninga av skriftkulturen gjer at informasjon kan overleverast frå ættled til ættled i langt større omfang enn tilfellet var mellom tidlegare generasjonar. Det sette fart på tankekraft og nyvinningar. Menneske har fått hjernekapasitet til å konstruera stadig fleire og meir avanserte maskinar, maskinar som overtar arbeid for menneska. Maskinen samlar og systematiserer informasjon meir effektivt enn me er i stand til, og nyttiggjer seg informasjonen.

Neste steg: Maskinen reproduserer, forbetrar og spesialiserer seg sjølv, utan hjelp frå mennesket. Prosessen minner om evolusjonen i naturen, men går langt raskare. Held denne vidareføringa fram, vil kunstig intelligens overstiga den menneskelege. Maskinen tenkjer sjølv, og utviklar eigen vilje, kanskje i konflikt med vår.

Stephen Hawking: Det er ingen avgjerande skilnad på korleis hjernen til ein meitemark verkar, og korleis ein computer arbeider. Ifylgje evolusjonslæra er det heller ingen kvalitetsskilnad på hjernen til ein meitemark og hjernen til eit menneske. Dersom datamaskinen held fram med å fylgja Moores lov og dobla farten og minnet kvar attande månad, ser Hawking for seg at me står overfor «an intelligent explosion», som i ytste konsekvens endar med at intelligensen til maskinen overstig tankeevna til mennesket med meir enn mennesket overstig meitemarken.

Utviklinga av kunstig superintelligens kan bli enten det beste eller det verste som hittil har hendt i menneskets historie. Den historia er, fram til nå, som kjent ikkje berre ærerik. Kanskje kunne KI hjelpa oss med å bøta på nokre av dei skadane som for eksempel industrialiseringa historisk er ansvarleg for? Innan helse, arbeid, undervising og vitskap kan det som hittil er oppnådd på slike felt komma til å bleikna i framtida. Fattigdom vil kunna utryddast.

Samtidig: Masseproduksjon av fake news kan rota til og øydeleggja demokratiet, og automatiserte, sjølvstendige våpensystem vil kunna peika ut sine eigne mål, ikkje styrast av menneske. Menneske treng mat og ein levande natur rundt seg for å eksistera. Det treng ikkje maskinen. Sett at kommandosentralen i roboten finn ut at både me og resten av naturen berre er i vegen? Då vil han ha middel til å bli kvitt oss.

Konstrueringa av robotar med superintelligens kan lett bli historia om trollmannens læregut. Å undervurdera slik utvikling kan potensielt bli vårt største mistak nokon gong. Prosessen må med andre ord kontrollerast. «A kill switch is needed!» meiner Hawking. Toget må kunna stoppast, eller iallfall bremsast ned, før bremsene sviktar heilt.

Planlegg på førehand! Ver føre var! Ifylgje Hawking var det i 2018 berre nokre små ikkje-kommersielle miljø som tok dette med styring og kontroll på alvor. Kommersielt blir det slusa svære pengesummar inn i IT- og KI-industrien, og ikkje alle motiv er like noble.

Magnus Furre Gjerde orienterer i Dag og Tid den 30. juni om at EU førebur tiltak mot misbruk av den nye teknologien. Men eit lovforslag frå Europaparlamentet skal igjennom fleire andre EU-instansar for å kunna bli lov. Kanskje kan lovforslaget bli tynna ut på vegen, og i mellomtida utviklar AI-industrien seg vidare. Og om lova blir bindande også utanfor EU, er usikkert, skriv Gjerde.

Hawking: Framtida blir eit kappløp mellom den veksande makta til teknologien og den klokskapen som blir brukt til å utnytta han på. Alt er avhengig av at klokskapen vinn.

Stephen Hawking sjølv døydde berre eit par månader etter at han skreiv artikkelen sin. Han kviler under golvet i Westminster Abbey, mellom Isaac Newton og Charles Darwin, og har påverknadskraft berre gjennom tekstene sine. Så resten er opp til etterverda.

Innlegget er delvis basert på «Will Artificial Intelligence outsmart us? Brief Answers to Big Questions» av Stephen Hawking (2018).