Er kunstig intelligens en trussel på linje med atomvåpen eller et konkurransefortrinn for de smarte?

I det siste året har vi hørt og lest mye om AI (eng. artificial intelligence) eller på norsk KI (kunstig intelligens).  Mange har sett på dette som et paradigmeskifte innen den datateknologiske utviklingen.

Men det er mange år siden vi både gjennom faglitteratur og film fikk kjennskap til hva som ventet. Et eksempel er computeren HAL 9000 i filmen "2001, En Romodysse" lansert i 1968 av filmgeniet/regisør Stanley Kubric. HAL kunne både ansiktsgjennkjenning og tolke samtalene gjennom leppenes bevegelse hos menneskene. Etter å ha følt seg truet, bestemte HAL seg for å ta livet av mannskapet og på denne måten skaffe seg full kontroll ombord på romskipet "Discovery One". Hvordan det gikk anbefales å finne ut ved og se denne kino-klassikeren.

KI er i ferd med å nå samfunnet med fullt trøkk. Ikke minst gjennom den nå så kjente ChatGPT som kan generere tekster ut fra gitte kriterier og input. Svarene som ChatGPT gir er basert på treningsdata, eller tekster som allerede er produsert og med basis i disse genereres nye tekster og ulike oppskrifter i en meningsfull form. Dagens språkmodeller er imponerende virkelighetstro, men har problemer med å resonnere logisk og kan hallusinere fakta som er bare oppspinn. Men det stopper ikke der. Den teknologiske utviklingens fremskritt er eksponensiell.  Nyere versjoner som f.eks. GPT4 er ti ganger kraftigere enn GPT3 som igjen er ti ganger kraftigere enn GPT2. Dermed kan vi bare ane de neste generasjoners muligheter når bare maskinkraften og lagringsenhetene er store nok.

På lik linje med øvrige tema som diskuteres i samfunnet, finnes det både tilhengere og skeptikere til utviklingen. Det må imidlertid kunne hevdes at intelligens i form av domenekunnskap, utover den tilgjengelige i ChatGPT, er nødvendig for å fremskaffe kvalifiserte resultater og utnyttelse, - enn så lenge. Med domenekunnskap menes kunnskap innen fagområdet der KI skal anvendes. For eksempel vil det være problematisk å måtte forklare en beskrivelse generert av GPT på hvordan å bygge om en FM-radio til DAB dersom man ikke har noen form for fagkunnskap innen elektronikk, lodding eller radioteknologi.

En av de mest entusiastiske forskerne innen KI-fagfeltet i Norge, er NTNUs Inga Strümke som nylig kom ut med boka "Maskiner som tenker". Denne har fått mye omtale og publisitet. (Ganske treffende er også bokomslaget illustrert med kameraøyet til HAL9000). Strümke gir oss en god innføring i hva KI er. Også tidligere oppfinnelser og omtale av de som gikk foran samt synspunkter på fremtidige utfordringer, det være seg tekniske, etiske eller juridiske, diskuterer Stümke i sin bok.

En av skeptikerne til KI, debattant, spaltist og programmerer Bjørn Stærk skrev for kort tid siden et inlegg i Aftenposten der han mener at "KI-debatten må ned på bakken". "Kunstig intelligens er først og fremst et gammelt fagfelt med et misvisende navn", hevder Stærk. På lik linje som tidligere omtaler av både "Internett" og "Skyen", blir også kunstig intelligens nå beskrevet med både entusiasme for å redde verden eller frykt for å ødelegge den. I en nylig rapport fra nasjonal sikkerhetsmyndighet (NSM) konkluderes at det haster å ta i bruk ny teknologi, som kunstig intelligens. Potensialet til å bruke teknologien i det godes tjeneste er stort. På den andre siden må det sivile samfunnet være sitt ansvar bevisst, og ta cybersikkerhet på det høyeste alvor i tiden fremover. Vi kan altså ikke ignorere sikkerhetsaspektet.

Å spå om fremtiden er ikke gitt for noen. Det er derfor svært vanskelig å forutsi hvilken retning KI-utviklingen tar. Det er imidlertid et faktum at det i utviklermiljøene hos teknologigigantene som Microsoft, Apple, Google, Facebook m.fl. jobbes aktivt og iherdig for å fremskaffe treningsdata til ulike KI-modeller. EU og vestlige myndigheter jobber hardt for å få på plass lovverk som skal ivareta ulike utfordringer. Men vil disse komme tidsnok til å begrense og eventuelt stoppe de negative konsekvensene? Utviklingen av kvantedatamaskiner predikeres å kunne ha uante muligheter for stater og ikke-statlige aktører til å gjøre seg gjeldende i en fremtidig maktbalanse. På den ene siden kan de som behersker teknologien  skaffe seg fortrinn i egen vinnings hensikt, det være seg innenfor eller utenfor moralske og etiske rammer, eller krig. På den andre siden vil det ligge muligheter å bruke teknologien til og opparbeide kunnskap som bidra til positiv forretningsmessig og samfunnsmessige utvikling.

Kan vi konsultere fortiden for å finne løsninger og svar på framtidige utfordringer? Den amerikanske Yale-professor John Lewis Gaddis mener dette er nødvendig og gir oss flere eksempler. Vi kan konsultere den nære fortid, den mest turbulente, den mest spektakulære, den rolige, den krigsherjede osv. Her må vi altså se på ulike perspektiver og forsøke sammenligninger med historiske hendelsene for om mulig å lære og treffe riktige valg. Ingen dum idé å lære av fortiden, men også mulig å ignorere og på den måten gjenta sine feil.

Kan for eksempel perioden 1946-1991, - ofte betegnet som "den kalde krigen" - lære oss noe om farer og trusler? Hvordan ble disse håndtert? Kunne noe vært gjort annerledes og ville i så fall resultatene vært annerledes?

Datidens supermakter Sovjetunionen og USA jobbet gjennom 1970- og 80-årene iherdig for å oppnå avtaler om avspenning og nedrustning. 

USAs presiden Ronald Reagan
og Sovjetunionens president Michael Gorbatchev møttes i Reykjavik på Island i 1986.

Den nå 100 år gamle tidligere USAs utenriksminister Henry A. Kissinger skrev nylig sammen med Harward-professor Graham Allison en artikkel i magasinet "Foreign Affairs" der de tar til orde for at USA og Kina må lære av atomvåpenkappløpet under den kalde krigen og samarbeide for å unngå en katastrofe hva gjelder AI/KI-utviklingen. 

Etter oppfinnelsen av atombomben oppstod en rekke dilemmaer for supermaktene som etter hvert kom i besittelse av dette fryktede våpen. Det bygde seg raskt en oppfatning at ingen kunne vinne en krig som ble utkjempet med bruk av et våpen med en styrke som kunne utslette hele menneskeheten. Flere tok til orde for å etablere en slags overnasjonal myndighet med eierskap og råderett over atomvåpnene. Dette var også intensjonene etter den ødeleggende første verdenskrig (1914-1918) ved opprettelsen av Folkeforbundet der man gjennom foreningen av nasjonene hadde bannlyst krig som en forbrytersk måte å løse konflikter på. En illusjon om sikkerhet lå til grunn men endte med bitter skuffelse da andre verdenskrig (1939-1945) var et faktum. Så smalt det i Hiroshima og Nagasaki i augustdagene i 1945. Dette satte en effektivt stopper for andre verdenskrig. De Forente Nasjoner (FN) så dagens lys i et nytt forsøk på etableringen av en slags overnasjonal myndighet i det anarkiske system av stater - der alle i prinsippet er suverene og noen likevel i dag ikke respekterer de spilleregler deres tidligere ledere var med på å beslutte.

FN-etableringen viste seg ikke tilstrekkelig for våpenkappløpet som oppsto, og i ettertid kan man kanskje si at organisasjonen kun har oppnådd den "moralske autoritets stadium", slik Albert Einstein uttrykker det i boka "Tanker og meninger" fra 1950. Et kappløp om å få etablert mest mulig styrke basert på den nye teknologien var i gang.  Supermaktene Sovjetunionen og USA snakket imidlertid sammen, og avtaler om nedrustning ble inngått. I 1989 falt Berlinmuren og i 1991 var Sovjetunionen historie og den kalde krigen over. Et lettelsens sukk for trusler om atomkrig kunne trekkes - for denne gang.  

På linje med Einstein tar også Kissinger og Allison til orde for å etablere samarbeid og deling av kunnskap og teknologi på tvers av statsgrensene. Dette forsøkte amerikanerne allerede i 1946 i forbindelse med kunnskapen om den totalt ødeleggende effekt som disse atomvåpnene har. Den amerikanske utenriksminister Dean Acheson fikk i oppdrag av president Harry Truman (forøvrig den som ga ordre om Hiroshima og Nagasaki-bombene) om å forsøke å få i stand en internasjonal autoritet med eneierskap til atomvåpnene. Dette ville imidlertid kreve at USA frasa seg sin råderett over våpnene. Forslaget om en slik myndighet ble kategorisk avvist av Sovjetunionen, og våpenkappløpet var i gang. Likevel klarte man gjennom forhandlinger og nedrustningsavtaler å forhindre både bruk og spredning av atomvåpen. Opprettelsen av det internasjonale atomenergibyrået (IAEA) i 1957 og ikkespredningsavtalen fra 1968 var resultater av samarbeid på tvers av statene.

Mens Einstein snakket om en overnasjonal myndighet - hvilket er lite sannsynlig å få til i dagens verdensbilde - mener Kissinger/Allison at supermaktene innen AI-feltet denne gangen er USA og Kina, og at disse må gå sammen om en enhetlig respons på utviklingen. Atomvåpen er vanskelig å tilvirke, mens AI/KI utviklingen vil være basert på åpne, tilgjengelig og anvendbare kildekoder.

Hva som blir utfallet gjenstår å se. Vil en ny kald AI-krig mellom USA og Kina se dagens lys? Vil AI bidra til en varm krigføring der de som behersker teknologien og har størst tilgjengelig datakraft oppnår fortrinn? Kanskje en forening mellom de store kan bidra til en kontroll av AI/KI-teknologien på linje med atomvåpen-problematikken for 70 år siden? Framtiden kan ikke forutsies, men kanskje finnes mulighet for å lære i lys av fortidens perspektiver og analyser.  Så får bare tiden vise om teknologien blir til gavn eller plage for menneskeheten eller om AI/KI kommer "ned på bakken" og får en ny "vinter" slik den har hatt flere av siden oppfinnelsen i 1950-årene. Flere muligheter har garantert sett dagens lys de siste 5 årene og de som lærer seg innovasjon innenfor juridiske, moralske og etiske rammer vil sannsynligvis få forretningsmessige fortrinn og styrket konkurransekraft. Skulle jeg trekke de store linjene ned til lokale forhold vil kanskje samarbeid på tvers av selskapsstrukturer fremskaffe innovasjon og konkurransefortrinn. Slike løsninger vil også gi mulighet for å tiltrekke seg og beholde kloke hoder. Noe som jo var temaet på den siste Harstadkonferansen i januar.

Oppsummert
Kunstig intelligens (KI) er kjent tilbake til 1950-årene og glitrende levendegjort på film allerede i 1968. Både entusiaster og skeptikere fremhever sine synspunkter hvorvidt KI kan velgjøre eller bli en ulykke for menneskene. Mange bruker KI i hverdagen bl.a. til å generere tekster og artikler. Man må likevel ha kunnskap innen gitt fagområde for å få en optimal utnyttelse og verdi. Verden er stadig utsatt for trusler når nye oppfinnelser og teknologi gjør sitt inntog. Det er stort potensial for å ta i bruk KI til gode formål, men kunnskapsnivået må opp og sikkerheten ivaretas.  Ved å konsultere ulike historiske begivenheter og erfaringer kan lærdom trekkes for å finne løsninger, ikke minst gjennom samarbeid og dialog. 

Kilder:

"The Path to AI Arms Control", Kissinger/Allison (Foreign Affairs, 2023)
Tanker og Meninger (Einstein, 1950)
Maskiner Som Tenker (Strümke, 2023)
"KI debatten må ned på bakken" (Stærk, Aftenposten, sept. 2023)

«Nasjonalt digitalt risikobilde 2023», NSM