Kunstig intelligens har på kort tid blitt en del av hverdagen vår. Vi bruker KI til å skrive, søke etter informasjon, analysere data, lage bilder og løse oppgaver både på jobb og privat. Men teknologien som gir oss nye muligheter, gir også nye muligheter til aktører som ønsker å påvirke, forstyrre eller skade samfunnet vårt. Folk og Forsvar har nylig publisert et nytt undervisningsopplegg om kunstig intelligens og sikkerhet. Her løftes blant annet bruken av KI i moderne krigføring, cyberangrep, desinformasjon og påvirkningsoperasjoner; og hva utviklingen kan bety for Norge og våre allierte.
Generativ kunstig intelligens gjør det mulig å produsere tekst, bilder, lyd og video på svært kort tid. Samtidig blir det stadig vanskeligere å skille KI-generert innhold fra innhold laget av mennesker. Deepfakes kan få en politiker, militær leder eller annen offentlig person til tilsynelatende å si eller gjøre noe som aldri har skjedd. Store mengder målrettet innhold kan produseres på kort tid, tilpasses ulike grupper og språk og spres gjennom sosiale medier. Folk og Forsvar peker på at dette har gjort det billigere, raskere og enklere å produsere og spre falsk informasjon. De trekker også frem en annen utfordring: Når vi vet at bilder, lyd og video kan manipuleres, kan også ekte informasjon lettere avvises som falsk. Resultatet kan være en generell svekkelse av tilliten til informasjon. Og nettopp tillit er en viktig del av samfunnets motstandskraft.
Påvirkningsoperasjoner handler heller ikke nødvendigvis om å få hele befolkningen til å tro på én bestemt fortelling. Målet kan være å skape usikkerhet og forvirring, forsterke eksisterende konflikter og svekke tilliten til myndigheter, medier og demokratiske institusjoner. I et samfunn som det norske, hvor høy grad av tillit er en viktig styrke, kan dette også bli en sårbarhet dersom tilliten systematisk forsøkes undergravd. Det betyr at evnen til å møte slike trusler ikke bare ligger hos Forsvaret, politiet eller sikkerhetstjenestene. Vi har alle en rolle.
Når vi snakker om egenberedskap, tenker mange først på vann, mat, varme, medisiner og muligheten til å klare seg selv dersom viktige samfunnsfunksjoner faller bort. Det er fortsatt viktig. Men i et moderne totalforsvar må vi også snakke om mental og digital beredskap. Hva gjør vi dersom det plutselig dukker opp en dramatisk video som hevder at norske myndigheter har mistet kontrollen over en situasjon? Dersom et lydopptak tilsynelatende dokumenterer at en kjent person har sagt noe oppsiktsvekkende? Eller dersom de samme påstandene begynner å dukke opp fra en rekke forskjellige kontoer samtidig?
Da kan noen enkle spørsmål være viktige:
Hvem er den opprinnelige kilden?
Er informasjonen bekreftet av flere troverdige kilder?
Forsøker innholdet først og fremst å informere; eller å gjøre oss redde, sinte eller opprørte?
Deler vi informasjon fordi vi vet at den er riktig, eller fordi vi reagerte på den?
Kan bildet, videoen eller lydopptaket være manipulert?
Å stoppe opp før vi deler kan virke som en liten handling. I en situasjon hvor noen aktivt forsøker å skape uro eller spre desinformasjon, kan det være en del av samfunnets forsvar.
Utviklingen handler samtidig om langt mer enn informasjonsmiljøet. Kunstig intelligens brukes allerede til blant annet analyse av store mengder etterretningsdata, identifisering av militært materiell og støtte til militære operasjoner. Erfaringene fra Ukraina viser også hvordan droner, programvare, data og KI raskt endrer måten moderne krigføring foregår på.
Folk og Forsvar trekker også frem autonome våpensystemer og spørsmålet om meningsfull menneskelig kontroll. Hvor mye beslutningsmyndighet skal kunne overlates til et system når konsekvensen i ytterste fall kan være bruk av dødelig makt? Dette er både et teknologisk, etisk og folkerettslig spørsmål som det fortsatt pågår internasjonal debatt om. Norge og Forsvaret satser samtidig på å utvikle egen kompetanse og kapasitet innen KI. Teknologisk utvikling er dermed både noe vi må beskytte oss mot og noe vi selv må kunne utnytte.
For oss handler beredskap om mer enn utstyr og planer. Det handler også om mennesker. Et motstandsdyktig samfunn trenger mennesker som forstår samfunnet de er en del av, som klarer å orientere seg når situasjonen er uoversiktlig, og som ikke ukritisk bidrar til å spre informasjon som kan skape frykt, mistillit eller konflikt. Dette gjelder oss alle; og kanskje særlig de unge som vokser opp i en virkelighet hvor skillet mellom ekte og kunstig produsert innhold blir stadig vanskeligere å se.
Folk og Forsvar argumenterer også for at unge bør få kunnskap om blant annet sammensatte trusler, cyberoperasjoner, påvirkning og desinformasjon som en del av forståelsen av totalforsvaret. Som de påpeker: Kunnskapen bør komme før krisen oppstår. Det er et viktig poeng. Vi kommer neppe til å møte fremtidens kriser med mindre teknologi enn vi har i dag. Derfor må utviklingen av teknologi følges av utvikling av kunnskap, kritisk tenkning og forståelse for hvordan teknologien kan brukes; både av oss og mot oss. Kildekritikk, kunnskap og evnen til å bevare tillit er derfor ikke bare spørsmål om digital kompetanse. Det er også beredskap.
Les undervisningsopplegget til folk og Forsvar her.
