En medarbeider bruker AI til å oppsummere et omfattende dokument. På få sekunder er arbeidet gjort. Strukturen er ryddig. Argumentene henger sammen. Svaret virker troverdig. Først ved nærmere gjennomgang blir det tydelig at viktige nyanser mangler, enkelte fakta er mistolket og konklusjonen peker i feil retning.
Tradisjonelle systemer gjør det ofte tydelig når noe ikke fungerer. Kunstig intelligens kan skape en annen situasjon. Svaret kommer som forventet. Det er kvaliteten på svaret som må undersøkes.
Risikoen ligger i det som ikke undersøkes
En gjennomarbeidet analyse vekker sjelden mistanke. Det samme gjelder et velskrevet notat eller en anbefaling som fremstår logisk ved første øyekast. Nettopp derfor kan feil bli stående uimotsagt.
I mange virksomheter er tempo en del av arbeidshverdagen. Rapporter skal leses, saker skal behandles og beslutninger skal tas. Da er det lett å bruke et svar som allerede ligger ferdig på bordet.
Risikoen oppstår ofte i det som ikke skjer. Spørsmålene som ikke stilles. Antakelsene som ikke utfordres. Kontrollene som utsettes fordi konklusjonen virker rimelig.
Verdien av faglig vurderingsevne blir sjelden synlig når alt stemmer. Den viser seg når noen stopper opp og spør hvorfor svaret ser så enkelt ut.
Dette har ledere opplevd før
Da store digitaliseringsprosjekter preget virksomheter for noen år siden, var forventningene høye. Arbeidsprosesser skulle gå raskere. Ressurser skulle frigjøres. Kvaliteten skulle bli bedre.
Mange steder ble resultatet mer sammensatt.
Bak gevinstberegningene kom opplæring, nye arbeidsrutiner, kvalitetssikring, feilretting og behov for tettere oppfølging. Arbeidet forsvant ikke nødvendigvis. Det fikk en annen form.
De samme erfaringene er relevante når AI tas i bruk. Forskjellen er at teknologien nå påvirker analyser, vurderinger og beslutningsgrunnlag, ikke bare administrative oppgaver.
En rapport kan produseres på få minutter. En analyse kan ferdigstilles på sekunder. Det sier lite om kvaliteten på konklusjonene. Tidsbesparelsen er enkel å måle. Verdien av bedre beslutninger er langt vanskeligere å dokumentere.
Kompetanse bygges gjennom bruk
En controller blir bedre av å analysere tall. En jurist blir bedre av å håndtere gråsoner. En leder blir bedre av å gjøre vurderinger under usikkerhet.
Slik utvikles også faglig dømmekraft.
En konsekvens som sjelden diskuteres, er hva som skjer når stadig flere vurderinger overlates til et system, fordi arbeidsprosesser gradvis endrer seg.
Først brukes AI som støtte. Senere blir den en naturlig sparringspartner i analyser, oppsummeringer og vurderinger. Etter hvert kan det bli mindre vanlig å kontrollere svarene like grundig som tidligere.
Dette betyr ikke at kompetansen forsvinner over natten. Men organisasjonen får færre anledninger til å trene på vurderingene som kreves når situasjoner blir komplekse, tvetydige eller uforutsigbare.
Hvem har ansvaret når svaret er feil?
I stadig flere virksomheter brukes AI til analyser, oppsummeringer, utkast og vurderinger. Samtidig oppstår et spørsmål som sjelden kan besvares av teknologien selv.
Hvem har ansvaret når svaret er feil?
Det er ikke systemet som må forklare seg overfor kunden. Det er ikke algoritmen som må stå til ansvar overfor styret. Det er ikke språkmodellen som må håndtere konsekvensene av en feil beslutning.
Ansvaret ligger fortsatt hos mennesker.
Når AI får en større rolle i arbeidsprosessene, blir det viktig å avklare hvem som eier beslutningene, hvem som kvalitetssikrer vurderingene og hvem som kan overprøve anbefalingene som kommer fra systemet.
For ledergrupper handler dette om styring. Hvilke beslutninger skal alltid vurderes av mennesker? Hvem har ansvar for kvaliteten på AI-genererte analyser? Hvordan sikrer man at fagkompetansen utvikles videre, i stedet for gradvis å bli mindre brukt?
Svarene vil påvirke virksomheten lenge etter at dagens AI-verktøy er erstattet av nye.
Den viktigste ressursen blir vanskeligere å se
Mye av oppmerksomheten rundt AI dreier seg om fart. Hvor raskt informasjon kan behandles. Hvor raskt innhold kan produseres. Hvor raskt oppgaver kan løses.
Langt mindre oppmerksomhet rettes mot vurderingene som ligger mellom informasjon og beslutning.
Når svar kommer raskere, blir det også lettere å gå videre uten å undersøke hvordan konklusjonene er kommet fram. Over tid kan det påvirke evnen til å stille spørsmål, oppdage svakheter og utfordre etablerte antakelser.
Det er nettopp i slike situasjoner forskjellen mellom gode og dårlige beslutninger blir synlig.
Tilgang til kunstig intelligens vil etter hvert være vanlig. Det som skiller virksomheter fra hverandre, er ikke nødvendigvis hvilke verktøy de bruker, men hvordan de bruker dem. Der ligger også verdien av faglig dømmekraft, ikke som en motvekt til teknologien, men som en forutsetning for å kunne stole på resultatene den leverer.
Når et svar ser riktig ut, hvem stiller de kritiske spørsmålene?
For ledergruppen
Ta opp saken på neste ledermøte.
Kartlegg hvor AI allerede brukes i analyser, rapporter, beslutningsgrunnlag eller kommunikasjon. Diskuter hvilke vurderinger som alltid skal kvalitetssikres av mennesker, og hvem som har ansvaret dersom grunnlaget viser seg å være feil.
Konkret grep: Lag en enkel oversikt over beslutninger som aldri skal baseres på AI alene.
For deg som leder
Tenk gjennom hvilke vurderinger du selv har begynt å overlate til teknologi. Hvor bruker du AI som støtte, og hvor har den begynt å påvirke konklusjonene dine?
Konkret grep: Velg én oppgave der du normalt bruker AI, og gjennomfør neste vurdering uten hjelpemidler. Sammenlign resultatene og se hva du oppdager.
Kilder: Mikael Hultengren (Exekio.dk), Inga Strümke, Bent Flyvbjerg, Lise Justesen og Ursula Plesner, samt forskning på automation bias og AI-governance.
