KI kan gi svar – men fratar oss evnen til å forstå hvorfor

Goodwin forklarer at språkmodeller og annen KI ofte gir løsninger uten at brukeren nødvendigvis forstår hvordan eller hvorfor. 

– Da mister vi noe avgjørende: selve tankeprosessen. Vi ser allerede tendenser til dette i høyere utdanning, hvor flere studenter lar KI skrive oppgaver for dem. Men det er ikke teknologien som lærer – det er selve prosessen. Det er én ting å be KI om tilbakemelding på en tekst man har skrevet selv, og noe helt annet å få den til å gjøre hele jobben. I det ene tilfellet lærer man, i det andre svekkes både læring og refleksjon.

– Det samme gjelder for ledere. Når analyser og beslutningsgrunnlag overlates til språkmodeller uten kritisk vurdering, svekkes dømmekraften. Ledere risikerer å havne på autopilot, der beslutninger tas uten reell forståelse for hva de bygger på.

KI som sparringspartner – ikke beslutningstaker

Faren ligger ikke i teknologien – men i hvordan vi bruker den. Goodwin advarer mot passiv bruk av KI og understreker at menneskelig dømmekraft fortsatt må ha siste ord.

– Det kan være fristende å overlate komplekse analyser og beslutninger til kunstig intelligens, men å stole blindt på slike systemer er risikabelt. Det er derfor helt avgjørende at vi forstår hva teknologien gjør med oss – og hvordan vi bruker den.

– KI kan være en utmerket sparringspartner, men den bør ikke brukes som beslutningspartner. Vi må lære oss når den er nyttig, og når menneskelig vurdering er uunnværlig.

– Teknologi alltid har begrensninger. KI er ikke feilfri – og det er viktig å forstå når den kan bomme. Likevel ser jeg et stort potensial i teknologien, dersom vi bruker den klokt. KI kan hjelpe oss med å avdekke svakheter i egne vurderinger, men det krever at vi bruker den aktivt og kritisk – ikke passivt. Når vi overlater for mye til teknologien, risikerer vi at dømmekraften svekkes og at vi blir passive beslutningstakere.

Skjevheter og etiske blindsoner

En sentral utfordring med KI er hvordan modellene trenes, hevder Goodwin.

– De bygger på historiske data – og kan dermed videreføre eksisterende fordommer og skjevheter. Hvis treningsdataene for eksempel inneholder diskriminering mot kvinner i ansettelsesprosesser, vil KI reprodusere denne skjevheten, og dermed forsterke problemet i fremtidige beslutninger. Teknologien kan med andre ord bekrefte våre forutinntatte meninger – i stedet for å utfordre dem.

– En annen utfordring er at KI-modeller blir stadig bedre til å generere innhold som virker autentisk – enten det gjelder tekst, bilder eller video. Det kan bli svært vanskelig å skille mellom menneskeskapt og maskinelt materiale. Dette åpner for misbruk i form av propaganda og manipulasjon, og reiser også etiske spørsmål – blant annet knyttet til bevisførsel i rettssystemet.

Bygg kollektiv forståelse og ansvarlig bruk

For å unngå feil og etiske fallgruver er det nødvendig at både enkeltpersoner og organisasjoner utvikler en mer bevisst holdning til hvordan KI brukes, forklarer Goodwin.

– Det handler om å stille spørsmål ved datagrunnlaget, forstå hvordan informasjon klassifiseres, og identifisere risikofaktorer knyttet til automatiserte beslutninger.

– Ledere bør åpne for erfaringsdeling internt ved å legge til rette for at ansatte diskuterer hvordan KI påvirker arbeidsoppgavene og beslutningsprosessene. Det kan bidra til å bygge en felles forståelse av hvor teknologien gir verdi – og hvor det er klokt å sette grenser.

Fra pessimisme til optimisme

Goodwin har et blandet syn på kunstig intelligens – han er både pessimistisk og optimistisk, avhengig av tidsperspektivet.

– På kort sikt er jeg ganske pessimistisk, særlig når det gjelder vår mentale motstandskraft i møte med teknologi. KI kan gjøre oss mindre kritiske og mer avhengige, rett og slett fordi den gjør for mye for oss. Det kan føre til at vi tenker mindre selv. 

– Dette gjelder på mange samfunnsområder, som utdanning, helsevesen og til og med krig. Vi står foran en periode hvor vi trolig vil merke noen ubehagelige konsekvenser – en slags mental gjørme – før vi lærer å håndtere teknologien på en bedre måte.

– På lengre sikt er jeg derimot mer optimistisk. Jeg ser på KI som en mulighet til å frigjøre oss fra det rutinepregede og heller bruke mer tid på det som krever menneskelig dømmekraft, kreativitet og empati. Teknologien kan styrke oss – hvis vi bruker den riktig. Det som gjør oss unike som mennesker, er i ferd med å skifte karakter, i takt med at stadig mer overlates til intelligente systemer. Vi må møte denne nye virkeligheten med nysgjerrighet, men også med forsiktighet. Det gjelder å tråkke varsomt på pedalen.

Et delt samfunn

I møte med økt KI-bruk advarer Goodwin mot en fremtid der samfunnet deles i to teknologisk.

– Konsekvensene av at stadig færre tenker selv, som følge av økt avhengighet av kunstig intelligens, kan bli alvorlige. Vi risikerer å få et "A- og B-lag", der noen har teknologiforståelse og bruker KI til å styrke egne ferdigheter, mens andre bare anvender teknologien passivt – uten kritisk refleksjon. Disse vil etter hvert falle bak. Det handler ikke bare om tilgang til teknologi, men om evnen til å bruke den klokt.

– Vi står overfor et mulig digitalt skille, der forskjellen går mellom de som forstår og mestrer teknologien – og de som ikke gjør det, avslutter Goodwin.

Slik kan ledere unngå å bli offer for automatisert idioti:

• Bruke kritisk tenking. Det er viktig at ledere bruker sin egen kritiske sans og ikke blindt stoler på teknologi. De bør være bevisste på hvilke prosesser som faktisk må automatiseres, og vurdere hvilke beslutninger som er best holdt til menneskelig vurdering.
• Sparringspartner fremfor beslutningspartner. Ledere bør se på kunstig intelligens som en sparringspartner, ikke en beslutningspartner. Dette innebærer at de skal bruke KI til å få nye perspektiver etter å ha gjort egne vurderinger, i stedet for å la KI ta beslutningene for dem.
• Bevissthet om teknologiens begrensninger. Det er viktig å forstå teknologiens begrensninger. For eksempel kan KI være trent på data med innebygde fordommer, noe som kan påvirke beslutningsprosesser negativt. Ledere må lære seg å kjenne igjen når teknologien ikke fungerer optimalt.
• Fokus på menneskelige ferdigheter. Etter hvert som teknologien utvikler seg, vil det bli viktigere å fokusere på menneskelige ferdigheter og kreativitet. Det er viktig å ikke miste essensen av menneskelig dømmekraft og kreativitet.

Dette kan du gjøre videre

Tid for refleksjon

Kunstig intelligens utfordrer ikke bare hvordan vi jobber – men også hvordan vi tenker, lærer og leder. Teknologien kan frigjøre tid og øke effektiviteten, men også gjøre oss mer avhengige, mindre kritiske og kognitivt passive. For ledere er det avgjørende å ta et bevisst forhold til KI – både i egne beslutningsprosesser og i organisasjonens utvikling. 

Her er seks spørsmål som kan bidra til refleksjon:

1. Bruker jeg kunstig intelligens som et hjelpemiddel – eller som en erstatning for egen vurderingsevne?
2. Hvilke oppgaver i min hverdag bør fortsatt håndteres av mennesker – og hvorfor?
3. Hvordan sikrer jeg at KI ikke reproduserer fordommer eller urettferdighet i våre prosesser?
4. Hvilke ferdigheter risikerer vi å miste i organisasjonen hvis vi overlater for mye til teknologien?
5. Hvordan kan jeg bidra til at både jeg selv og mine ansatte bruker KI kritisk og bevisst?
6. Er vi som organisasjon i ferd med å utvikle et digitalt A- og B-lag – og hvordan kan vi motvirke det?