ABONNEMENT

MIN KONTO

REDAKSJONELT INNHOLD

STOLTE BIDRAGSYTERE

MARKEDSFØRING

LEDERKURS

Videokurs
Lederkurs (kommer snart)
Annonser ditt kurs (kommer
snart)

LEDERJOBB

Se alle stillinger (kommer snart)
Utlys lederstilling (kommer
snart)

ANNONSØRINNHOLD

KONTAKT

FØLG OSS

LederNytt er medlem av Fagpressen og underlagt presseetikken gjennom Fagpressens medlemskap i Norsk Presseforbund.

AI og diskriminering: Får AI dårligere publisitet enn den fortjener?

ANNONSØRINNHOLD FRA COMPUTAS

Med oppmerksomheten rundt ChatGPT har AI for alvor truffet befolkningen. Media er nå full av historier om hvordan AI kan være diskriminerende, polariserende og generelt uetisk i sin adferd. Jeg tenker allikevel at AIer ofte får dårligere publisitet enn de fortjener. 

Møte med de store utfordringene vårt samfunn står ovenfor som det grønne skiftet og eldrebølgen, er det verdt å tenke over om det er mer uansvarlig å ikke ta denne kraftfulle teknologien i bruk enn å gjøre det.

TEKST: Redaksjonen – Ledernytt

PUBLISERT: OPPDATERT:

TEMA:
NYHETSBREV SØK Lag PDF Print LAGRE

På NRK nyhetsmorgen tidligere i vår fortalte Helse Bergen sykehus at de ønsker å ta i bruk kunstig intelligens (KI/AI) til å lytte på nødsamtaler for å kunne varsle operatøren om sannsynlig hjerneslag hos innringeren. Aien klassifiserer det innringer snakker om. Innslaget handlet mye om frykten for at denne Aien kunne være diskriminerende, en frykt som ble understøttet av en ny rapport bestilt på oppdrag fra Barne-, ungdoms- og familiedirektoratet (Bufdir).

Hva hvis innringer snakker dårlig norsk? Snakker dialekt? Er kvinne? Vil det føre til skjevhet i kvalitet og behandling? 

Ja, dette er reelle problemstillinger. Men er det egentlig noe nytt?

Det perfekte mennesket?

Historien er full av bevis på at mennesker ofte er forutinntatte. Diskriminerende. Rasistiske. Urimelige. Tidvis slemme. Noen mennesker er dårlige på å forstå dialekter. Andre vil ikke ha med innvandrere å gjøre. Enkelte liker ikke kvinner. De fleste av oss følger ikke alltid like godt med. 

Kort sagt har vi sterke bevis for at mennesker er både feilbarlige og ujevne i sin prestasjon. Så selv om de fleste kan sies å gjøre så godt de kan, så representerer mennesker tidvis en lav standard for enhetlig, etterrettelig og eksemplarisk oppførsel. Hvor mye verre vil verden egentlig bli dersom AI hjelper oss med noen oppgaver?

Med AI som kollega

Det har vært sagt at hvis du skal ha diskriminering ut så må du få algoritmene inn. Det er etter mitt syn noe sant i det. Det er i hvert fall liten tvil om at AI er på full fart inn i våre liv – som kundebehandlere, beslutningstakere og som våre kolleger. 

I møte med de store utfordringene vårt samfunn står ovenfor som det grønne skiftet og eldrebølgen, er det verdt å tenke over om det er mer uansvarlig å ikke ta denne kraftfulle teknologien i bruk enn å gjøre det. Det interessante spørsmålet å stille er da ikke om AI kan diskriminere, men hvordan vi kan sørge for at Aiene bidrar til mindre diskriminering enn vi mennesker så langt har klart.

I Norge og EU er det økende og bred konsensus om å regulere AI. Også teknologibransjen ønsker reguleringer velkommen. Det er nødvendig og egentlig lite kontroversielt. Vi kan imidlertid langt på vei sørge for ansvarlig innføring av AI inntil regelverket er på plass. 


Morten_Forfang.jpg

Morten Forfang, Ph.D. i kunstig intelligens og fagdirektør i Computas

Mulig å gjøre AI riktig

Den grunnleggende forutsetningen for å unngå diskriminering er naturligvis at hensikten bak innføringen av AI er god, noe vi kan anta at den er for Helse Bergen. De ønsker å redde flere liv, ikke færre. I møte med våre kunder, fra privat og offentlig sektor, er det i tillegg tre ting jeg ber dem tenke nøye over rundt det å innføre og ta i bruk AI. 

Du må først erkjenne at det å kategorisere i seg selv er en form for diskriminering. Noen typer diskriminering er uønsket i et samfunn og det må avklares tidlig slik at disse fallgruvene unngås. Videre må du ha en plan for å overvåke om diskriminering skjer. Diskriminering kan snike seg inn i dataene, i måten Aien tar avgjørelser på eller måten resultatene tilgjengeliggjøres på. I tillegg må du ha en måte å håndtere uønsket diskriminering på slik at Aien avlæres feilen som er oppdaget. 

Med mennesker som utførere, har vi ofte en ujevn og inkonsistent innsikt i hvorfor et individ gjorde hva det gjorde dersom noe først har gått galt. Hvis Aien er innført riktig, kan den i motsetning til mennesker være ganske god på å forklare hvorfor den avgjorde som den gjorde. Å ha en AI på laget kan til og med bringe klarhet, forbedre rutiner og positivt utfordre hvordan vi mennesker tar beslutninger og utfører arbeidet vårt – og til og og med redusere risiko for diskriminering. Hvis innføringen av AI i Helse Bergen gjøres riktig, vil trolig nødsamtalene i fremtiden kunne håndteres enda bedre enn da menneskene var på vakt alene.

Er din virksomhet nysgjerrig på AI og automatisering?

Kontakt oss for rådgivning, foredrag eller for vår populære “AI discovery workshop” - en kreativ workshop der vi utforsker muligheter for bruk av AI i din virksomhet. Les mer på Computas.com/AI Lenke til et annet nettsted.

 

Tekst: Morten Forfang, Ph.D. i kunstig intelligens og fagdirektør i Computas. Foto: TU media og Adobe Stock.

NYHETSBREV SØK Lag PDF Print LAGRE
ANNONSØRINNHOLD
Ledere bør organisere seg
Slik gjør GAP Vision hele salgs- og lederteamet bedre
Et godt complianceprogram etterlater spor i beslutningene
Hvorfor selger noen mer enn andre og kan AI hjelpe resten?
siste fra forsiden
Noen feil lærer vi av – andre må vi forebygge

En medarbeider glemmer en viktig kontrollrutine. Et annet team prøver en ny løsning som ikke fungerer. Begge deler fører til feil, men bør de håndteres likt? Som leder må du vite når du bør stramme inn rutinene, og når et mislykket forsøk faktisk kan være verdifullt. Her er fem råd som hjelper deg å ta de riktige grepene.  

Arbeidsmetodikk
Når privatlivet påvirker jobben –  hvor langt skal du gå som leder?

En medarbeider som vanligvis er engasjert og til stede, virker plutselig fjern. Oppgaver tar lengre tid, og konsentrasjonen er dårligere. Kanskje skyldes det problemer hjemme. Kanskje er årsaken en helt annen. Som leder vil du gjerne hjelpe, men hvor går grensen mellom å vise omsorg og å blande seg inn i privatlivet?  

Arbeidsmiljø
Budsjettet for 2027 – seks grep som gir deg bedre kontroll

Det er lett å legge inn høyere salg og nye satsinger når budsjettet for 2027 skal på plass. Vanskeligere er det å vite om forventningene er realistiske. Har dere tatt høyde for økte kostnader, svakere inntekter og endringer som kan komme underveis? Her får du seks konkrete råd som gjør budsjettarbeidet mer nyttig, også etter at tallene er vedtatt.

Beslutninger