På NRK nyhetsmorgen tidligere i vår fortalte Helse Bergen sykehus at de ønsker å ta i bruk kunstig intelligens (KI/AI) til å lytte på nødsamtaler for å kunne varsle operatøren om sannsynlig hjerneslag hos innringeren. Aien klassifiserer det innringer snakker om. Innslaget handlet mye om frykten for at denne Aien kunne være diskriminerende, en frykt som ble understøttet av en ny rapport bestilt på oppdrag fra Barne-, ungdoms- og familiedirektoratet (Bufdir).
Hva hvis innringer snakker dårlig norsk? Snakker dialekt? Er kvinne? Vil det føre til skjevhet i kvalitet og behandling?
Ja, dette er reelle problemstillinger. Men er det egentlig noe nytt?
Det perfekte mennesket?
Historien er full av bevis på at mennesker ofte er forutinntatte. Diskriminerende. Rasistiske. Urimelige. Tidvis slemme. Noen mennesker er dårlige på å forstå dialekter. Andre vil ikke ha med innvandrere å gjøre. Enkelte liker ikke kvinner. De fleste av oss følger ikke alltid like godt med.
Kort sagt har vi sterke bevis for at mennesker er både feilbarlige og ujevne i sin prestasjon. Så selv om de fleste kan sies å gjøre så godt de kan, så representerer mennesker tidvis en lav standard for enhetlig, etterrettelig og eksemplarisk oppførsel. Hvor mye verre vil verden egentlig bli dersom AI hjelper oss med noen oppgaver?
Med AI som kollega
Det har vært sagt at hvis du skal ha diskriminering ut så må du få algoritmene inn. Det er etter mitt syn noe sant i det. Det er i hvert fall liten tvil om at AI er på full fart inn i våre liv – som kundebehandlere, beslutningstakere og som våre kolleger.
I møte med de store utfordringene vårt samfunn står ovenfor som det grønne skiftet og eldrebølgen, er det verdt å tenke over om det er mer uansvarlig å ikke ta denne kraftfulle teknologien i bruk enn å gjøre det. Det interessante spørsmålet å stille er da ikke om AI kan diskriminere, men hvordan vi kan sørge for at Aiene bidrar til mindre diskriminering enn vi mennesker så langt har klart.
I Norge og EU er det økende og bred konsensus om å regulere AI. Også teknologibransjen ønsker reguleringer velkommen. Det er nødvendig og egentlig lite kontroversielt. Vi kan imidlertid langt på vei sørge for ansvarlig innføring av AI inntil regelverket er på plass.
Morten Forfang, Ph.D. i kunstig intelligens og fagdirektør i Computas
Mulig å gjøre AI riktig
Den grunnleggende forutsetningen for å unngå diskriminering er naturligvis at hensikten bak innføringen av AI er god, noe vi kan anta at den er for Helse Bergen. De ønsker å redde flere liv, ikke færre. I møte med våre kunder, fra privat og offentlig sektor, er det i tillegg tre ting jeg ber dem tenke nøye over rundt det å innføre og ta i bruk AI.
Du må først erkjenne at det å kategorisere i seg selv er en form for diskriminering. Noen typer diskriminering er uønsket i et samfunn og det må avklares tidlig slik at disse fallgruvene unngås. Videre må du ha en plan for å overvåke om diskriminering skjer. Diskriminering kan snike seg inn i dataene, i måten Aien tar avgjørelser på eller måten resultatene tilgjengeliggjøres på. I tillegg må du ha en måte å håndtere uønsket diskriminering på slik at Aien avlæres feilen som er oppdaget.
Med mennesker som utførere, har vi ofte en ujevn og inkonsistent innsikt i hvorfor et individ gjorde hva det gjorde dersom noe først har gått galt. Hvis Aien er innført riktig, kan den i motsetning til mennesker være ganske god på å forklare hvorfor den avgjorde som den gjorde. Å ha en AI på laget kan til og med bringe klarhet, forbedre rutiner og positivt utfordre hvordan vi mennesker tar beslutninger og utfører arbeidet vårt – og til og og med redusere risiko for diskriminering. Hvis innføringen av AI i Helse Bergen gjøres riktig, vil trolig nødsamtalene i fremtiden kunne håndteres enda bedre enn da menneskene var på vakt alene.
