Gå til hovedinnhold
0
Hopp til hovedinnhold

Kunstig intelligens i banken kan gi økte sosiale forskjeller

Det bankens kunstige intelligens vet om deg, kan føre til urettferdig forskjellsbehandling. En ny doktorgrad viser hvordan det kan unngås.

Foto av mann med bankkort og mobiltelefon
All teknologi diskriminerer, men noen typer diskriminering er mer synlig enn andre. Kunstig intelligens krever at banker er årvåkne for hvordan algoritmene de bruker former samfunnet, viser en ny doktorgrad fra UiA. (Illustrasjonsfoto: iStockphoto)

Nesten uansett hva vi gjør, legger vi fra oss data om hvem vi er. Slik er det også i banken. I mange tilfeller blir disse dataene brukt på måter som er nyttige for oss. Det er for eksempel fint for 50-åringer å slippe å få reklame for boligsparing for ungdom.

Foto av Elisabeth Austad Asser

– Som bank må vi forstå feilene og manglene i dataene vi bruker for å ta avgjørelser. Dette krever helt ny, tverrfaglig kompetanse, og vi må endre måten vi jobber på for å få belyst det, sier Elisabeth Austad Asser. (Foto: Mona Hauglid)

– Det som er farlig, er når banker eller andre virksomheter bruker data til å kategorisere deg og begrense valgene dine uten at du vet om det. Kunstig intelligens kan definere noen mennesker som innenfor, og andre mennesker som utenfor. Da er vi fort ute å kjøre.

Det sier Elisabeth Austad Asser. Hun har nettopp disputert for doktorgraden sin ved Universitetet i Agder (UiA). Der har hun sett på hvordan bruk av kunstig intelligens kan hemme eller fremme verdiene til Sparebanken Sør, hvor hun til daglig er ansvarlig for bærekraft.

I doktorgraden har hun laget en liste med tretten punkter for hvordan banker bør ta i bruk kunstig intelligens. Denne kommer vi tilbake til i slutten av artikkelen. Men først: Hvorfor er dette egentlig et problem?

Usynlig sortering

Tenk for eksempel om en mann søker på stillingsannonser, og ikke får opp omsorgsyrker fordi noen har bestemt at de ikke vil være interessante for ham. Eller om du søker etter ledige skoleplasser, og noen eliteskoler ikke kommer opp blant søkeresultatene på grunn av postnummeret der du bor.

– Vi tror vi er frie når vi søker etter ting på nettet, men på baksiden av for eksempel Google sitter det algoritmer som har laget en profil på deg og bestemmer hva du skal få se og hvilke tilbud du skal få, sier Asser.

Når slike former for teknologi blir brukt i banken, kan det for eksempel føre til at området hvor du bor avgjør om du skal få innvilget boliglån eller kredittkort.

Tidligere ble slike avgjørelser tatt av rådgivere i banken. Disse kunne vite at selv om du kanskje har naboer som er dårligere betalere, så er du som individ annerledes.

Kan sementere forskjeller

– Det er farlig når alt blir gjort om til data. Når du først har blitt definert inn i en kategori, så kan dette bli brukt videre i nye algoritmer. Om banker gjør dette galt, kan de være med å sementere sosiale forskjeller. Og i verste fall øke dem, sier Asser.

Hun mener dette bør være spesielt tankevekkende for sparebanker, som i sin tid ble opprettet som et verktøy for økonomisk stabilitet.

– En sparebank har en historisk gjeld til lokalsamfunnet. Den bør ikke bare legge seg under effektivitetsjaget som blir skapt av teknologien, sier Asser.

Men også sparebanker har en forpliktelse til å drive effektivt og tjene penger. Og om ikke sparebankene vil bruke ny teknologi, vil de kunne bli utkonkurrert av andre, mer effektive banker som gjør det.

– Kunstig intelligens har satt i gang et kommersielt spill i bankbransjen. Denne teknologien gjør det nødvendig å ta et samfunnsansvar. Men det er få som snakker om det, sier hun.

Tretten råd

I doktorgraden sin har Asser laget en liste med tretten anbefalinger til hvordan banker kan tilnærme seg kunstig intelligens (KI) på en måte som fremmer bankens verdier.

  1. Vær bevisst: Lag en plan for bruk av kunstig intelligens som stemmer overens med bankens verdier og mål. Vær klar på hva ulike teknologier skal brukes til.
  2. Forstå lover og regler: Sørg for at bankens ansatte har kunnskap om gjeldende lover og regler om KI.
  3. Jobb med datakvalitet: Sørg for at dataene er rettferdige, balanserte og av høy kvalitet. Unngå fordommer i dataene ved å bruke innsikt fra forskjellige avdelinger i banken. Test KI-systemer for skjevheter og jobb for å fikse dem.
  4. Håndter skjevheter: Bruk et mangfoldig team for å utvikle algoritmer. Samarbeid med grupper som ofte er utelatt når du utvikler KI-modeller. Vær åpen om hvilke data som brukes.
  5. Velg de rette algoritmene: Bruk algoritmer som er så rettferdige og upartiske som mulig. Bruk ekspertise for å velge og vurdere algoritmer, særlig for sensitive oppgaver som kredittvurdering.
  6. Utdann organisasjonen om skjevheter: Lær opp hele organisasjonen om skjevheter i datasett og strategier for å vurdere disse.
  7. Frem intern kunnskap: Inkluder ansatte i utviklingen av KI-modeller og bruk deres bankfaglige kunnskap for å redusere skjevheter og forbedre implementeringen av KI.
  8. Styrk opplæringen: Jobb grundig med opplæring i banken når KI-teknologi tas i bruk.
  9. Involver ledelsen: Sørg for at både tekniske og ikke-tekniske ledere arbeider inkluderende og verdibasert med KI.
  10. Overvåk systemene: Vær oppmerksom på uønskede effekter etter at KI er tatt i bruk. Vær åpen for ekstern revisjon av KI-systemene.
  11. Forstå ansvaret: Vær klar på hvilket ansvar banken har i KI-prosesser, og vurder å bruke begrepet «maskin i loopen» når det er relevant.
  12. Opprett et KI-etisk råd: Rådet kan håndtere utfordringer og sørge for at banken holder seg oppdatert på KI-området.
  13. Vær åpen om KI-beslutninger: Vær klar og åpen om hvilke beslutninger som er tatt ved hjelp av KI.

Rask endring

Asser fremhever at teknologi til alle tider har endret hvordan vi mennesker forholder oss til verden. Slik sett er det ikke noe nytt med kunstig intelligens.

Det nye er hvor raskt det går. Boktrykkerkunsten brukte 200 år på å komme til Norge. Telefonen brukte 75 år på å nå 50 millioner brukere. Da ChatGPT ble lansert, nådde den hundre millioner brukere på en uke.

– Teknologien som påvirker og former oss, blir tatt i bruk veldig raskt nå. Vi må forstå denne teknologien for å være sikre på at måten vi bruker den er bærekraftig og er med å skape en verden vi alle kan og vil leve i, sier hun.

Kilde: Alt på stell. En studie i hvordan bruk av kunstig intelligens kan hemme eller fremme Sparebanken Sør sine verdier.

Fra april vil Asser undervise i emnet Kunstig intelligens, menneske og samfunn.