Rupsa Saha har vært knyttet til ph.d.-programmet ved Teknologi og realfag, spesialisering i IKT, fagområde Kunstig Intelligens.
- Prøveforelesning starter kl. 10.15
- Disputas starter kl. 12.15
Tema for prøveforelesningen: "Explainability in LLMs: Methods, Metrics, Challenges"
Les avhandlingen i Nasjonalt vitenarkiv
Disputasleder: Morgan Konnestad
Evalueringskomite:
- Professor Christina Lioma, Københavns Universitet
- Førsteamanuensis Karl Øyvind Mikalsen, UiT Norges Arktiske Universitet
- Professor Andreas Prinz, UiA
Veiledere i doktorgradsarbeidet:
- Hovedveileder: Professor Ole-Christoffer Granmo, UiA
- Biveileder: Professor Morten Goodwin, UiA
Sammendrag
Ettersom Kunstig Intelligens (KI) blir en integrert del av hverdagen, både på et personlig nivå og i samfunnet, er det en samlet innsats for å få KI-modeller til å forklare sine beslutninger. Forklarbar kunstig intelligens (XAI) har som mål å øke brukernes tillit til KI-systemer, samt forhindre misbruk og opprettholdelse av skjevheter.
En av måtene mennesker samhandler med KI er gjennom naturlig språktekst. Siden språkforståelse på menneskelig nivå krever logiske strukturer, kan integrering av logisk programmering sammen med naturlig språk være fordelaktig for en slik teknologisk språkbehandling. På grunn av språkets mangefasetterte natur, må KIspråksystemer vurdere flere forskjellige aspekter ved hver enkelt tekstbit. Å introdusere komposisjonalitet via relasjonsmodellering gjør det mulig å fange opp kompleks informasjon som en aggregering av enklere deler. Som andre grener av KI, drar også NLP nytte av XAI, der forskere og sluttbrukere kan bekrefte at viktig informasjon eller kontekst ikke går tapt.
Tsetlin-maskiner (TM) bruker læringsautomater for å gi tolkbare avgjørelser til klassifiseringsproblemer. Den lærer klausuler eller undermønstre konstruert fra måledata som er tilgjengelige for den. I en enkel klassifiseringsoppgave stemmer flere av disse klausulene for å indikere hvilken klasse en måleprøve tilhører. TMs’ tilnærming til mønstergjenkjenning har vist seg vellykket i en rekke bildeklassifiserings- og NLP-oppgaver. Det har imidlertid ikke vært målrettet forskning på å bruke TMs som et verktøy XAI innenfor aspektene ved språkanalyse.
I denne oppgaven, ved å bruke terminologi fra XAI, fastslår vi at klausulene lært av en TM samlet sett omfatter den globale beskrivelsen av oppgaven som skal løses. I tillegg danner delsettet av klausuler som bestemmer et enkelt testutvalg en lokal beskrivelse av utvalget. Vi viser videre at et TM-basert system kan produsere menneskelige tolkbare beslutninger i dialogrelaterte semantiske oppgaver, inkludert enhetsidentifikasjon og semantisk relasjonsidentifikasjon. Ved å sammenligne med tilgjengelige ekspertkommentarer dokumenterer viser vi at de globale beskrivelsene i stor grad samsvarer med slike oppgaver. De lokale beskrivelsene gir mulighet for observasjon av hvordan modellen skifter fokus mellom ulike aspekter av teksten etter behov.
Vi viser også at TM kan bygge en logisk struktur for resonnering basert på relasjonene som finnes i naturlig språktekst. Mens en standard eller vanilla TM avhenger av proposisjonelle input og lager proposisjonelle klausuler for å kode sine beslutninger, presenterer vi en modifisert versjon kalt RTM. RTM fungerer på relasjoner og deres inkluderte enheter, slik at den resulterende læringen er i form av roller som spilles av enhetstyper. I motsetning til "vanilla" TM, som bruker konstanter eller ord fra vokabularet, bruker RTM variabler. Dette gjør det mulig å lage generiske hornklausuler som effektivt fanger opp logiske interaksjoner i teksten. Det tredje bidraget til denne avhandlingen er i form av et rammeverk som bruker TM for å overvinne utfordringene med dataendringer. De fleste KI-applikasjoner krever store mengder data for å gi gode resultater, men data kan ha forskjellige egenskaper når de kommer fra forskjellige kilder eller forskjellige tidsforekomster. Dette gjelder også for naturlige språkdata, siden språk endres både historisk og geografisk, og til og med mellom muntlig, skriftlig eller online bruk. Vi viser at et TM-basert system kan identifisere ulike egenskaper i data, isolere prøvene som ikke samsvarer med flertallet og i tillegg gi måter å redusere effekten slike prøver har på modellens ytelse.
Slik følger du disputasen digitalt
Disputasen er åpen for alle. Meld deg på via denne Zoom-lenken for å følge digitalt.
Du logger deg på tidligst 10 minutter før oppgitt tid. Etter dette kan du når som helst forlate og komme inn igjen i disputasen.
Opponent ex auditorio:
Tidsfrist for å stille spørsmål er senest i løpet av pausen mellom opponentene. Spørsmål ex auditorio fra publikum kan sendes til Kristine Reinfjord.
Kontaktperson
- E-post
- kristine.reinfjord@uia.no
- Telefon
- +47 37 23 30 14