I dette prosjektet tar vi sikte på å løse tre sentrale utfordringer i Tsetlin-maskinforskningen:
1) Nåværende maskinvareprototyper er begrenset til småskala maskinlæringsproblemer.
2) Det er uklart hvordan man kan utføre forsterkningslæring (læring fra straff og belønning), som er et grunnleggende maskinlæringsparadigme.
3) Vi vet ikke hvordan man kan trene TMer fra umerkede data, noe som er viktig for å håndtere flaskehalsen manuell merking av data skaper. Ved å overvinne disse tre ufordringene tar vi sikte på å lage et nytt programvare- og maskinvareøkosystem som overgår dagens maskinlæring. Dette vil muliggjøre kraftige logikkbaserte maskinlæringsapplikasjoner for alt fra tingenes internett til skyen.
For den første utfordringen har vi vist hvordan vi kan redusere energiforbruket ved å innføre deterministiske læringstrinn. Vi har videreutviklet en skalerbar og asynkron arkitektur som kan utnytte parallell maskinvare. Våre nyeste maskinvaredesign skaleres nå for å støtte Tsetlin-maskinkonvolusjon for bildeanalyse, og vi introduserer en fullt asynkron Tsetlin-auttomatarkitektur med integrert ikke-flyktig minne. Når vi skalerer opp kompleksiteten til datasettene for maskinlæring, har vi lagt merke til betydelig minnetrafikk i maskinvaredesignene, noe som påvirker effektiviteten og gjennomstrømningen vår. For å redusere minneflaskehalsene har vi designet flere maskinvarearkitekturer i minnet som er i stand til å behandle lagringsdata i modulære minneenheter. For implementeringer i minnet har vi brukt to typer minneteknologier: tradisjonelle statiske RAM og nye ikke-flyktige resistive minner. Vi har også fokusert på databooleanisering for å bygge konsise og nøyaktige mønstre. Vi har utviklet visualiseringsmetoder for å forstå og forklare virkningen av booleanisering og hyperparametervalg på effektiviteten av maskinlæring. Ved siden av disse har vi foreslått maskinvaredesign ved bruk av såkalte Petri-nett, inkludert latensanalyse.
For den andre utfordringen har vi utviklet det første Tsetlin-maskinrammeverket for off- og on-policy forsterkningslæring evaluert på grid-verdener. Videre, for brettspillet Hex har vi designet representasjoner og tolkningsmekanismer som tillater logikkbasert vinnerprediksjon. Vi har også løst problemet med online forsterkningslæring i en kontekst (det såkalte kontekstuelle bandittproblemet) med en Tsetlin-maskin, og utkonkurrerte andre populære sammenlignbare metoder. For komplekse oppgaver har vi observert at de logiske uttrykkene kan bli ganske lange. For å løse dette problemet har vi foreslått en ny variant av Tsetlinmaskinlæring der du kan begrense størrelsen på de logiske uttrykkene. Dette har tillat oss å halvere størrelsen på uttrykkene som ble brukt for vinnerprediksjon i Hex, uten tap i nøyaktighet. Basert på studiene ovenfor, utforsket vi ytterligere to teknikker som kan brukes i forsterkningslæring: (1) Vi introduserer en TM-slutningsmetode som reduserer kompleksiteten gjennom inkrementell re-evaluering. (2) Vi foreslår en hypervektor (HV)-metode for å representere konsepter fra alle datatyper, og forbedrer TMs kapasitet og fleksibilitet gjennom hyperdimensjonalt rom.
For den tredje utfordringen har vi utviklet en Tsetlin-maskinarkitektur som støtter kartlegging mellom flerdimensjonale inn- og utdataverdier. Denne tilnærmingen har muliggjort den første Tsetlinmaskin-baserte autoencoderen, samt selvlæring av språkmodeller. Vi har også laget den første ikke-ledede Tsetlin-maskinarkitekturen for å finne tolkbare klynger i data. For å adressere dynamiske miljøer har vi undersøkt en logisk tilnærming til modellering og deteksjon av datadrift. Til slutt har vi utviklet en metode for å avdekke relasjoner og struktur i data ved hjelp av et Tsetlinmaskin-produsert Bayesiansk nettverk, samt en Tsetlinmaskin-arkitektur for behandling av tidsserier. For alle disse tilnærmingene har vi utforsket ulike applikasjoner, inkludert sansing, planlegging, naturlig språkbehandling, bildeanalyse og beslutningsstøtte. Til slutt har vi designet en skalerbar autoencoder-arkitektur.
Gjennom dette prosjektet har vi satt i gang flere forskningssamarbeid knyttet til individuelle utfordringer. Disse inkluderer effektiv bruk av visualisering for å utforske ulike algoritmer og deres atferdsdynamikk, sammen med utvikling av ensemblemetoder for å løse nøyaktighetsproblemer for maskinlæringsproblemer i stor skala. Funnene og resultatene av prosjektet har vært grunnleggende for å utforske nye veier for Tsetlinmaskinen.
