Innholdsfortegnelse

Emnet er tilknyttet følgende studieprogram

Undervisningsspråk

Norsk

Anbefalte forkunnskaper

IKT206-G DevOps eller tilsvarende. IKT210-G Sky infrastruktur eller tilsvarende. IKT222-G Softwaresikkerhet eller tilsvarende

Læringsutbytte

Etter fullført emne skal studentene kunne:

  • Forklare prinsippene bak DevSecOps og hvordan de utvides til ML/KI-systemlivssykluser, inkludert MLOps-arbeidsflyter og kontinuerlig modelldistribusjon.
  • Identifisere og beskrive vanlige sikkerhetstrusler og sårbarheter spesifikke for ML/KI-systemer, som f.eks. fiendtlige eksempler, dataforgiftning, modellinversjon og angrep i forsyningskjeden.
  • Anvende trusselmodelleringsteknikker på ML/KI-pipelines, inkludert datainntak, opplæring, validering, distribusjon og overvåkingsfaser.
  • Integrere automatiserte sikkerhetskontroller i CI/CD-pipelines for ML/KI-systemer, inkludert statisk analyse, avhengighetsskanning, containersikkerhet og modellvalideringskontroller.
  • Analysere ML/KI-arkitekturer for å vurdere risikoer knyttet til databeskyttelse, modellrobusthet, rettferdighet og samsvar med regelverk.
  • Evaluere alternative sikkerhetsstrategier og styringsrammeverk for å sikre ML/KI-systemer i ulike distribusjonskontekster (f.eks. sky, kant).
  • Designe og implementere en sikker ende-til-ende ML/KI-pipeline som inkluderer DevSecOps-prinsipper, kontinuerlig overvåking, hendelsesrespons og ansvarlige KI-hensyn.

Innhold

Dette emnet introduserer DevSecOps-prinsipper og -praksiser for hele utviklingssyklusen, også for maskinlærings- (ML) og kunstig intelligens- (KI) systemer. Ved å bygge på tidligere kunnskap om DevOps og grunnleggende programvaresikkerhet, utforsker studentene hvordan sikkerhet, personvern, robusthet og samsvarshensyn er integrert gjennom hele ML/KI-livssyklusen - fra datainnsamling og modellutvikling til distribusjon, overvåking og kontinuerlig retrening og hele utviklingssyklusen - fra design og utvikling til utrulling og monitorering. Emnet legger vekt på de unike sikkerhetsutfordringene ved ML/KI-systemer, inkludert fiendtlige angrep, dataforgiftning, modelltyveri, sårbarheter i forsyningskjeden og risikoer i ML/KI-pipelinene. Studentene får praktisk erfaring med å implementere sikre CI/CD-pipeliner for ML-arbeidsflyter (MLOps), utføre trusselmodellering for KI-systemer, integrere automatisert sikkerhetstesting og anvende styrings- og samsvarspraksiser for ansvarlig KI. Ved slutten av emnet vil studentene være i stand til å designe og implementere sikre, robuste og kontinuerlig overvåkede ML/KI-systemer ved hjelp av DevSecOps-prinsipper.

Undervisnings- og læringsformer

Forelesning og labøving. Øvingene foregår i datalab. Avdelingsingeniør, studentassistent og/eller faglærere er til stede. Det gis opplæring i bruk av fagrelatert programvare. Studentene setter opp og drifter egne eller tredjeparts prosjekter med de aktuelle verktøyene. Forventet arbeidsbelastning for gjennomsnittsstudenten er 27 timer pr studiepoeng.

Eksamen

Mappe og muntlig eksamen. Krav til innhold i mappen gis ved semesterstart i Canvas. Gradert karakter.

Studentevaluering

Emneansvarlig fastsetter i samråd med studenttillitsvalgt evalueringsform og om emnene skal ha midtveis- eller sluttevaluering i tråd med kvalitetssystemet kapittel 4.1. Informasjon om evalueringsform for emnet publiseres i Canvas.
Sist hentet fra FS (Felles studentsystem) 15. okt. 2026 11:49:23