«Vi må senke tempoet».
Det meldte Anthropic-sjef Dario Amodei i et essay publisert lørdag kveld. Han fikk raskt støtte fra konkurrentene Sam Altman (OpenAI) og Elon Musk (SpaceXAI, Tesla, X).
Innlegget kom i kjølvannet av oppsigelsen til Jacob Coxon. Den tidligere Anthropic- og OpenAI-researcheren hevdet at han sa opp i protest fordi selskapene handler uansvarlig.
Overskriftene ble virkelig dramatiske da Anthropic-forsker Evan Hubinger i en støttemelding til Coxon sa han mener det er mer enn ti prosent sjanse for at KI utsletter menneskeheten i løpet av et tiår.
Hvor alvorlig er alt dette – og hva ligger egentlig bak utspillene?
Her er det behov for å sortere. Vi søkte svar hos noen av forskerne ved Universitetet i Agder som sitter tettest på KI-utviklingen:
Elisabeth Austad Asser
– Vi skal lytte til hva tek-gigantene sier, for teknologien som utvikles er kraftig. Samtidig skal vi huske at KI ikke handler av egen fri vilje. Det finnes ingen superintelligens her. Algoritmen gjør det den er blitt satt til å gjøre av menneskelige utviklere. Når Amodei står frem med sine uttalelser så virker han nærmest litt hjelpeløs, men det er jo hans teknologi. Han føler seg kanskje fanget i kappløp mellom tek-selskapene, men hvis han virkelige mente det var så farlig og tok moralsk ansvar, så kunne han jo bare sluttet.
– Jeg tror noe av det farligste vi kan gjøre nå, er å tenke at denne teknologien er for stor og mektig, og at vi her i lille Europa ikke kan lage noe eget. For det er jo nettopp det vi må gjøre, hvis vi tenker at det samfunnet vi har her i Norge og Europa er bygd på verdier som vi ønsker og trenger å holde i hevd.
Morten Goodwin
– Når det gjelder sannsynligheten for at KI fører til dommedag, fremstår dette for meg som feilrepresentasjon av data. Det vi har empiri for å si, er at teknologien kan utvikle seg på en måte som gjør at den løper løpsk og vi mister kontrollen. Det kan være ille nok det altså, men det er noe ganske annet enn at det er mer enn ti prosent sjanse for at menneskeheten blir utslettet.
– Ved at toppsjefene rykker ut og fremstiller seg som ansvarlige aktører med foten på bremsen, kan de enklere styre en skjerpet regulering som de vet vil komme.
– Det er viktig å huske at det er i KI-selskapenes egeninteresse å presentere teknologien som så kraftfull og fantastisk at de må holde igjen utviklingen. Hvis de klarer å selge ideen om at teknologien kommer til å bli enda bedre enn den er i dag, kan de tiltrekke seg investorer.
Rebekka Olsson Omslandseter
– Nyhetsbildet kan fremstå overveldende når dette skrives om overalt. Teknologi-gigantene har over tid bygget opp et bilde av at modellene deres er blitt veldig mye bedre og kan komme ut av kontroll, uten at man egentlig har noen måte sjekke ut hvilke deler av infoen som faktisk stemmer. Selskapene er både skaperen av problemet og nå varsleren om dette.
– I dag er det teknologiselskapene selv som utvikler, tester og vurderer risikoen ved sine egne systemer. Vi har som enkeltpersoner ingen reell påvirkningsmakt. Det finnes heller ingen globale fora der vi kan diskutere og bli enige om grenser for KI – hva teknologien skal få lov til og ikke, samt regler for utvikling av KI. Med EUs AI Act er Europa litt på ballen, men globalt mangler vi samarbeidsfora. Utviklingen av KI går raskt, reguleringer henger etter.
Se også video med Omlandseter om hvordan vi best kan bruke kunstig intelligens i samfunnet:
Ishita Barua
– At de fremste amerikanske KI-selskapene nå går ut offentlig og krever mer regulering fra myndighetene fremstår for meg som underlig. Flere av dem har drevet aktiv motarbeidelse og trenering av nettopp denne type regulering i Europa gjennom lobbyisme for å utvanne EUs KI-forordning, AI Act.
– Tilsvarende bekymringer om manglende kontroll og sikkerhet hos legemiddelindustrien ville umiddelbart utløst tilsyn fra myndighetene. I de fleste industrier ville enhver antydning om manglende kontroll og potensiell skade sannsynligvis føre til at aksjekursene kollapset. Men i KI-sektoren er det åpenbart ikke slik. Her understøtter skrekkscenarier skyhøye verdsettelser av selskapene fordi beskrivelser av teknologien som ukontrollert og livsfarlig også signaliserer hvor potent den er. Og verdsettelse er viktig spesielt før en børsnotering, som for Anthropics del kan bli historiens største.
Ole-Christoffer Granmo
– Vi må huske at en av hovedutfordringene med dagens generative KI er at vi ikke kan spore KI-ens svar tilbake til kildene. Selv om resonnementene virker overbevisende, kan de være fullstendig feilaktige fordi de baserer seg på statistiske mønstre fremfor etablert kunnskap. Overlater vi kritiske beslutninger innen medisin eller forsvar til KI, risikerer vi alvorlige feil. Jo større handlingsrom og autonomi vi gir disse systemene, desto større blir faren for alvorlige hendelser.
– Derfor må vi utvikle KI-løsninger hvor vi har full transparens og kontroll, etter samme strenge prinsipper som brukes i for eksempel luftfarten. Det krever mer transparent teknologi. Vi får antagelig ikke full kontroll før løsningene er tvers gjennom logiske, uten mørke kroker. Her tenker jeg Tsetlin-maskiner kan spille en viktig rolle, spesielt hvis forskerne lykkes med å bygge storskala logiske modeller.