Tid for generativ KI i sandkassa

Nå er det klart hvilke prosjekter som får være med i den femte runden i sandkassa. Fra de 20 søknadene som kom inn, har opptakskomiteen jobbet iherdig med å plukke ut de beste prosjektene – sett fra et læringsperspektiv.

– Det var ingen plan eller strategi fra vår side å spesifikt velge prosjekter tilknyttet språkmodeller og generativ KI. Målet var primært å finne gode prosjekter, som tar opp viktige personvernrelaterte utfordringer tilknyttet innovasjon og digitalisering, sier Eirik Gulbrandsen, som har ledet opptakskomiteen.

Likevel ble generativ KI en rød tråd, og potensielt kan det bli fruktbar læring underveis på tvers av prosjektene.

Generativ KI i tre dimensjoner

Opptakskomiteen landet på tre prosjekter som alle utforsker generativ KI, men med forskjellige tilnærminger. Prosjektene kommer fra NTNU, Helsedirektoratet og firmaet Juridisk ABC.

– De valgte prosjektene var godt underbygget, med veldefinerte problemstillinger og mål for et sandkasseprosjekt. Alle prosjektene har stor overføringsverdi til mange, sier Gulbrandsen.

NTNU ønsker å finne ut hvordan offentlige aktører skal forholde seg til nettopp det. I sandkassa skal de få utforske om og hvordan de og andre offentlige virksomheter kan ta i bruk Microsofts 365 Copilot.

Helsedirektoratet ønsker å utforske om generativ KI kan brukes til å gjøre informasjon fra helsevesenet mer tilpasset og forståelig for forskjellige brukergrupper, blant annet med fokus på barn og unge.

Det tredje prosjektet, Juridisk ABC, vil bruke generativ KI til juridisk rådgivning tilknyttet arbeidsrett.

– Dette er prosjekter som involverer mye og sensitive personopplysninger. Så dette blir viktig og spennende å være med på. Her vil både deltagerne, Datatilsynet og samfunnet ellers lære mye, sier Datatilsynets direktør Line Coll.

Integrert generativ KI

NTNU-prosjektet kan få betydelig overføringsverdi til andre, da det tar for seg programvare med integrert KI kjøpt som hyllevare, og bruk av dette i det offentlige.

– Nå kommer den integrerte generative kunstige intelligensen for fullt. Altså at det ikke er et KI-verktøy du spesifikt har valgt, men at det er innebygget i plattformer og programmer du ellers bruker. Det er her folk flest vil treffe på generativ KI i hverdagen fremover, forklarer Gulbrandsen.

Sous vide-prosjekt med Ahus

I tillegg har Datatilsynet valgt ut et fjerde prosjekt, fra Ahus. Det involverer ikke kunstig intelligens, men med sandkassens nye og utvidede mandat, som også inkluderer helt vanlig digitalisering, blir det rom for slike prosjekter. De ønsker å forenkle datadeling i helsevesenet, og utvikle en ordning for alderstilpasset pårørendepålogging, også kalt digital fullmaktsordning. Dette kan også ha generell overføringsverdi til andre typer tjenester, f.eks. finansielle.

– Dette prosjektet er i en tidlig fase, og det trengs noen grunnleggende avklaringer før vi vil komme til de mest spennende diskusjonene og vurderingene sett fra et personvernperspektiv. Derfor vil dette prosjektet få et lengre prosjektløp, et slags langtidskokt sandkasseprosjekt, sier Gulbrandsen.

Sandkasse som innovasjonsdriver

Regulatoriske sandkasser er en veiledningsmetode spesielt ment for prosjekter i front på sitt felt, der det er lite juridisk praksis å vise til. Og direktør Coll mener både søknadsbunken og de utvalgte prosjektene viser at sandkassa er godt egnet til å ta opp i seg tidlige trender.

– Dette er flotte og viktige prosjekter. Både (generativ) kunstig intelligens og barn og unges personvern er sentrale satsingsområder for Datatilsynet framover. Så vi ser fram til resultatene av disse sandkasseprosjektene, sier Coll.

Les mer om Datatilsynets regulatoriske sandkasse på Sandkassesiden.

Abonner på Sandkassebrevet, et nyhetsbrev om det som skjer i sandkassa.