Smart assistent på vent

"Den som venter på noe godt, venter ikke forgjeves," sies det. Vi vet det er mange som klør i fingrene etter å ta i bruk Microsofts kunstig intelligente verktøy, Microsoft 365 Copilot. Og at mange venter på i spenning på rapporten fra NTNU og Datatilsynets sandkasseprosjekt, der de har gått i dybden på verktøyet.

Rapporten er like rundt hjørnet. Så akkurat den ventetiden nærmer seg slutten.

– Det blir ikke en rapport som enten anbefaler eller fraråder bruk av verktøyet, sier Datatilsynets prosjektleder og juridiske seniorrådgiver Sebastian Forbes. – Vi vil belyse hva slags vurderinger du bør gjøre i forkant. Og vi vil prøve å gjøre det enkelt, for det kan være lett å snuble helt fra starten av.

 Så forhåpentligvis vil dere oppleve rapporten som et praktisk og nyttig hjelpemiddel, når dere selv skal vurdere om Microsoft 365 Copilot er noe for organisasjonen deres.

Endelig noe nyttig!

Generativ kunstig intelligens kom på alles lepper, og ved manges fingertupper, for to år siden. Derfra har det kanskje fått mest oppmerksomhet for å bli brukt til juks i skoleverket eller til å reprodusere andres åndsverk.

Men nå er KI-assistenten Microsoft 365 Copilot lansert, klar for å hjelpe oss med sånt som faktisk er nyttig: skrive møtereferater, lage presentasjoner, svare på e-poster og oppsummere lange rapporter.

Det vil si – klar og klar. Det kan være lurt å smøre seg med litt tålmodighet, og bruke ventetiden godt på forberedelser. For det er ikke bare å skru på verktøyet og lene seg tilbake. Før man kan la Copilot ta over kjedelige og rutinepregede oppgaver, må det gjøres mye forarbeid.

Er det mulig å gjøre, vil det bli gjort

Da Heine Skipenes, seniorrådgiver for personvern ved NTNUs avdeling for utvikling og virksomhetsstyring, og gruppen hans skulle gå i gang med å teste Microsoft 365 Copilot, tok de utgangspunkt i en variant av det teknologiske imperativ: De tok høyde for at hvis det er noe som er mulig å gjøre ved bruk av verktøyet, så vil det bli gjort.

Og la det ikke være noen tvil om det – det er imponerende (og tidvis skummelt) hva du kan få dette verktøyet til å gjøre for deg.

På forsommeren presenterte de åtte funn fra testfasen på et seminar i Trondheim. Du kan høre opptak og intervjuer fra dette arrangementet i Datatilsynets egen podkastserie «SandKasten: Smart assistent på vent».

Orden i eget hus

Hovedinntrykket etter seminaret er at du må ta tidenes vårrengjøring i egne datasystemer og filarkiv før du slår på copiloten. Det er utrolig viktig med orden i eget hus, at tilgangsstyringen fungerer og at sensitive opplysninger ikke ligger og slenger på tilfeldige steder på serverne.

Det er viktig å tenke på at Copilot har samme tilgang som brukeren. Dette betyr at hvis du har tilgang til sensitive dokumenter, har også Copilot det – og den kan automatisk behandle denne informasjonen. Dette åpner opp for problemstillinger knyttet til personvern og datasikkerhet, noe som gjør det nødvendig å tenke grundig gjennom hvordan verktøyet skal brukes før man trykker på «start».

Nedkjølingseffekt

Og det er ikke bare sensitive personopplysninger i lovens forstand, dere bør være obs på. Testerne oppdaget at de kunne få copiloten til å spekulere i kollegers humør og følelsesliv basert på epostutvekslinger, opptak fra møter eller Teams-chat. Dette vil nok de fleste oppleve som følsomt og ubehagelig, og kan føre til en nedkjølingseffekt på de ansattes ønske om å dele og delta der Copilot opererer.

En av konklusjonene fra NTNUs Copilot-testere, er at verktøyet tidvis fungerer skikkelig bra. Og gevinsten øker jo bedre brukerne kjenner verktøyet, jo flinkere de er til å skrive presise kommandoer. Copilot er helt glimrende når du allerede kan det du vil at den skal hjelpe deg med. Om den for eksempel skal oppsummere en rapport du kjenner innholdet i, slik at du ved gjennomlesing kjapt ser om den har fått med seg det viktigste.

Skyting på løpende villsvin

Men den største prisen du betaler for dette verktøyet er ikke nødvendigvis lisensen. NTNUs testere konkluderer med at Microsoft 365 er krevende å forvalte.

– Å bruke dette systemet på korrekt måte kan føles som å prøve å treffe en blink som er i stadig bevegelse, fortalte delprosjektleder Bodil Åberg Mokkelbost fra scenen. Selv om teknologien har mye potensial, krever den også tid og ressurser for å fungere slik man ønsker. Og med en Copilot som tross alt er tidlig i utviklingsløpet, oppleves det som et "moving target," der man hele tiden må justere kursen etter hvert som nye oppdateringer kommer. Ekstra utfordrende er det, at du alltid må være på vakt for nye oppdateringer.

– Microsoft opererer med en "opt out"-policy på mange av sine tjenester. Dette betyr at nye funksjoner, tillegg og utvidelser blir automatisk aktivert, og administratorer må aktivt deaktivere dem hvis de ikke skal være tilgjengelige for brukerne. Dette kan være en utfordring når det i liten grad er mulig å påvirke leverandørene til å tilpasse løsningen til sin egen organisasjon.

Se hele fagseminaret på NTNUs egne sider.

NTNUs funn

Fra et personvernperspektiv er det særlig fire av testernes funn som fanger interesse:

• Copilot behandler enorme mengder personopplysninger på nye og ukontrollerte måter
• Copilot kan påvirke utøvelse av offentlig myndighet
• Copilot kan brukes til å overvåke og måle prestasjoner og adferd
• Copilot påvirker organisasjonen

Disse funnene fikk NTNUs IT-direktør Håkon Alstad til å gå ut med, at inntil svakhetene er fikset, var det lite sannsynlig at verktøyet ville bli tatt i bruk på NTNU. Den smarte assistenten ble altså satt på vent. Med teknologiens utviklingstempo, kan tiden riktignok plutselig være moden for en revurdering.

For å gå i dybden på hva NTNUs testere oppdaget, kan du lese funnrapporten. Den kommer med praktiske og konkrete anbefalinger for andre som vurderer å ta i bruk Microsoft 365 Copilot. Legg også merke til vedleggene til rapporten, der du kan finne mye nyttig og verdifullt, blant annet en tiltaksliste og en DPIA, som gir et godt bilde av hva som kreves.

I tillegg til NTNUs egen funnrapport, kommer det altså også en sluttrapport fra sandkasseprosjektet om ikke så lenge. Den vil ta for seg personvernutfordringene med utgangspunkt i funnene nevnt over. Det er innlysende problematisk, særlig for det offentlige institusjoner, der forvaltning og behandling av personopplysninger er strengt regulert, om copiloten slippes løs uten grundige vurderinger og forarbeid.

På lag med teknologien

Ifølge det teknologiske imperativ er det nærmest uunngåelig at ny teknologi blir tatt i bruk så snart den er utviklet og tilgjengelig. Det som er teknisk mulig, vil bli gjort.

Det er likevel viktig å kjempe for at vi ikke lar oss styre av teknologien, men at det er vi som styrer den. Derfor kan det være på sin plass med litt is i magen før denne teknologien og brukerne møtes i norsk arbeidsliv og offentlig forvaltning.

Sørg for god opplæring og orden i eget hus. Og vit hva du slår på, før du trykker på knappen. For det er ikke bare bare å skulle få en enklere arbeidshverdag.

Når sluttrapporten fra prosjektet er klar, finner du den på Sandkassesiden.