En ærlig samtale om AI: Vi er alle på en læringsreise

Det overrasker neppe noen at vi i Unit4 mener vi ligger i forkant når det gjelder AI. Det har dere sikkert hørt fra mange teknologileverandører. Som bevis på vår posisjon på dette området viser vi ofte til at vi allerede i 2016 lanserte Wanda. Det var en av de første chatbotene for mellomstore organisasjoner.

Mindre kjent er at vi i ledergruppen for rundt to år siden hadde en åpen diskusjon om hvorvidt vi skulle legge bort konseptet sammen med investeringene i idéen om ambient ERP. Denne teknologivisjonen handlet om at systemet skulle fungere autonomt i bakgrunnen og kun samhandle med brukere når det krevde menneskelig inngripen. Brukeren skulle kunne føre en enkel samtale direkte i applikasjonen de brukte daglig som Microsoft Teams.

Problemet var utbredelsen. Kundene våre var nok ikke helt klare for denne måten å jobbe på. Kanskje handlet det om teknologien eller om hvordan vi solgte den inn.

Så kom ChatGPT og alt endret seg.

Når vi ser tilbake, er det lett å forstå hva som skjedde. Både brukere og teknologileverandører var bare i startgropen av en prosess med utprøving.

Ingen har regnet ut businesscasen ennå

Om vi skal være helt ærlige om AI, så begynner det virkelige arbeidet med å forstå hvordan teknologien påvirker måten vi jobber på først nå i disse dager. Arbeidsflyter formes på nytt og påvirker organisasjonsstrukturer. Roller og stillinger kan forsvinne, men nye roller vil oppstå. Samtidig krever AI en annen kompetanse, der humanistiske fag vil bli like relevante som ingeniørutdanninger.

Gjennom denne endringsperioden finner vi de gode business casene for AI mens vi jobber. Alle som påstår at de har funnet alle svarene, snakker ikke sant. Utviklingen vil skje raskt, men både leverandører og brukere må være ærlige på at det kommende året vil handle om å eksperimentere. Vi må finne ut hvor AI faktisk øker produktiviteten, gir tid tilbake og lar medarbeidere fokusere på mer givende oppgaver.

Det er grunnen til at leverandører som Unit4 tilbyr kundene uforpliktende tilgang til AI. Initiativet «AI for Your World» gir mellomstore organisasjoner mulighet til å teste og prøve uten krav om abonnement. Utviklingen av Wanda lærte oss at vi gjennom felles utprøving og erfaring skaper tilbakemeldingssløyfen som styrer produktutviklingen vår.

Hva skjer når AI skriver koden?

La meg illustrere med et eksempel fra undersøkelser gjort av våre egne utviklingsteam. Siden årsskiftet har vi modellert hvilken effekt AI-baserte kodeverktøy har på måten vi utvikler produkter på. Konklusjonene våre bekrefter til dels hypen i markedet. Modelleringen viser at vi kan akselerere produktutviklingen, slik at produkter kan utvikles 5 til 15 ganger raskere.

Men det er bare overskriftene. Å integrere AI i utviklingssyklusene våre tvinger oss til å revurdere tilnærmingen til hvordan vi utvikler nye produkter. Når AI overtar mer av selve kodearbeidet så gir det en åpenbar ressursbesparelse. Denne gevinsten går tapt dersom vi ikke legger mer innsats i planleggingen.

Det krever en langt grundigere forståelse av problemet utviklingsteamene skal løse. Derfor tror jeg personer med humanistisk bakgrunn, spesielt innen filosofi, vil være svært godt rustet til å vurdere hvilke utfordringer en organisasjon bør løse med AI.

Dette er en av de viktigste erfaringene vi deler med kundene våre når de skal finne riktig business case for AI.

Tilbakemeldingssløyfen går imidlertid begge veier. Med Wanda lærte vi tidlig fra kundene våre at kontekst er helt avgjørende. Et prosjekt betyr én ting innen profesjonelle tjenester, noe annet i offentlig sektor og noe helt annet i ideelle organisasjoner. Med mindre AI forstår konteksten bak en brukers spørsmål, vil den ikke vite hvilken informasjon den skal hente fra ERP-systemet. Risikoen for hallusinering blir dermed stor. Denne innsikten gjorde at vi bygget svært rike beskrivelser av all data i vår neste generasjons plattform: ERPx. Alle objekter er beskrevet semantisk og gjennom en ontologi. Oppå dette har vi lagt alle forretningsprosessene i et format som gjør at LLM-modellen kan resonnere. Totalt har vi beskrevet over 1 200 datakontrakter for å redusere risikoen for hallusinering i LLM.

Styring og etterlevelse er også viktig for kundene våre og dermed utviklet vi Central Business Logic (CBL). Dette laget inneholder all transaksjonsbasert forretningslogikk. Reglene defineres i CBL som deterministiske regler, slik at hvis en LLM eller ERP forsøker å oppdatere en faktura, sørger denne mekanismen for at det skjer på en trygg måte. Ved feil svar gir CBL tilbakemelding til systemet med feilmeldinger som kan tolkes av en LLM og handles på i samme sløyfe. På denne måten ivaretar vi transaksjonsintegriteten.

Et annet område der tilbakemeldinger er avgjørende, er å forstå hvordan kundene tenker rundt virksomheten sin. For eksempel kan en CFO i et konsulentselskap se annerledes på resultatregnskapet enn noen i en ideell organisasjon. Denne informasjonen må fanges opp, og selv om vi leverer standardfunksjonalitet ut av boksen, må mye av arbeidet gjøres i onboardingfasen for å kartlegge hvordan virksomheten forstår sine egne prosesser. Dette krever en helt ny måte å tenke programvare på. Tidligere handlet det bare om en ren konfigurasjon. Med AI kan dere fortsatt ha egendefinerte felter, men dere må forklare AI hva de betyr; ellers vil en LLM svare med stor selvtillit, men ta fullstendig feil.

Digital suverenitet er et nyere og viktig krav for mange av våre kunder i offentlig og ideell sektor. De må være trygge på at data ikke forlater EU for å trene AI-modeller i andre jurisdiksjoner. Derfor drifter vi modellene vi bruker innenfor EU, i samarbeid med europeiske partnere.

Det over 30 år i teknologibransjen har lært meg er at vi må overvinne frykten for å eksperimentere. Mange CIO-er har vært tilbakeholdne med utprøving fordi det kan gi inntrykk av at noe er uferdig og ikke kan stoles på i produksjonsmiljøer. Men når vi nå skal ta grep om AI, må vi legge bort den naturlige europeiske forsiktigheten og utforske nye måter å bruke teknologien på. Ja, det innebærer en viss risiko, men i de trygge rammene vi etablerer, ønsker vi å oppmuntre til slik prøving og feiling. Det er helt avgjørende for at vi alle skal forstå hvilke bruksområder som gir størst verdi med AI.