AI kan bygge raskt. Hvem tar ansvar for resultatet?

Det vanskelige spørsmålet kommer før koden.

Når noen ber om en ny nettside, er oppgaven sjelden bare å skrive kode. Hvem skal siden hjelpe? Hva må besøkende forstå? Hva er et godt neste steg for dem? En konsulent kan stille spørsmålene, prioritere innholdet og foreslå en løsning som passer bedriften. AI kan hjelpe til med skisser og alternativer, men kjenner ikke virksomheten uten at noen gir den riktig kontekst.

Det samme gjelder interne systemer. Før man automatiserer en arbeidsflyt, må man forstå hvem som faktisk bruker den, hvor dataene kommer fra og hva som skjer når noe går galt.

Sikkerhet og personvern må vurderes i sammenheng.

Et kontaktskjema kan se ferdig ut etter én AI-prompt. Likevel må noen vurdere hvem som får tilgang til henvendelsene, hvor de lagres, hvor lenge de beholdes og hva som skjer ved feil eller misbruk. Datatilsynet minner om at virksomheter må ta vare på personopplysninger om kunder og brukere, også informasjon som samles inn via nettsider.

Hvis løsningen i tillegg bruker en AI-modell, kommer egne spørsmål om dataflyt og kontroll. OWASP peker blant annet på prompt injection og eksponering av sensitiv informasjon som risikoer i AI-applikasjoner. Det betyr ikke at AI er ubrukelig. Det betyr at bruken må utformes og testes med risikoene i tankene.

Sikkerhet i vanlige nettsider og systemer handler også om tilgangsstyring, validering, oppdateringer og muligheten til å gjenopprette drift. Tiltakene må velges ut fra risikoen i akkurat den virksomheten. Det er også utgangspunktet i NSMs grunnprinsipper for IKT-sikkerhet.

Et førsteutkast er ikke en ferdig leveranse.

AI kan gi et godt utgangspunkt for tekst, design og kode. Noen må likevel kontrollere at innholdet er riktig, at siden fungerer på mobil, at den kan brukes med tastatur og skjermleser, at skjemaet faktisk leverer meldinger, og at løsningen kan vedlikeholdes. Fungerer den også når bedriften endrer tjenester eller får flere henvendelser?

NISTs rammeverk for AI-risiko legger vekt på å kartlegge, måle og håndtere risiko gjennom hele livsløpet. Det er en nyttig påminnelse: kvalitet er en løpende oppgave, ikke noe som oppstår automatisk når første versjon er publisert.

Når holder det å gjøre det selv?

For en enkel idé, en intern prototype eller en midlertidig side kan det være fornuftig å prøve AI-verktøy på egen hånd. Når løsningen blir viktig for salg, drift eller behandling av kundedata, øker verdien av en fagperson som kan stille riktige spørsmål og ta ansvar for helheten.

Den beste tilnærmingen kombinerer ofte begge deler: En god konsulent bruker AI der det sparer tid, og bruker erfaring på vurderingene som verktøyet ikke kan eie: behov, avveininger, sikkerhet, kvalitet og videre drift.