Slik får du KI-verktøy godkjent på legekontoret

Du har funnet et KI-verktøy på legekontoret som virker nyttig. Det skriver journalnotater, finner informasjon i journalen eller lager utkast til NAV-skjema. Så kommer spørsmålet fra dataansvarlig: Er dette trygt nok til pasientdata?

Det er et godt spørsmål. Ikke fordi KI-verktøy er farlige i seg selv, men fordi pasientdata krever tydelig ansvar, gode avtaler og en arbeidsflyt legen faktisk kan kontrollere.

Denne guiden viser hva du bør samle før du ber om godkjenning. Målet er enkelt: gjøre det lett for dataansvarlig å si ja til en trygg utprøving, og lett å si nei til verktøy som ikke tåler reell bruk.

KI-verktøy på legekontoret: kort svar

Et KI-verktøy på legekontoret bør ikke tas i bruk med pasientdata før disse punktene er avklart:

Punkt	Må avklares før bruk
Formål	Hva verktøyet skal gjøre, og hva det ikke skal gjøre
Roller	Hvem er dataansvarlig, databehandler og underleverandør
Avtale	Databehandleravtale og underleverandøroversikt
Data	Hvilke data behandles, hvor de lagres, og når de slettes
Risiko	Risikovurdering og ofte DPIA før oppstart
Klinisk kontroll	Legen må lese, rette og godkjenne alt før journalføring eller innsending
Pasient	Pasienten bør få enkel informasjon der KI brukes i konsultasjonen
Oppfølging	Avvik, feil, endringer og erfaringer må følges opp

Helsedirektoratets faktaark om trygg bruk av KI i dokumentasjon av helsehjelp sier at KI kan brukes som støtte når journalen skal føres, men bruken må være forsvarlig, verktøyet må være egnet og trygt, og helsepersonell må ha kontroll på det som havner i journalen.

Vurderer dere OpenAIs helseprodukter spesielt, har vi også en oppdatert guide om ChatGPT for helsepersonell i Norge.

Det er kjernen i hele godkjenningen.

Hvem skal egentlig si ja?

På et fastlegekontor kan én lege være ivrig, mens kontorleder, praksiseier eller dataansvarlig holder igjen. Det er ikke byråkrati for byråkratiets skyld. Rollen er reell.

Normen beskriver dataansvarlig som den som bestemmer formålet med behandlingen av helse- og personopplysninger og hvilke midler som brukes. I helsesektoren brukes dataansvarlig om det GDPR kaller behandlingsansvarlig.

I praksis betyr det:

• Den enkelte legen kan teste om arbeidsflyten gir mening.
• Dataansvarlig må godkjenne at pasientdata kan behandles i verktøyet.
• Leverandøren må dokumentere hvordan data behandles og beskyttes.
• Legen har fortsatt ansvar for tekst som journalføres eller sendes videre.

Hvis du vil få grønt lys, bør du ikke starte med "dette sparer meg tid". Start med: "Dette er problemet, dette er databehandlingen, dette er risikoen, og dette er tiltakene."

Godkjenningspakken dataansvarlig trenger

Lag én mappe, ett notat eller én intern side med dokumentasjonen. Da slipper dere løse e-poster, muntlige svar og selgerpåstander som ingen finner igjen senere.

1. Bruksområde

Skriv konkret hva verktøyet skal brukes til.

Gode eksempler:

• Lage utkast til journalnotat etter konsultasjon.
• Søke i journal for å finne relevant historikk.
• Lage utkast til L40, sykmelding, henvisning eller forsikringserklæring.
• Hjelpe fastlegen med å strukturere tekst som legen selv kontrollerer.

Dårlige eksempler:

• "KI-assistent for alt."
• "Beslutningsstøtte."
• "Sparer tid."

Jo bredere formål, desto vanskeligere blir vurderingen. Start smalt.

2. Dataflyt

Tegn eller skriv dataflyten i fem linjer:

1. Hva går inn i verktøyet?
2. Hvor sendes data?
3. Hvem behandler data?
4. Hvor lenge lagres lyd, tekst, filer og logger?
5. Hva kommer tilbake til legen?

For et tale-til-utkast-verktøy kan dataflyten være lydopptak, råtekst, KI-utkast og ferdig journaltekst. For journalsøk kan den være PDF-uttrekk fra journal, indeksert tekst, spørsmål fra legen og svar med kilder.

Ikke skriv "data slettes" hvis dere ikke vet når. Skriv konkret tid.

3. Databehandleravtale og underleverandører

Hvis leverandøren behandler pasientopplysninger på vegne av legekontoret, trenger dere en databehandleravtale for KI-verktøy.

Avtalen bør svare klart på:

• hvor data lagres og behandles
• hvilke underleverandører som brukes
• om lyd, journaltekst, spørsmål og svar brukes til modelltrening
• hvor lenge data lagres
• hvem hos leverandøren kan få tilgang
• hvordan avvik varsles
• hvordan sletting kan dokumenteres

GDPR artikkel 28 sier at behandlingsansvarlig bare skal bruke databehandlere som gir tilstrekkelige garantier for sikker og lovlig behandling. Normen har også krav til leverandørforhold, blant annet skriftlige avtaler, leverandøroppfølging og kontroll med underleverandører.

4. Sikkerhetstiltak

Dataansvarlig trenger ikke en salgsbrosjyre. De trenger konkrete tiltak.

Be leverandøren beskrive:

• innlogging og tilgangsstyring
• kryptering under overføring og lagring
• logging og sporbarhet
• sletting av rådata og mellomlagring
• hvordan test, brukerstøtte og feilsøking skjer uten unødvendig innsyn
• hvor sikkerhetskopier ligger
• hvordan kunder varsles ved endringer

For KI-verktøy er ett punkt ekstra viktig: pasientdata, spørsmål, lyd og svar skal ikke brukes til generell modelltrening uten et eget, lovlig grunnlag og tydelig instruks.

5. CE-vurdering og tiltenkt formål

Ikke alle KI-verktøy må være CE-merket. Et verktøy som bare støtter dokumentasjon, kan falle utenfor medisinsk utstyr. Et verktøy som foreslår diagnose, behandling, triage eller risikoskår, kan være medisinsk utstyr. Direktoratet for medisinske produkter forklarer at vurderingen bygger på programvarens tiltenkte formål.

Be derfor leverandøren svare skriftlig:

• Hva er tiltenkt formål?
• Er produktet vurdert som medisinsk utstyr?
• Hvis ja, hvilken CE-merking og hvilke funksjoner gjelder den?
• Hvis nei, hvorfor faller verktøyet utenfor?
• Hva er legen forventet å kontrollere selv?

Bruk gjerne vår guide om CE-merking for KI-verktøy hvis dere trenger en mer detaljert vurdering.

Risikovurdering før utprøving

Normen sier at risikovurderinger skal dokumenteres og oppdateres ved endringer som kan påvirke informasjonssikkerhet. Det gjelder før nye systemer eller behandlinger med helseopplysninger tas i bruk.

For KI-verktøy bør risikovurderingen dekke fire typer risiko:

Risiko	Spørsmål	Typisk tiltak
Personvern	Kan pasientdata komme på avveie eller brukes til feil formål?	Databehandleravtale, sletting, dataminimering, underleverandørkontroll
Informasjonssikkerhet	Kan uvedkommende få tilgang, eller kan data bli endret?	Tilgangsstyring, kryptering, logging, avvikshåndtering
Klinisk kvalitet	Kan utkastet bli feil, for langt eller misvisende?	Legegodkjenning, kildesjekk, test på egne saker
Arbeidsflyt	Kan tekst havne i feil journal, eller rådata bli liggende?	Rutine, opplæring, sjekkliste og kort utprøving

For mange KI-verktøy bør dere også gjøre en DPIA for fastleger. Datatilsynet forklarer at en DPIA beskriver behandlingen, vurderer om den er nødvendig og forholdsmessig, og fastsetter tiltak for å håndtere risiko for de registrerte. Normen sier at DPIA skal gjøres før behandlingen starter når høy risiko er sannsynlig.

Ikke gjør DPIA som pynt etterpå. Gjør den før første reelle pasientdata.

Plan for utprøving før første pasientdata

En god utprøving er liten nok til å kontrollere, men realistisk nok til å avsløre problemer.

Bruk denne planen:

Uke	Hva dere gjør	Hva dere måler
0	Samler dokumentasjon og godkjenner utprøving	Manglende dokumenter, røde flagg
1	Tester med én til to leger og få konsultasjoner	Notatkvalitet, tidsbruk, pasientreaksjon
2	Tester vanskeligere saker	Negasjoner, legemidler, kilder, kopieringsfeil
3	Evaluerer feil og avvik	Hva måtte rettes, hva var uklart
4	Dataansvarlig tar ny beslutning	Fortsette, begrense, stoppe eller utvide

Velg saker som ligner hverdagen:

• enkel konsultasjon med kort journalnotat
• psykisk helse med sykmelding
• pasient med lang journalhistorikk
• NAV-erklæring eller funksjonsvurdering
• henvisning der gamle prøvesvar og epikriser må med

Hvis verktøyet bare testes på pene demonstrasjonssaker, lærer dere lite.

Vurderer dere KI-verktøy for fastlegekontoret?

Journalhjelp er laget for trygg dokumentasjonsstøtte i norsk fastlegepraksis: transkribering, journalchat og skjemautfylling. Løsningen har databehandleravtale, data i Norge, deidentifisering, kort slettetid og utkast som legen alltid kontrollerer før bruk.

Pasientinformasjon og samtykke

Mange blander to ting: samtykke som behandlingsgrunnlag og praktisk informasjon til pasienten.

For tale-til-utkast sier Helsedirektoratets faktaark at det ikke er nødvendig å be pasienten om samtykke til bruk i journalføringen, men pasienten bør informeres om opptak og KI-bruk. Hvis pasienten ikke ønsker at verktøyet brukes, bør helsepersonellet ta hensyn til det og føre journal på vanlig måte.

Informasjonen bør være enkel:

• Vi bruker et KI-verktøy som hjelper med journalnotatet.
• Verktøyet erstatter ikke min vurdering.
• Jeg leser gjennom og godkjenner teksten før den lagres.
• Du kan be om at vi ikke bruker det i denne timen.
• Data behandles etter våre rutiner for taushetsplikt og personvern.

Se også guiden om pasientsamtykke og KI-opptak hvis dere trenger tekst til venterom, nettside eller muntlig forklaring.

Hva dataansvarlig bør spørre leverandøren om

Send spørsmålene skriftlig. Be om korte, konkrete svar.

Spørsmål om data

1. Hvilke pasientdata behandles i løsningen?
2. Hvor behandles og lagres data fysisk?
3. Hvor lenge lagres lyd, råtekst, dokumenter, spørsmål, svar og logger?
4. Brukes noe av dette til modelltrening, evaluering eller produktforbedring?
5. Hvilke underleverandører brukes, og i hvilke land?
6. Hvordan dokumenteres sletting?

Spørsmål om kvalitet

1. Hvilke feil er vanlige i løsningen?
2. Hvordan skal legen kontrollere utkastet?
3. Viser verktøyet kilder ved journalsøk og skjemautkast?
4. Hva skjer ved bakgrunnsstøy, flere stemmer eller utydelig tale?
5. Hvordan varsles kunder ved modellendringer?

Spørsmål om ansvar

1. Hvem er databehandler?
2. Hvem er underdatabehandler?
3. Hvilken dokumentasjon får vi til DPIA?
4. Hvordan bistår dere ved avvik?
5. Hva er produktets tiltenkte formål og CE-vurdering?

Svar som "dette er sikkert" eller "vi følger GDPR" er ikke nok. Be om dokumenter, ikke slagord.

Røde flagg som bør stoppe utprøvingen

Stopp opp hvis leverandøren ikke kan svare på disse punktene:

• hvor data lagres
• om pasientdata brukes til modelltrening
• hvem underleverandørene er
• hvor lenge rådata lagres
• om det finnes databehandleravtale
• hvordan legen skal kvalitetssikre
• om verktøyet er dokumentasjonsstøtte eller beslutningsstøtte
• hvordan avvik håndteres

Stopp også hvis verktøyet gjør mer enn dere ba om. Et verktøy som skulle lage journalnotat, men begynner å foreslå diagnose eller behandling, har et annet risikobilde enn det dere vurderte.

Slik får du et ja uten å overselge

Fastleger er vant til at gode verktøy dør i intern godkjenning. Ofte skyldes det ikke motvilje mot teknologi. Det skyldes at vurderingen kommer for sent.

Ta med dataansvarlig tidlig. Vis den konkrete arbeidsflyten. Start med én avgrenset bruk: for eksempel transkribering, journalsøk før L40 eller utkast til NAV-skjema. Samle dokumentene før første møte. Lag en utprøving med tydelig stoppunkt.

Bruk kundespråket som faktisk treffer: "Tidstyven er å lete seg gjennom historien til pasienten." Hvis verktøyet løser den tidstyven, er det verdt å vurdere. Men det må løses på en måte som tåler personvern, klinisk kontroll og en travel fastlegehverdag.

Ofte stilte spørsmål om KI-verktøy på legekontoret

Må alle på kontoret være enige før utprøving?

Nei, men utprøvingen bør være forankret hos dataansvarlig og ledelsen. Start med få brukere. Ikke åpne verktøyet for hele kontoret før dere har testet arbeidsflyt, kvalitet og risiko.

Kan vi teste uten pasientdata først?

Ja. Det bør dere gjøre. Start med testdata, fiktive saker eller anonymiserte eksempler. Reell pasientdata bør først brukes når databehandleravtale, risikovurdering og lokal godkjenning er på plass.

Er databehandleravtale nok?

Nei. Databehandleravtale er nødvendig når leverandøren behandler pasientdata på vegne av legekontoret, men den er bare én del. Dere må også ha risikovurdering, ofte DPIA, pasientinformasjon, sikkerhetsrutiner og rutine for kvalitetssikring.

Hva hvis dataansvarlig sier nei?

Be om konkret begrunnelse. Mangler det dokumentasjon, kan leverandøren ofte svare. Er risikoen reell, bør utprøvingen stoppes eller avgrenses. Et nei kan også bety "ikke ennå", ikke "aldri".

Hva er forskjellen på å velge og å godkjenne KI-verktøy?

Å velge handler om funksjon, pris og arbeidsflyt. Å godkjenne handler om ansvar, dataflyt, risiko, avtaler og rutiner. Start gjerne med sjekklisten for KI-verktøy på legekontoret, og bruk denne guiden når verktøyet skal gjennom intern godkjenning.