EUs AI-forordning og norsk helsevesen: Det du må vite

EUs forordning om kunstig intelligens – ofte kalt AI Act – trer i kraft i 2026. Som EØS-land vil Norge implementere dette regelverket, og det vil få konsekvenser for alle som bruker AI-verktøy i helsesektoren.

Hva er AI Act?

AI Act er verdens første omfattende regulering av kunstig intelligens. Forordningen klassifiserer AI-systemer etter risiko og stiller krav basert på hvilken kategori et system faller inn under.

For helsesektoren er dette særlig relevant fordi mange AI-verktøy som brukes med pasienter, klassifiseres som høyrisikosystemer.

Risikoklassene

AI Act opererer med fire risikonivåer:

Uakseptabel risiko (forbudt)

AI-systemer som anses å utgjøre en klar trussel mot sikkerhet, livelihood og rettigheter. Disse er forbudt.

Høy risiko

AI-systemer som brukes i kritiske områder som helse, utdanning og rettsvesen. Disse er tillatt, men med strenge krav til dokumentasjon, testing og overvåking.

Begrenset risiko

Systemer med transparenskrav, for eksempel chatboter som må opplyse at de er AI.

Minimal risiko

De fleste AI-systemer, som kan brukes fritt.

Hva betyr dette for terapeuter?

Hvis du bruker AI-verktøy i din praksis, er det viktig å forstå hvor de plasseres i dette hierarkiet.

Transkribering og journalføring

AI-verktøy som transkriberer samtaler og genererer journalutkast, vil trolig klassifiseres som høyrisikosystemer fordi de behandler sensitive helsedata.

Dette betyr at leverandøren må:

• Dokumentere hvordan systemet fungerer
• Gjennomføre risikovurderinger
• Sikre menneskelig tilsyn
• Ha systemer for kvalitetskontroll

For deg som bruker betyr det at du må velge leverandører som tar disse kravene på alvor.

Diagnostiske verktøy

AI-verktøy som gir diagnostiske vurderinger eller behandlingsforslag, vil ha enda strengere krav. Disse må ha CE-merking og godkjenning som medisinsk utstyr.

Lærdommer fra Kipler-saken

I 2024 avslørte VG at AI-verktøyet Kipler genererte psykiatriske vurderinger uten nødvendig CE-godkjenning. Systemet ble raskt trukket fra markedet.

Denne saken illustrerer hvor viktig det er å:

• Forstå hva AI-verktøyet faktisk gjør
• Sjekke at leverandøren har nødvendige godkjenninger
• Ikke bruke AI til formål det ikke er godkjent for

Personvernhensyn

AI Act kommer i tillegg til GDPR, ikke i stedet for. Du må fortsatt:

• Ha behandlingsgrunnlag for å behandle helsedata
• Informere klienter om bruk av AI
• Sikre at data lagres og behandles trygt

Et viktig poeng: Ved bruk av tale-til-tekst-funksjonalitet deler du potensielt hele pasientsamtaler med tredjeparter. Velg derfor løsninger som:

• Lagrer data på norske eller europeiske servere
• Sletter opptak etter transkribering
• Ikke bruker dataene til å trene AI-modeller

Slik forbereder du deg

1. Kartlegg AI-bruken din

Hvilke AI-verktøy bruker du i dag? Forstår du hvordan de fungerer og hvor dataene går?

2. Velg seriøse leverandører

Leverandører som tar regulering på alvor, vil ha dokumentasjon tilgjengelig og kunne svare på spørsmål om compliance.

3. Hold deg oppdatert

Regelverket er nytt, og det vil komme veiledning og presiseringer. Følg med på nyheter fra Datatilsynet og bransjeorganisasjoner.

4. Snakk med klientene

Vær åpen om at du bruker AI-verktøy, og forklar hvordan det bidrar til bedre behandling uten å kompromittere personvernet.

Muligheter, ikke bare begrensninger

AI Act er ikke bare begrensninger – det er også en kvalitetsgaranti. Leverandører som følger regelverket, har gjort grundig arbeid med sikkerhet og kvalitet.

For deg som terapeut betyr det at du kan bruke AI-verktøy med større trygghet, vel vitende om at de har gjennomgått nødvendige vurderinger.

Fremtiden for AI i helsevesenet er lovende – men den krever at vi gjør det riktig.