Din kollega foreslår at bruge ChatGPT til at opsummere patienthenvendelser. Du tænker: "Det lyder smart, men må vi overhovedet det?" Godt instinkt. For i sundhedssektoren er konsekvensen af et fejltrin ikke bare en irriteret kunde. Det er et brud på persondataforordningen og potentielt et svigt af et menneske, der har betroet jer sine helbredsoplysninger. Denne guide giver dig en konkret ramme for at bruge AI-værktøjer trygt, uden at gamble med patientdata.
Indholdsfortegnelse
- Hvorfor patientdata er i en helt særlig risikoklasse
- Tre spørgsmål du skal stille, før du bruger et AI-værktøj
- Sådan ser en tryg arbejdsgang ud i praksis
- Den usynlige fælde: metadata og kontekst
- Hvad gør du, hvis noget er gået galt?
- Kom trygt i gang uden at gå i stå
Hvorfor patientdata er i en helt særlig risikoklasse
Helbredsoplysninger er det, GDPR kalder "følsomme personoplysninger" (artikel 9). Det er den højeste beskyttelsesklasse. Hvor en lækket mailadresse er ærgerlig, kan en lækket diagnose ødelægge et menneskes liv: forsikringer kan afvises, ansættelsesforhold kan påvirkes, og den blotte eksponering af en psykiatrisk diagnose eller en seksuelt overførbar sygdom kan have sociale konsekvenser, der ikke lader sig fortryde.
Problemet med de fleste AI-værktøjer er, at de fungerer som en skytjeneste. Når du skriver noget ind i et chatvindue, forlader data din organisation. Det er præcis her, det bliver kritisk.
Tænk på det sådan: Hvis du sendte et brev med en patients journal til en ukendt adresse uden returkvittering, ville ingen acceptere det. Men det er reelt, hvad der sker, når man kopierer patientdata ind i et AI-værktøj uden en databehandleraftale.
Tre spørgsmål du skal stille, før du bruger et AI-værktøj
Før du overhovedet åbner et værktøj, skal du kunne svare "ja" til alle tre. Hvis ét svar er "måske" eller "ved ikke", er du ikke klar.
1. Har vi en databehandleraftale med udbyderen?
Uden den er det ulovligt at sende personhenførbare data til tjenesten. Punkt.
En databehandleraftale (DBA) fastlægger præcist, hvad udbyderen må gøre med dine data, hvornår de slettes, og hvem der har ansvaret ved et brud. Gratisversionen af de fleste AI-tjenester indeholder ikke en DBA. Det gælder bl.a. den gratis udgave af ChatGPT.
Eksempler på, hvornår en DBA typisk er tilgængelig:
- ChatGPT Enterprise eller ChatGPT Team – OpenAI tilbyder DBA og slår træning fra som standard
- Microsoft Copilot via en eksisterende Microsoft 365-aftale med en tilhørende databehandleraftale
- Azure OpenAI Service – kræver opsætning, men data bruges ikke til modeltræning og forlader ikke din lejer
Eksempler på, hvornår en DBA typisk ikke er tilgængelig:
- ChatGPT gratis (chat.openai.com uden virksomhedskonto)
- Gratis versioner af Claude, Gemini og lignende, medmindre du har indgået en separat aftale
Tjek hos jeres DPO eller juridiske afdeling, hvilke aftaler I allerede har på plads.
2. Bliver data brugt til træning af modellen?
Mange gratis AI-tjenester bruger dine input til at forbedre deres system. Det betyder, at patientens oplysninger potentielt indgår i fremtidige svar til andre brugere.
Sådan tjekker du det i de mest brugte tjenester:
- ChatGPT (gratis): Gå til Indstillinger → Databeskyttelse → slå "Forbedre modellen for alle" fra. Bemærk: dette skal gøres manuelt og gælder ikke retroaktivt.
- ChatGPT Enterprise/Team: Træning er slået fra som standard. Verificer i jeres kontoindstillinger.
- Microsoft Copilot (work-konto): Data bruges som udgangspunkt ikke til global modeltræning, men tjek jeres specifikke licensbetingelser.
- Google Gemini (privat konto): Samtaler kan som udgangspunkt bruges til produktforbedring. Slå det fra under Google-kontoindstillinger → Data og privatliv.
Tommelfingerreglen: Antag at træning er slået til, indtil du aktivt har bekræftet det modsatte.
3. Kan vi anonymisere først?
Hvis svaret på de to første spørgsmål er usikkert, så fjern alle personhenførbare oplysninger, før data rører værktøjet.
Det skal ud:
- Navn
- CPR-nummer
- Adresse og postnummer
- Fødselsdato
- Telefonnummer og e-mail
- Behandlende læge eller afdeling, hvis det kan henføre til patienten
- Kombinationer der tilsammen kan identificere en person (se næste sektion)
Det er ikke nok at ændre navnet. "Patienten" i stedet for "Kirsten Hansen" er stadig ikke anonymiseret, hvis resten af konteksten gør personen genkendelig.
Sådan ser en tryg arbejdsgang ud i praksis
Forestil dig en kundeservicechef i en regional sundhedsorganisation med 15 medarbejdere, der dagligt besvarer de samme 50 spørgsmål fra patienter om ventetider, henvisningsprocesser og medicinregler. Teamet drukner i gentagelser, og nogen foreslår: "Kan vi ikke bare lade AI skrive standardsvarene?"
Jo, det kan I. Her er den trygge opskrift:
Trin 1: Adskil person og proces.
Brug AI til at skrive generiske svarskabeloner baseret på jeres offentligt tilgængelige retningslinjer. Kopier aldrig en konkret patienthenvendelse ind i værktøjet. AI'ens opgave er at producere sproget. Medarbejderens opgave er at koble sproget til den konkrete patient i jeres eget sikre system.
Trin 2: Skriv en prompt der er ren for persondata.
Her er tre eksempler på prompts, I kan bruge direkte:
Eksempel 1 – ventetid på speciallæge:
"Du er en hjælpsom og præcis rådgiver i en dansk sundhedsorganisation. Skriv et venligt standardsvar til en borger, der spørger om ventetiden på en henvisning til speciallæge. Svaret skal nævne, at typisk ventetid er 2 til 4 uger, at patienten vil modtage brev fra hospitalet, og at de er velkomne til at kontakte os for status efter 10 hverdage. Tonen skal være varm og klar, uden fagord."
Eksempel 2 – spørgsmål om medicinliste:
"Du er en kommunikationsmedarbejder i et regionalt sundhedsvæsen. Skriv et standardsvar til en borger, der beder om en opdateret medicinliste. Svaret skal forklare, at borgeren kan tilgå sin medicinliste på sundhed.dk via NemID/MitID, og at de kan kontakte deres egen læge, hvis listen ikke er opdateret. Undgå at nævne specifikke medicinnavn eller diagnoser."
Eksempel 3 – klage over en oplevelse:
"Du er ansvarlig for patientkommunikation. Skriv et empatisk og professionelt svar til en borger, der har haft en negativ oplevelse med ventetid i en afdeling. Svaret skal anerkende borgerens frustration, forklare at klagen er registreret, og oplyse om retten til at indgive formel klage til Styrelsen for Patientklager (stpk.dk). Inkluder ikke nogen specifikke detaljer om hverken patienten eller hændelsen."
I alle tre eksempler er der nul persondata i prompten. Medarbejderen tilpasser udkastet til den konkrete patient bagefter, i jeres eget system.
Trin 3: Kvalitetstjek er ikke valgfrit.
AI kan formulere et svar, der lyder korrekt, men som er faktuelt forkert. I sundhedssektoren er det ikke bare pinligt. Det kan være farligt.
Sæt et fast godkendelsestrin ind i arbejdsgangen:
- Medarbejder genererer udkast med AI
- Medarbejder tilpasser til konkret patient i sikkert system
- Fagansvarlig eller teamleder godkender, inden svaret sendes, i de første 4 uger
- Efter 4 uger: stikprøvekontrol på 10 % af svarene
Det tager under 30 sekunder per svar og beskytter både patienten og jer.
Den usynlige fælde: metadata og kontekst
Selv data, du ikke tror er personhenførbar, kan være det i kombination. Det kaldes re-identifikation.
"58-årig kvinde fra Næstved med diabetes type 2 og nylig amputation" er teknisk set ikke et CPR-nummer. Men i en lille kommune med ét sygehus kan kombinationen af alder, køn, geografisk tilhørsforhold og diagnose være nok til, at en læser kan sætte et navn på personen.
Forskning i re-identifikation viser, at blot tre oplysninger. fødselsdato, postnummer og køn. er nok til at identificere op mod 87 % af den amerikanske befolkning entydigt. Danskere bor tættere og er registreret mere detaljeret. Risikoen er mindst lige så høj her.
Konkrete kombinationer du skal være ekstra opmærksom på:
| Enkeltoplysning | Ufarlig alene? | Farlig i kombination med |
|---|---|---|
| Postnummer | Ja | Alder + diagnose |
| Diagnose | Nej (i sig selv følsom) | Altid problematisk |
| Afdeling/speciallæge | Måske | Køn + alder + dato |
| Hændelsesdato | Ja | Geografi + behandlingstype |
| Etnicitet | Nej | Altid problematisk |
Tommelfingerreglen: Hvis du ville tøve med at skrive det på en post-it i en bus, hører det ikke til i et AI-chatvindue.
Hvad gør du, hvis noget er gået galt?
Selv med de bedste procedurer kan det ske: en medarbejder kopierer i afmagt en fuld patienthenvendelse ind i et AI-værktøj uden databehandleraftale. Nu er der et potentielt databrud.
Indenfor de første 24 timer:
- Dokumentér hændelsen: hvad blev sendt, hvornår, til hvilken tjeneste
- Kontakt jeres databeskyttelsesrådgiver (DPO) øjeblikkeligt
- Forsøg at slette samtalen i det relevante AI-værktøj, og dokumentér dette forsøg
Indenfor 72 timer:
GDPR artikel 33 kræver, at I anmelder bruddet til Datatilsynet, medmindre bruddet "sandsynligvis ikke indebærer en risiko for fysiske personers rettigheder og frihedsrettigheder." Med helbredsdata er den vurdering næsten altid, at risikoen er til stede. Anmeldelse sker på datatilsynet.dk. I skal kunne beskrive: hvad skete, hvilke data, hvilke patienter, sandsynlige konsekvenser og hvilke tiltag I har iværksat.
Overvej patientbesked:
Hvis bruddet sandsynligvis indebærer høj risiko for den berørte patient, skal I også underrette patienten direkte (GDPR artikel 34).
At lade være med at anmelde et brud er som regel langt farligere end at anmelde det. Datatilsynet ser mere alvorligt på forsøg på at skjule hændelser end på selve fejlen.
Kom trygt i gang uden at gå i stå
Det værste, du kan gøre, er at forbyde AI helt og lade medarbejderne finde egne løsninger i det skjulte. Det næstværste er at rulle det ud uden retningslinjer.
En firetrinsplan til de næste 30 dage:
Uge 1: Kortlæg hvilke AI-værktøjer medarbejderne allerede bruger, officielt og uofficielt. Du har sandsynligvis et shadow-IT-problem, du ikke kender omfanget af.
Uge 2: Afklar med DPO og juridisk afdeling hvilke tjenester I allerede har databehandleraftaler med. Det er ofte Microsoft-familien, men tjek de specifikke produkter og licenstyper.
Uge 3: Definer ét godkendt use case, vælg ét godkendt værktøj, skriv tre til fem standardprompts som i eksemplerne ovenfor, og test dem med en gruppe på tre til fem medarbejdere. Ingen persondata i denne fase.
Uge 4: Saml feedback, juster promptsene, og skriv en ensidig vejledning med de godkendte prompts, de forbudte handlinger og kontaktpersonen for spørgsmål. Distribuér den på jeres intranet.
AI er ikke farligt for patientdata, hvis I bruger det rigtigt. Det farlige er usikkerhed, der fører til enten frygt eller uforsigtig improvisation.
Ofte stillede spørgsmål
Bruno Poulsen er partner i Poulsen & Vinding, et konsulenthus der hjælper danske virksomheder og styrelser med at tage generativ AI i brug i den daglige drift. Han er senior underviser hos Bigum&Co gennem 10+ år og har siden 2023 stået bag AI-implementeringer, foredrag og workshops for blandt andre Lægemiddelstyrelsen, GS1 Danmark, Bornholms Højskole og 30+ bornholmske SMV’er via Business Center Bornholm. Skriver om praktisk anvendelse af AI-værktøjer, prompt engineering og hvordan ledelser kommer i gang mandag morgen kl. 08.00.
