Din support-chatbot svarer borgeren klokken 23 om aftenen. Borgeren tror, det er et menneske. Det er det ikke, og det skal borgeren vide. Artikel 50 i AI-forordningen (EU AI Act) kræver, at en person oplyses, når de interagerer med et AI-system, medmindre det er åbenlyst. Vil I have AI-forordningen forklaret specifikt for danske virksomheder, har vi en dybdegående guide til det. Grænsen er enkel: foreslår AI et svar, som en medarbejder læser, retter og sender, taler borgeren med et menneske. Sender systemet svaret selv, er der oplysningspligt. Den grænse skal stå i jeres retningslinjer, før nogen flytter den. En mere dybdegående praktisk guide til mærkning af AI-genereret indhold kan hjælpe jer med at navigere de specifikke krav i artikel 50.
Hovedpointer
- Artikel 50 i AI-forordningen kræver oplysning, når en person interagerer med et AI-system, og det ikke er åbenlyst.
- Foreslår AI et udkast, som et menneske godkender og sender, er afsenderen et menneske. Ingen oplysningspligt.
- Sender chatbotten svaret selv uden menneskelig gennemgang, skal borgeren oplyses.
- Grænsen bør skrives ind i jeres AI-politik eller retningslinjer nu, så den holder den dag, I automatiserer mere.
- En tjekliste i otte punkter kan bruges, inden I sætter en chatbot live.
Indholdsfortegnelse
- De to situationer: AI foreslår vs. AI svarer
- Hvad betyder "åbenlyst"?
- Sådan formulerer I oplysningen
- Skriv princippet ind i jeres politik nu
- Tjekliste: otte punkter før I sætter en chatbot live
De to situationer: AI foreslår vs. AI svarer
Forskellen er nem at forstå og svær at glemme, når den først sidder.
Situation 1: AI foreslår, mennesket sender. En kundeservicemedarbejder får et AI-genereret svarudkast i sit system. Hun læser det, retter en formulering, tjekker et ordrenummer og trykker send. Borgeren taler med hende. AI er et internt værktøj, ligesom stavekontrol eller en skabelon. Der er ingen oplysningspligt efter artikel 50.
Situation 2: AI svarer direkte. En chatbot på jeres hjemmeside modtager borgerens spørgsmål og sender et svar uden menneskelig gennemgang. Borgeren interagerer med et AI-system. Her kræver artikel 50, at borgeren oplyses.
Forestil dig en kundeservicechef med 15 medarbejdere, der svarer på de samme 50 spørgsmål hver dag. Når hun lader AI foreslå svar, som medarbejderne tilpasser, er det situation 1. Den dag hun sætter en chatbot til at håndtere de 20 mest stillede spørgsmål uden menneskelig mellemkomst, skifter hun til situation 2.
Herunder ses de to situationer samlet, så I nemt kan afgøre, hvilken der gælder for jeres setup:
| Situation 1: AI foreslår | Situation 2: AI svarer | |
|---|---|---|
| Hvem sender svaret? | Et menneske | Et AI-system |
| Menneskelig gennemgang? | Ja, altid | Nej |
| Oplysningspligt? | Nej | Ja |
| Typisk eksempel | Medarbejder retter AI-udkast og sender | Chatbot svarer automatisk på hjemmeside |
| AI-forordningens status | Internt værktøj | Direkte borgerinteraktion |
Hvad betyder "åbenlyst"?
"Åbenlyst" betyder ikke, hvad de fleste tror, og fejlfortolkningen er jeres risiko.
Artikel 50 indeholder en undtagelse: oplysningspligten gælder ikke, når det er "åbenlyst" for en rimelig opmærksom person, at de interagerer med AI. Et chatvindue, der hedder "AI-assistent" og tydeligt er en bot, kan falde under den undtagelse.
Men "åbenlyst" er en høj standard. Her er tre eksempler på, hvad der sandsynligvis henholdsvis opfylder og ikke opfylder kravet:
Opfylder sandsynligvis "åbenlyst":
- Chatvinduet hedder "AI-bot" og er visuelt adskilt fra menneskelig support
- Den første besked lyder: "Hej, jeg er en chatbot og kan hjælpe dig med…"
- Hele konteksten, fx en FAQ-automatisering på en techvirksomheds side. gør det tydeligt
Opfylder sandsynligvis ikke "åbenlyst":
- Chatvinduet hedder "Kundeservice" eller har et menneskeklingende navn som "Mia"
- Designet ligner en menneskelig chatfunktion
- Borgeren henvender sig med en følsom sag og forventer menneskelig kontakt
Vores anbefaling er enkel: oplys altid. Det koster ingenting, det skaber tillid, og det fjerner enhver tvivl om, hvorvidt I overholder forordningen. En enkelt sætning gør det.
Sådan formulerer I oplysningen
Oplysningen behøver ikke være juridisk. Den skal være klar. Her er tre formuleringer, I kan kopiere og tilpasse direkte:
"Du chatter med vores AI-assistent. Den kan hjælpe med de fleste spørgsmål. Vil du tale med et menneske, skriver du 'medarbejder'."
"Denne samtale besvares af et AI-system. Svarene er baseret på vores vejledninger, men et menneske har ikke gennemgået dette specifikke svar."
"Bemærk: du taler med en chatbot. Har du brug for personlig hjælp, kan du ringe til os på [telefonnummer]."
Placering er lige så vigtig som ordlyden. Placer oplysningen som den første besked i chatvinduet, ikke gemt i en footer eller i vilkårene. Borgeren skal se den, før hun skriver sit spørgsmål. En oplysning, borgeren ikke har set, er juridisk set ingen oplysning.
Undgå disse tre fejl, som vi ser igen og igen:
- Oplysning kun i privatlivspolitikken. Det er ikke tilstrækkeligt. Borgeren skal oplyses aktivt i selve interaktionen.
- Oplysning efter første svar. Borgeren skal vide det, inden samtalen begynder, ikke halvvejs inde i den.
- Uklar formulering som "vores digitale løsning". "AI-system" eller "chatbot" er de ord, der fjerner tvivl.
Skriv princippet ind i jeres politik nu
Mange organisationer starter med situation 1 og bevæger sig gradvist mod situation 2. uden en bevidst beslutning. Nogle opdager, at chatbotten klarer de simple spørgsmål fint, og pludselig kører den uden opsyn. Det er ikke en teknisk fejl. Det er en styringssvigt.
Derfor skal grænsen stå i jeres AI-politik eller retningslinjer, inden det sker. Vi anbefaler en formulering i stil med:
"AI-systemer, der kommunikerer direkte med borgere, kunder eller brugere uden menneskelig gennemgang af det konkrete svar, skal oplyse modtageren om, at svaret kommer fra et AI-system. Ændringer i graden af automatisering skal godkendes af [rolle/funktion]."
Indsæt en konkret rolle, ikke "ledelsen", men "Head of Customer Service" eller "juridisk ansvarlig". Uden et navn er formuleringen en hensigtserklæring, ikke en kontrol. Har I brug for en AI-politik skabelon til jeres organisation, kan I finde den her.
Tjekliste: otte punkter før I sætter en chatbot live
Brug denne tjekliste, inden I sætter en chatbot i drift. Hvert punkt er formuleret som en konkret handling, ikke et princip.
- Afgør om chatbotten svarer direkte eller foreslår svar til en medarbejder. Skriv svaret ned. Hvis I er i tvivl, er det situation 2.
- Formulér en klar oplysning til brugeren. Brug en af de tre skabeloner ovenfor, eller skriv jeres egen med ordene "AI-system" eller "chatbot" eksplicit.
- Placér oplysningen som den første besked i chatvinduet. ikke i footer, ikke i vilkår, ikke som besked nummer to.
- Giv brugeren en konkret vej til et menneske. Skriv hvilken kanal (telefon, e-mail, fysisk henvendelse) og hvornår den er tilgængelig.
- Skriv grænsen mellem "AI foreslår" og "AI svarer" ind i jeres retningslinjer med den anbefalede formulering fra afsnittet ovenfor.
- Definér hvem der godkender en ændring i automatiseringsgraden. navn eller funktion, ikke blot "ledelsen".
- Test om oplysningen faktisk vises på alle platforme: web, app og mobil. Klik igennem som en borger uden forudkendskab til jeres system.
- Sæt en kalenderaftale til gennemgang hvert halve år, hvor I vurderer om chatbottens rolle har ændret sig i praksis siden sidst.
Skabelonen er et arbejdsredskab, ikke juridisk rådgivning. Har I brug for en vurdering af jeres specifikke setup, bør I involvere en jurist.
Ofte stillede spørgsmål
Bruno Poulsen er partner i Poulsen & Vinding, et konsulenthus der hjælper danske virksomheder og styrelser med at tage generativ AI i brug i den daglige drift. Han har undervist hos Bigum&Co i mere end 10 år og har siden 2023 stået bag AI-implementeringer, foredrag og workshops for blandt andre Lægemiddelstyrelsen, GS1 Danmark, Bornholms Højskole og 30+ bornholmske SMV’er via Business Center Bornholm. Skriver om praktisk anvendelse af AI-værktøjer, prompt engineering og hvordan ledelser kommer i gang mandag morgen kl. 08.00.
