Kan lovgivningen følge med AI?

Gennem det seneste år har de fleste af os stiftet bekendtskab med AI. Og for mange af os bliver tjenester som ChatGPT, Bing Chat og Microsoft Copilot snart et naturligt redskab i hverdagen, der vil hjælpe os med at opnå større effektivitet, forbedret kvalitet, personalisering af tjenester, bedre brugeroplevelser, øget kundeloyalitet og færre menneskelige fejl.

Men kunstig intelligens rejser også mange nye juridiske spørgsmål og udfordringer. Det gælder derfor om at være vågen, når din virksomhed anvender den nye teknologi.

Modellerne mangler gennemsigtighed

Nogle modeller for kunstig intelligens kan være svære at gennemskue på grund af deres kompleksitet og uforudsigelighed i processen. Al bygger på algoritmer, men det kan være svært at gennemskue, hvilken proces der fører til resultatet. Manglen på gennemsigtighed og forståelse af, hvordan beslutninger træffes, er en stor udfordring, da det kan være svært at forklare og udfordre afgørelser, som er truffet af AI-systemer.

Ingen garanti for retfærdighed

AI-systemer kan i dag udføre visse juridiske og retlige opgaver. Men underlægges beslutninger baseret på kunstig intelligens ikke de samme garantier som menneskelige beslutninger, kan det underminere principper som retfærdig rettergang og ligebehandling for loven. Det meste output fra eksisterende systemer med kunstig intelligens leveres uden garantier af nogen art.

Beskyttelse af persondata og fortrolige oplysninger

Brugen af kunstig intelligens indebærer ofte behandling af store mængder personoplysninger og fortrolige oplysninger. Behandles disse data ikke forsvarligt og beskyttes tilstrækkeligt, kan brugen af kunstig intelligens føre til brud på GDPR og aftaler eller lovreguleret fortrolighed. Manglende regulering og standarder Den hurtige udvikling af AI-baseret teknologi betyder, at området mangler regulering og standarder. EU har først nu offentliggjort udkast til de afgørende retsakter for området, og der er fortsat stor usikkerhed om den endelige udformning af reguleringen. I EU debatterer de fx stadig noget så grundlæggende som en definition af begrebet kunstig intelligens.

Beskyttelse af ophavsretten

Materiale produceret af AI har generelt ikke ophavsretlig beskyttelse, medmindre der er en menneskelig medskaber, der har udøvet en personlig og kreativ indsats. Det skyldes, at ophavsretten kræver et originalt værk, der udtrykker et menneskes personlighed. Kunstig intelligens er ikke et menneske, og derfor kan den ikke have ophavsret over sit output. 

Der er dog nogle undtagelser og nuancer i lovgivningen, som kan påvirke ophavsretten til materiale produceret ved brug af AI. For eksempel er der i EU vedtaget et nyt ophavsretsdirektiv, DSM-direktivet, som giver visse rettig heder til visuelle kunstnere, hvis deres værker bliver brugt til at træne kunstig intelligens. Direktivet giver også forskere bredere adgang til at dataminere ophavsretligt beskyttede værker til forskningsformål.

Et andet ophavsretsligt aspekt er, at der i træningen af AI- systemer kan være brugt ophavsretligt beskyttet indhold, som ikke må kopieres eller tilgængeliggøres uden sam tykke fra ophavsmanden. Der er derfor en risiko for, at der ved benyttelse af AI sker en krænkelse af ophavs retten.

AI's uigennemskuelige beregningsmodel

AI-systemernes manglende transparens betyder, at vi har væsentligt begrænset mulighed for at forstå, hvordan de kommer frem til et resultat. Det gør det svært at sikre, at borgeres rettigheder og retsgarantier bliver overholdt. Det er derfor vigtigt, at vi altid forholder os kritisk til resultatet, så vi kan udfordre det og eventuelt bremse en forkert beslutning.

AI har forudindtagethed

Output af den kunstige intelligens afhænger i vid udstrækning af, hvilke data den er trænet på. Forudindtagethed eller bias kan ofte spores tilbage til algoritmens input og skyldes misvisende repræsentation eller en utilstrækkelig kvalitet i træningsdata. Er udbyderne ikke påpasselige med at bruge de rette data til at træne den kunstige intelligens, kan den ende med at diskriminere i sine svar.

Hvordan kommer vi sikkert i gang med AI-baserede systemer?

Der er god grund til at tænke sig godt om, før din virksomhed integrerer kunstig intelligens i jeres processer. Vi anbefaler blandt andet, at I udvikler en politik for brugen af kunstig intelligens i virksomheden. Her kan I fx beskrive, hvilke AI-systemer I vil anvende til hvilke formål og opstille regler for brugen af dem. Det kan fx være krav om, at output altid skal kontrolleres af et menneskeligt øje, og hvordan I undgår brud på ophavsrettigheder.

Hvis din virksomhed bruger personoplysninger i forbindelse med den kunstige intelligens, skal I være særlig forsigtige, medmindre systemerne er lukkede, så personoplysningerne ikke bliver en del af læringsdata i den kunstige intelligens.