Nye retningslinjer for brug af AI i forbrugeraftaler

For at imødekomme disse udfordringer satte European Law Institute (ELI) et projekt i gang med det formål at styrke retssikkerheden og fremme innovation. Projektet udviklede retningslinjer og modelregler for anvendelsen af AI i forbrugerkontrakter. Fra marts 2022 til februar 2025 undersøgte projektet, hvordan EU’s forbrugerret kan tilpasses automatiserede beslutningssystemer (ADM), og hvordan kommende regler bør udformes.

Projektet havde to hovedformål:

1. At vurdere, hvorvidt den eksisterende EU-forbrugerret er tilstrækkelig. 
2. At identificere juridiske huller og nødvendige tiltag for at understøtte brugen af AI i kontrakter i både B2C- og C2B-forhold. 

Projektet adresserede både automatiseret og autonom kontrakts indgåelse og sigtede mod at sikre, at AI-assisterede transaktioner sker inden for en klar, forudsigelig og ansvarlig ramme.

Første fase

I december 2023 udgav projektgruppen ELI Interim Report on EU Consumer Law and Automated Decision-Making. Rapporten præsenterer otte overordnede principper, som bør danne grundlag for tilpasningen af EU’s forbrugerret til ADM. Rapporten analyserer desuden centrale direktiver og vurderer deres evne til at håndtere ADM. Endelig kommer rapporten med forslag til, hvordan fremtidig lovgivning bedre kan integrere ADM.

Anden fase

I anden fase udarbejdede ELI dokumentet Guiding Principles and Model Rules on Digital Assistants for Consumer Contracts. Det fastsætter både generelle principper og konkrete krav til, hvordan man bør designe digitale assistenter. Dokumentet behandler blandt andet:

• Leveringsvilkår og kontraktmæssige rammer for digitale assistenter
• Juridisk regulering af algoritmiske kontrakter
• Fordeling af ansvar mellem leverandører og tredjeparter
• Særlige forpligtelser for virksomheder afhængigt af størrelse

Modelreglerne forsøger at skabe en balance mellem behovet for innovation og kravene om ansvarligt design, gennemsigtighed og retlig sikkerhed i AI-baserede forbrugeraftaler.

Du kan finde mere information på ELI’s hjemmeside.

De 8 principper

Guiding Principles i ELI’s modelregler (DACC) om digitale assistenter for forbrugeraftaler indeholder otte principper: 

1. Handlinger fra en digital assistent tilskrives brugeren: Brugeren hæfter for de handlinger, den digitale assistent udfører på deres vegne, med visse begrænsninger.
2. Forbrugerretten gælder også for kontrakter indgået via digitale assistenter: Almindelige regler om forbrugerbeskyttelse finder stadig anvendelse, selv når kontrakten er automatiseret.
3. Pligten til at give forudgående information gælder fortsat: Virksomheder skal stadig oplyse forbrugeren korrekt før en aftale, også selvom det sker gennem en digital assistent.
4. Ingen retlige barrierer for brug af digitale assistenter: Det skal være lovligt at anvende digitale assistenter, og deres brug må ikke fratage kontrakten dens gyldighed.
5. Begge parter skal oplyse, hvis de bruger en digital assistent: Gennemsigtighed om, hvem der bruger AI i kontraktindgåelsen, er et krav.
6. Digitale assistenter må ikke manipuleres: Design og funktion må ikke udnytte forbrugeren eller fordreje beslutningsgrundlaget.
7. Forbrugeren skal bevare kontrol: Brugeren skal kunne ændre parametre, standse kontrakter og deaktivere assistenten.
8. Interessekonflikter skal oplyses: Hvis der kan være en skjult fordel for en tredjepart, skal det fremgå tydeligt for forbrugeren

Læs retningslinjerne her. 

LES’ kommentarer

Projektet udgør et vigtigt skridt i arbejdet med at integrere AI i europæisk kontraktret.

Ved at formulere en juridisk ramme, som både muliggør teknologisk udvikling og beskytter forbrugerne, bidrager ELI til at forme fremtidens digitale markedsplads.

I LES følger vi udviklingen på dette nye og komplekse retsområde tæt. Har du spørgsmål til ovenstående eller brug for juridisk rådgivning om AI i øvrigt kan du kontakte partner og IT-advokat Torsten Hylleberg.