Introduktion til AI-forordningen – europæisk regulering af kunstig intelligens

Kort om AI-forordningen

I december 2023 blev der opnået politisk enighed om EU's kommende regler for kunstig intelligens: AI-forordningen. Forordningen opdeler AI-brug i fire lag: Forbudt brug, højrisiko brug, krav til generelle AI-modeller og transparenskrav.

Forsikring er sat på listen over høj risikobrug. Resultatet vil være, at visse forsikrings-scenarier (forventeligt risk assessment og pricing i relation til health and life insurance) underlægges højrisiko-kravene.

Man arbejder i disse dage på at færdiggøre forordningens endelige tekst, som formelt skal vedtages, inden forordningen kan træde i kraft.

Det forventes, at vi står med en endelig tekst i starten af februar. Herefter går der 2 år, før størstedelen af kravene i forordningen træder i kraft. 
Det er dermed lige om lidt, at forordningens regler skal implementeres i forhold til drift og udvikling af AI.

Om AI-forordningen

AI-forordningen fastlægger forpligtelser for udviklere og brugere (deployers) af kunstig intelligens afhængigt af risikoen forbundet med anvendelsen af systemet. Størstedelen af kravene lægges på udviklerne.

Forordningen inddeler AI-brug i fem lag: 

• Uacceptabel risiko (forbud)
• Høj risiko (strenge krav forud for markedsføring)
• Generelle AI-modeller (transparens krav)
• Begrænset risiko (transparens krav).
• Øvrig AI-brug (ingen krav)

Da det er en forordning, gælder den fra anvendelsesdatoen i alle EU-lande.
 

Uacceptabel risiko:

AI-systemer med uacceptabel risiko anses for at udgøre en trussel mod mennesker og vil blive forbudt. Dette inkluderer:

• Direkte adfærdsmanipulation af personer eller specifikke sårbare grupper.
• Social scoring: Klassificering af mennesker baseret på adfærd, socioøkonomisk status eller personlige karakteristika
• Biometrisk identifikation og kategorisering af personer på baggrund af særligt følsomme karakteristika.
• Realtids- og fjernbiometriske identifikationssystemer, såsom ansigtsgenkendelse, med henblik på retshåndhævelse. 
  Nogle undtagelser kan tillades af hensyn til borgernes sikkerhed. 

Høj risiko:

AI-systemer på områder, der udpeges som højrisiko, skal leve op til specifikke krav og CE-mærkes. Der er - efter selvvurdering - mulighed for undtagelse af konkrete brugsscenarier, som reelt ikke er højrisiko.
Høj risiko-områderne dækker eksempelvis:

• Udvalgte forsikrings-scenarier
• Styring og drift af kritisk infrastruktur
• Retspleje
• Migration, asyl og grænsekontrol
• AI-systemer, der bruges i produkter omfattet af EU's lovgivning om produktsikkerhed. 
  Dette inkluderer legetøj, luftfart, biler, medicinske apparater og elevatorer.

Systemer og modeller til generelle formål:

AI-systemer som kan bruges på tværs af flere scenarier samt generativ AI, som f.eks. ChatGPT, skal overholde gennemsigtighedskrav:

• Det skal fremgå, at indholdet blev genereret af AI
• Der skal offentliggøre opsummeringer af ophavsretligt beskyttet data brugt til træning
• Derudover skal generelle modeller, der kan udgøre systemisk risiko på det indre marked gennemgå grundige evalueringer, og alvorlige hændelser skal rapporteres til Europa-Kommissionen.

Begrænset risiko:

AI-systemer med begrænset risiko skal overholde gennemsigtighedskrav, der giver brugerne mulighed for at træffe informerede beslutninger. Brugerne skal informeres, når de interagerer med AI. Dette inkluderer AI-systemer, der genererer eller manipulerer billede-, lyd- eller videoindhold.