Rett fram å påberope seg unntak for et høyrisiko-system
- Ley Muller
- May 26
- 2 min read
Virker det urimelig at et KI-system som er designet for sikkerhet skal klassifiseres som «høyrisiko»?
Du kan påberope deg et unntak – som fjerner alle unntatt én av leverandørforpliktelsene dine.
De nyeste utkastene til retningslinjer fra Europakommisjonen forklarer hvordan.
Start her:
1️⃣ Kan dette KI-systemet sette noens grunnleggende rettigheter i fare?
Omfanget av de negative konsekvensene et KI-system kan ha for de grunnleggende rettighetene som er beskyttet av charteret, er særlig relevant når et system klassifiseres som høyrisiko. Disse rettighetene inkluderer retten til menneskelig verdighet, respekt for privatliv og familieliv, beskyttelse av personopplysninger, ytrings- og informasjonsfrihet, forsamlings- og foreningsfrihet, retten til ikke-diskriminering, retten til utdanning, forbrukerbeskyttelse, arbeidstakerrettigheter, rettigheter for personer med nedsatt funksjonsevne, likestilling, immaterielle rettigheter, retten til effektive rettsmidler og en rettferdig rettergang, retten til forsvar og uskyldspresumsjonen, samt retten til god forvaltning.
KI-forordningen har allerede fastslått at KI-systemer innen visse områder, av sin natur, medfører slike iboende risikoer: for eksempel når de brukes til å evaluere kandidater (som kan påvirke retten til arbeid), eller til å prioritere akutte helsetjenester (retten til helse). Dette er de «forhåndsdefinerte» kategoriene i Annex III.
2️⃣ Men hvis KI-systemet ditt faller innenfor et av disse forhåndsdefinerte områdene, og du mener det ikke utgjør en risiko for grunnleggende rettigheter – kan du påberope deg et unntak!
De nye utkastene til retningslinjer for klassifisering av høyrisikosystemer gjør disse unntakene enda tydeligere:
Du trenger kun å oppfylle 1 av de 4 alternativene.
De må tolkes snevert: tenk alltid på risikoen for grunnleggende rettigheter.
Vurder alltid om noens beslutningstaking kan bli påvirket (retten til respekt for mental integritet).
Du må fortsatt registrere KI-systemet i en database.
Du må forklare hvorfor systemet oppfyller minst ett unntakskriterium, og at det ikke utfører profilering.
Retningslinjer sier eksplisitt at det ikke finnes et eget organ som vil gjøre denne vurderingen for leverandøren: egenvurderinger forventes.
Feilaktig egenvurdering utløser sanksjoner etter artikkel 99; det høyeste av 15 millioner euro eller 3% av global årlig omsetning.
3️⃣ Hvis du jobber med et KI-system innen offentlig sektor, HR eller rekruttering, kan det være nyttig med en uavhengig vurdering for å kvalitetssikre analysen din, hjelpe med den nødvendige registreringen i databasen og dokumentasjon, samt bistå dersom markedsmyndighetene ber om ytterligere dokumentasjon. Her kan vi bestå.
Bild: Geraldbrazell
Comments