Myteknusing om høyrisiko-KI

Europakommisjonens nye utkast til retningslinjer gjør klassifisering av høyrisiko-KI enklere – og avliver noen vanlige myter.

21 Mai 2026

Jo flere kurs jeg holder for KI-utviklere, desto flere myter hører jeg om risikoklassifisering. Mange utviklere er opptatt av å unngå at produktene deres blir klassifisert som «høyrisiko», noe som er forståelig.

Men Europakommisjonen jobber med å klargjøre, i et lettfattelig språk, hvordan et KI-system faktisk blir klassifisert som høyrisiko. De nye utkastene til retningslinjer er lange – 154 sider – men svært nyttige, og de rydder opp i noen vanlige misforståelser blant leverandører:

Myte 1: «Produktet mitt krever human-in-the-loop, så det er ikke høyrisiko»

Jeg er ganske sikker på at denne myten stammer fra bruk av ChatGPT, Copilot og Claude; du vil nesten alltid få en formulering om at HITL er en del av ansvarlig AI og risikoreduksjon.

For det første er «HITL» ikke et begrep som brukes i forordningen.

For det andre er det ikke fraværet av human-in-the-loop som gjør et AI-system til høyrisiko – så det å legge til human-in-the-loop gjør heller ikke et system til lavrisiko.

Høyrisiko avgjøres av om et system utgjør en høy risiko for grunnleggende rettigheter. Og hvis systemet ditt er høyrisiko, må du ha spesifikke tiltak for menneskelig tilsyn.

Utkastet til retningslinjer sier:

«Leverandøren kan ikke frita og klassifisere et KI-system som lavere risiko simpelthen ved å legge til et krav om menneskelig involvering»

(punkt 71, Annex III guidelines)

Myte 2: «Produktet vårt er veldig fleksibelt – hvis brukere velger å bruke det på en høyrisikomåte, er det deres ansvar.»

Jeg forstår tankegangen, men logikken i forordningen bygger på hvordan leverandøren definerer tiltenkt bruk, og på rimelig forutsigbart misbruk. Ansvar kan ikke overføres til brukeren dersom den tekniske kapasiteten faktisk finnes.

Nesten det motsatte er sant: jo mer fleksibelt et KI-system markedsføres eller beskrives, desto større er sannsynligheten for at det kan bli klassifisert som høyrisiko.

Utkastet til retningslinjer sier:

«Dersom bruksanvisningen … presenterer KI-systemet som bredt anvendelig på tvers av en rekke kontekster og funksjoner, og ikke konsekvent begrenser anvendelsen eller utelukker høyrisikobruk, vil systemets tiltenkte formål også anses å omfatte høyrisikobruksområder og dermed kvalifisere som høyrisiko … Det er ikke tilstrekkelig å bare påstå (for eksempel i vilkårene for bruk) at høyrisikobruk er ekskludert for å unngå at systemet anses som høyrisiko.»

(punkt 12, general principles guidelines) 

Vi jobber med dyktige leverandører av komplekse KI-systemer med høy risiko – som også eksplisitt skrives om i utkastet til retningslinjer. Hvis du ønsker en second opinion på risikoklassen din, eller en etterlevelse sjekk, ta kontakt!