KI-agenter er ikke et regulatorisk tomrom
Først publisert i MedWatch | 23 oktober 2026
Men teknologigigantene vil helst regulere seg selv.
Innlegget er skrevet av Gyda Grodås Christiansen (seniorrådgiver i Avdeling for informasjonsstyring, Helsedirektoratet) og Ley Muller (grunnlegger og daglig leder i Values-Driven AI, som er et konsulent- og rådgivningsselskap med fokus på ansvarlig KI og etterlevelse av regelverk) nasjonale eksperter i Standard Norges KI-komite; europeiske eksperter i CEN/CENELEC Joint Technical Committee-21 on AI.
I den norske debatten har det blitt hevdet at agentisk KI «faller mellom alle stoler», og at KI-forordningen ikke er rustet til å regulere agentisk KI. Dette har blitt fremmet i Morgenbladet, Dagens Næringsliv og fra et ledende forskningsinstitutt.
Vi mener slike påstander har to svakheter, og at de bygger på frykt, ikke fakta.
For det første er agentisk KI regulert gjennom KI-forordningen. For det andre kan slike fremstillinger bidra til å undergrave de reglene som gjelder. Det kan styrke forestillingen om at leverandørene er bedre egnet til å håndtere risikoene ved sine egne systemer. Det er en problematisk utvikling, og kan bidra til regulatorisk fangst.
Vi jobber tett på forordningen og er med i Standard Norges nasjonale KI-komité. Vi deltar også i det europeiske arbeidet med å utvikle «harmoniserte standarder» for høyrisiko-leverandører.
Jo, agentisk KI reguleres på flere måter i KI-forordningen.
Europakommisjonen har fått flere spørsmål om agentisk KI. Kommisjonen har presisert at agentisk KI omfattes av KI-forordning. Noen få eksempler:
Agentisk KI bygger ofte på store språkmodeller, som reguleres som modeller med generelle formål.
Når et agentisk KI-system samhandler med mennesker, utløses også forordningens transparenskrav.
Dersom en KI-modell klassifiseres med systemisk risiko, utløses ytterligere krav for leverandøren. Kravene omfatter blant annet vurderinger av modellens kapasiteter, herunder autonome og agentiske egenskaper.
Med andre ord regulerer KI-forordningen ikke typer teknologier, men hva teknologien er utviklet for å gjøre og hvilke risikoer som er knyttet til det.
Det ville vært umulig for et internasjonalt regelverk å forutse enhver fremtidig risiko. I stedet retter KI-forordningen seg mot risikoer av KI-systemer som kan påvirke helse, sikkerhet og grunnleggende rettigheter - dette står i den første setningen av den første artikkelen.
Noen områder er forhåndsdefinert som høyrisiko: dette gjelder blant annet KI som brukes ved ansettelser, tildeling av tjenester og medisinsk utstyr eller som inngår i infrastrukturer der sikkerhet er avgjørende. Leverandører av KI-systemer (agentisk eller ikke agentisk) som kan påvirke våre rettigheter, må blant annet etablere omfattende risikohåndteringssystemer og vurdere såkalt «reasonably foreseeable misuse», altså rimelig forventet misbruk av systemet.
Regulatorisk fangst - når leverandører foreslår selvregulering
Hvis vi lytter til Anthropic, Openai og Meta, samt stemmer i den norske debatten, kan man få inntrykk av at kunstig intelligens og agentisk KI er for komplisert for KI-forordningen. For avansert for EU. For farlig til å reguleres av andre enn selskapene selv.
Vi bør være varsomme når verdens mektigste teknologiselskaper, som har tatt til orde for en mindre streng gjennomføring av KI-forordningen, nå hevder hvor utilstrekkelig den er for å regulere deres kraftigste systemer. For løsningen de foreslår, er å «regulere» seg selv.
Dette er en av de klassiske mekanismene bak regulatorisk fangst: at reguleringen gradvis formes av dem som selv skal reguleres. USA gir oss et tydelig eksempel på dette. Trump har nylig signert en «voluntary pact» sammen med ledere av X, Meta, Anthropic, Openai og Google, hvor disse selskapene «forplikter» seg til regulering. Det fremgår i dokumentet at et regelverk kan være hensiktsmessig på et senere tidspunkt: «Over time, it may make sense to codify these steps into laws or regulations.» Inntil videre skal amerikanere stole på at de store teknologiselskapene regulerer seg selv.
I motsetning til USA har Europa et eksisterende regelverk: KI-forordningen.
Men regulatorisk fangst kan fortsatt skje, ved at tilliten til regelverket svekkes.
Når vi deltar i europeisk standardisering knyttet til KI-forordningen, er vi bevisste på risikoen for at teknologigiganter får for stor innflytelse. Nettopp derfor er komiteene satt sammen av ulike interesser og perspektiver. De største teknologiselskapene er også representert, men de skal ikke være de eneste stemmene ved bordet. Selv ikke når oppgaven er å hjelpe teknologiselskapene å følge loven. Når regulatorisk fangst begynner, er det vanskelig å reversere.
Vi deler bekymringen for at KI-systemer kan få konsekvenser som er krevende å forutse. Nettopp derfor trenger vi risikostyring og ansvarlig utvikling, på toppen av den gode reguleringen som vi allerede har. Europa har tatt viktige steg i den retningen gjennom KI-forordningen.
Regelverket er ikke perfekt, og det vil nok måtte videreutvikles.
Men å fremstille agentisk KI som et område utenfor dagens regulatoriske rammer bidrar mer til usikkerhet enn til opplysning.
Det er på tide med en debatt basert på fakta, ikke frykt.
Først publisert av MedWatch: Debatt: KI-agenter er ikke et regulatorisk tomrom
Jeg jobber med fremragende leverandører av høyrisiko KI-systemer i Norge og Europa, og hjelper dem med å bruke harmoniserte standarder for å oppfylle kravene i KI-forordningen.
Transparenskrav gjelder allerede i dag, mens kravene for høyrisiko-systemer trer i kraft i 2027.
Hvis dere utvikler KI-løsninger og ønsker en vurdering av etterlevelse, er det bare å ta kontakt!
Hvis dere bruker eller skal kjøpe inn KI-systemer, kan det være lurt med en kjapp sjekk om deres egne forpliktelser.
Comments