Dybdegående guide

Human-in-the-loop i AI-workflows

Design approvals, eskalering og menneskelig kontrol, så AI kan automatisere arbejdet uden at få unødvendig frihed.

4 min.Opdateret 24. juli 2026

Kort fortaltDesign approvals, eskalering og menneskelig kontrol, så AI kan automatisere arbejdet uden at få unødvendig frihed.

Læs først

Brug indholdsfortegnelsen til venstre, hvis du allerede kender grundprincipperne og vil direkte til implementeringen.

Kort fortalt: Design approvals, eskalering og menneskelig kontrol, så AI kan automatisere arbejdet uden at få unødvendig frihed.

Hvorfor emnet er vigtigt

Design approvals, eskalering og menneskelig kontrol, så AI kan automatisere arbejdet uden at få unødvendig frihed. Den praktiske værdi opstår først, når du kan omsætte begrebet til en afgrænset proces, klare data og en måde at kontrollere kvaliteten på.

Approval er et designmønster

Human-in-the-loop betyder ikke, at et menneske skal læse alt. Systemet kan automatisk godkende lavrisiko-sager og kun eskalere ved lav confidence, bestemte kategorier eller handlinger med stor konsekvens.

Feedback skal gemmes

Når en medarbejder retter agentens forslag, bør forskellen kunne analyseres. Ellers har du menneskelig kontrol, men ingen læring om hvor systemet fejler.

En robust arbejdsgang

Definér succes
Beskriv et korrekt resultat, et forkert resultat og hvornår systemet skal stoppe.
Afgræns data
Giv kun nødvendig kontekst og brug autoritative kilder.
Begræns actions
Start med få tools og least-privilege adgang.
Valider
Brug schemas og business rules før downstream-handlinger.
Observer
Log tool calls, output, fejl og menneskelige overrides.

Sådan tester vi på PromptGuiden

Vi anbefaler et lille eval-sæt med realistiske cases: normale, tvetydige og bevidst problematiske inputs. Kør samme cases efter ændringer i prompt, model eller tools. Mål ikke kun om agenten “kommer i mål”, men også om den vælger de rigtige tools, undgår unødige kald og eskalerer korrekt.

Den praktiske model bag Human-in-the-loop i AI-workflows

Human-in-the-loop betyder, at et menneske bevidst placeres i et kontrolpunkt i AI-processen. Det er ikke det samme som at “nogen kan tjekke senere”; systemet skal vide hvornår det skal vente, hvad personen ser, og hvad et godkendt eller afvist svar betyder.

Approval er mest værdifuldt ved irreversible handlinger, høj økonomisk konsekvens, usikker modelvurdering eller regler der kræver menneskelig ansvarlighed. For mange approvals kan dog gøre automatiseringen værdiløs.

InputAI-forslag, kontekst og de oplysninger der er nødvendige for at træffe beslutningen.

KontrolApproval state, timeout, eskalering og revisionsspor.

OutputGodkend, afvis eller send tilbage med struktureret feedback.

Sådan implementerer du det trin for trin

Design approval som et egentligt workflow-state. Gem data før du sender notifikationen, og sørg for at flowet kan fortsætte sikkert flere timer senere uden at miste kontekst.

Afgræns processen
Definér hvilke risici der udløser approval.
Definér data og kontrakter
Vis kun den kontekst godkenderen behøver for at træffe beslutningen.
Byg den mindste brugbare version
Gem beslutning, bruger, tidspunkt og eventuel begrundelse.
Test på realistiske cases
Test timeout, dobbelte klik og ændringer i data mens sagen venter.

Eksempel fra en rigtig arbejdsgang

Ved et AI-genereret refund-forslag kan systemet beregne beløb og policy match, men vente på en medarbejder før refund action kaldes. Approval-viewet viser ordre, begrundelse og det foreslåede beløb.

Designregel: Et menneske skal godkende en beslutning – ikke forsøge at rekonstruere agentens skjulte proces.

Struktureret feedback fra afvisninger kan senere bruges til at forbedre regler, prompts og testcases. Det gør approval til både sikkerhed og læringssignal.

Fejl, drift og sikkerhed

Dårlige approval-flows drukner brugeren i notifikationer eller viser for lidt kontekst. Resultatet er rubber-stamping, hvor mennesker trykker godkend uden reel kontrol.

Brug risikobaserede thresholds frem for approval på alt.
Vis ændringer og konsekvens tydeligt.
Håndtér timeout og fravær med en defineret eskalation.
Gør approval-handler idempotent.

Approval-linket skal være autentificeret og autoriseret. En email med et offentligt “godkend”-link kan ellers blive et nyt sikkerhedsproblem.

Sådan vurderer du om løsningen er god nok

Mål både kvalitet og friktion. En høj approval-rate kan betyde at modellen er god – eller at mennesker ikke læser forslagene.

KvalitetAndel korrekte godkendelser og afvisninger.

Mål om resultatet faktisk er korrekt og anvendeligt.

DriftVentetid og timeout-rate.

Følg fejl, retries, ventetid og hvor ofte mennesker må gribe ind.

VærdiAndel sager der kan gå straight-through uden ekstra risiko.

Sammenhold tidsbesparelse og bedre kvalitet med model- og platformomkostninger.

Fjern først approval fra en kategori, når historiske data viser stabil kvalitet og konsekvensen af fejl er acceptabel.

Production-checkliste for Human-in-the-loop i AI-workflows

Før du gør denne arbejdsgang til en fast del af virksomheden, bør du kunne svare på fem ting: Hvem ejer løsningen? Hvilke data må den behandle? Hvad er et godkendt resultat? Hvad sker der ved teknisk eller faglig fejl? Og hvordan ruller du en ændring tilbage? De spørgsmål virker simple, men de er forskellen mellem en demo og noget der kan driftes.

Gem realistiske testcases og det forventede resultat, så ændringer kan sammenlignes.
Versionér de vigtigste prompts, tools, mappings eller regler.
Brug strukturerede outputfelter når næste system skal handle på AI-resultatet.
Definér hvem der modtager en exception og hvilke oplysninger personen skal have.
Gennemgå permissions og credentials som en del af hver større ændring.

Start i lille skala og gør fejl synlige. Når løsningen har kørt på rigtige cases, kan du bruge execution data til at afgøre, om mere autonomi, flere tools eller yderligere automatisering faktisk forbedrer processen. Det er mere pålideligt end at optimere efter en enkelt imponerende demonstration.

FAQ2 spørgsmål

Ofte stillede spørgsmål

Skal alle AI-workflows være agenter?

Nej. Brug deterministisk automation, når reglerne er klare. Agentisk logik er mest relevant, når processen kræver fortolkning eller valg mellem flere handlinger.

Hvordan gør man en agent mere sikker?

Begræns tools og permissions, valider output, brug approvals ved høj risiko, log handlinger og test fejlscenarier.