Hvad er en AI-agent?
En AI-agent er et system, der kan vælge næste skridt og bruge tilladte værktøjer for at arbejde mod et mål. Det centrale er ikke “intelligens” som label, men kombinationen af model, state/kontekst, værktøjer og kontroller.
Det skal du kunne bagefter
- afprøve metoden og kontrollere, om værktøjerne følger princippet om mindst mulige rettigheder
- genkende og undgå fejlen: “kalde enhver LLM-chat for en agent”
Kort svar: En AI-agent er et system, der kan vælge næste skridt og bruge tilladte værktøjer for at arbejde mod et mål. Det centrale er ikke “intelligens” som label, men kombinationen af model, state/kontekst, værktøjer og kontroller.
Når AI går fra svar til handling
En agent adskiller sig fra en almindelig chatbot ved at kunne vælge handlinger og bruge værktøjer. Derfor bliver rettigheder, stopkriterier, logning og menneskelig godkendelse lige så vigtige som selve modellen.
Case: supportagenten der må læse – men ikke refundere uden approval
En supportagent modtager en supportsag, slår kunden op, henter relevante retningslinjer, foreslår en løsning og stopper ved et godkendelsestrin før refundering. En chatbot, der kun skriver et svar uden værktøjer, er noget andet.
Mål, tools, state og stopkriterier
- 1. Definér målet og hvornår opgaven er færdig.
- 2. List de data og værktøjer agenten faktisk behøver.
- 3. Skeln mellem værktøjer med læseadgang og handlinger der ændrer noget.
- 4. Lav deterministiske regler for kritiske grænser.
- 5. Tilføj menneskelig godkendelse hvor konsekvensen ved fejl er høj.
- 6. Log værktøjskald, resultater og fejl så adfærden kan undersøges.
Tre måder en “agent” bliver farlig eller meningsløs
- At kalde enhver LLM-chat for en agent.
- At give agenten brede skriveadgang for at “gøre den fleksibel”.
- At bruge hukommelse som et ubegrænset lager af persondata.
Tegn din første agent på papir
Tegn en agent på papir med fem bokse: mål, input, værktøjer, beslutninger og stop/approval. Hvis du ikke kan udfylde dem, er anvendelsen endnu ikke klar.
Kan du forklare hver handling bagefter?
- Er værktøjer mindst privilegerede?
- Er stopkriteriet tydeligt?
- Kan du se hvad agenten gjorde bagefter?
Fortsæt med tools, guardrails og evaluering
Spørgsmål om emnet
Hvad er hovedpointen i “Hvad er en AI-agent”?
En AI-agent er et system, der kan vælge næste skridt og bruge tilladte værktøjer for at arbejde mod et mål. Det centrale er ikke “intelligens” som label, men kombinationen af model, state/kontekst, værktøjer og kontroller.
Hvordan kan jeg øve det?
Tegn en agent på papir med fem bokse: mål, input, værktøjer, beslutninger og stop/approval. Hvis du ikke kan udfylde dem, er anvendelsen endnu ikke klar.
Hvilken fejl bør jeg især undgå?
At kalde enhver LLM-chat for en agent.
Hvornår er min løsning god nok til at bruge?
Brug disse kontrolspørgsmål: Er værktøjer mindst privilegerede? Er stopkriteriet tydeligt? Kan du se hvad agenten gjorde bagefter?