AI-agenter: fra begreb til system, der kan handle

En AI-agent er først interessant, når den får lov til at gøre mere end at formulere et svar. Den kan vælge et værktøj, hente data, tage næste skridt eller foreslå en handling. Det betyder også, at fejl ikke længere kun er “et dårligt svar”. En fejl kan blive til et forkert API-kald, en forkert ændring i CRM eller en handling, der aldrig burde være udført.

Skeln mellem tre forskellige arkitekturer

Chat: modellen får input og returnerer et svar. Automation: et foruddefineret flow flytter data gennem faste regler. Agent: modellen får et mål og kan vælge mellem tilladte handlinger undervejs. Mange løsninger bliver bedre, når de kombinerer de tre i stedet for at forsøge at gøre alt agentbaseret.

Har du en proces, hvor “hvis A, så B” kan beskrives på forhånd, bør den del normalt være regelbaseret. Brug agentlogik dér, hvor systemet faktisk skal fortolke ustruktureret input, vælge blandt flere legitime muligheder eller samle information, før det kan beslutte næste forslag.

En agent består af mere end en model

Tænk i seks lag: mål, instruktioner, kontekst, værktøjer, tilstand/hukommelse og kontrol. Modellen er kun ét af lagene. Et værktøj skal have et tydeligt skema og mindst mulige rettigheder. Kontekst skal være relevant for den aktuelle opgave. Memory skal gemme noget med et eksplicit formål. Og skrive-handlinger bør ligge bag validering eller menneskelig godkendelse, når konsekvensen er høj.

Byg kun læsning før skrive

En god første agent kan ofte nøjes med at læse. Lad den fx finde en kunde, hente en gældende regel og foreslå næste handling. Når du kan se, at retrieval, værktøjsvalg og output er stabile, kan du tilføje én skrivehandling med snævre rettigheder. Det gør fejl nemmere at forstå og begrænser skaden, hvis agenten vælger forkert.

Test hele opgaven – ikke kun slutteksten

Et eval-sæt bør indeholde normale sager, uklare input, manglende data, værktøjsfejl, timeout, modstridende kilder og forsøg på prompt injection. Mål om opgaven blev løst, om de rigtige værktøjer blev valgt, om agenten respekterede stopregler, hvor ofte et menneske måtte rette den, og hvilke fejl der faktisk havde konsekvens.