Memory i AI-agenter: hvad skal huskes?
Memory er ikke én funktion. Skeln mellem samtalekontekst, brugerpræferencer, opgavetilstand og varig viden, før du gemmer noget.
Fire forskellige slags “hukommelse”
Dig, der bygger længere agentforløb og skal beslutte, hvad systemet må huske, hvor længe og med hvilken datamodel.
- Gem kun med et formål
Memory er ikke én funktion. Skeln mellem samtalekontekst, brugerpræferencer, opgavetilstand og varig viden, før du gemmer noget.
Fire forskellige slags “hukommelse”
Kontekst er det, modellen ser nu. Profil er stabile brugerpræferencer. opgavetilstand er hvor en igangværende proces befinder sig. Knowledge er materiale, der bør hentes via søgning/RAG i stedet for kopieres ind i hver samtale.
Gem kun med et formål
Definér for hvert felt: hvorfor det gemmes, hvor længe, hvem der kan rette/slette det, og om det må påvirke en handling. Undgå at inferere følsomme præferencer som “memory”.
Hent selektivt
En agent bliver ikke bedre af at få alt historik hver gang. Hent kun den information, der er relevant for den aktuelle opgave, og vis brugeren de oplysninger, der styrer vigtige beslutninger.
Evaluer memory separat
Mål både om relevant information genfindes, om irrelevant information trænger sig på, og om gamle oplysninger bliver opdateret korrekt.
Case: en supportagent der husker præferencer – men ikke alt
En supportagent må gemme kundens foretrukne sprog og senest valgte produktområde. Den gemmer ikke hele samtalen som permanent profil. En åben sag ligger som opgavetilstand med eget udløb, mens produktmanualer hentes fra knowledge-basen ved behov.
Kortlæg hvad agenten må huske – og hvor længe
Lav en tabel med fem oplysninger din agent kunne “huske”. For hver: formål, levetid, sletteadgang og om oplysningen må styre en automatisk handling.
Kontrol: test forældet og forkert memory
- Er hver gemt oplysning nødvendig for en konkret fremtidig opgave?
- Kan brugeren eller en administrator rette og slette den?
- Kan gammel memory identificeres og erstattes i stedet for blot at vokse?
Memory skal have en udløbsdato eller en genfindingsregel
Der er forskel på conversation tilstand, brugerpræferencer, arbejdsdata og langtidshukommelse. De bør ikke blandes i ét lager. En midlertidig ordre-id skal måske leve minutter; en sprogpræference kan leve længe; en fortrolig supportsag bør måske slet ikke gemmes som “memory”.
Gem kun information, der forbedrer en senere beslutning, og dokumentér hvem der kan rette eller slette den. Ved retrieval skal du hente selektivt i stedet for at læsse hele historikken ind i konteksten.
Evaluer også forældet memory: kan agenten opdage, at en gammel præference eller status ikke længere gælder?