Sådan reducerer du AI-hallucinationer
Hallucinationer kan ikke fjernes med én formulering. Risikoen reduceres ved at begrænse opgaven, give gode kilder, kræve sporbarhed og designe fallback, når evidens mangler.
Det skal du kunne bagefter
- afprøve metoden og kontrollere, om kritiske påstande kan spores til en kilde
- genkende og undgå fejlen: “bede modellen “vær 100 % korrekt” uden kilder”
Kort svar: Hallucinationer kan ikke fjernes med én formulering. Risikoen reduceres ved at begrænse opgaven, give gode kilder, kræve sporbarhed og designe fallback, når evidens mangler.
Hallucinationer reduceres med bedre evidens og stopregler
Hallucinationer reduceres ikke med én magisk sætning. Du skal styre kilder, gøre usikkerhed synlig, kræve verificerbare outputs og vælge, hvilke påstande et menneske skal kontrollere.
Eksempel: svaret må kun bruge det vedlagte materiale
En dokumentassistent skal svare på HR-politik. I stedet for “svar så godt du kan” får den kun godkendte dokumentuddrag og skal citere kilde-id eller svare, at informationen ikke findes.
Design prompten til at kunne sige “det ved jeg ikke”
- 1. Afgør hvilke påstande der kræver dokumentation.
- 2. Giv modellen relevante og autoritative kilder.
- 3. Kræv markering af usikkerhed og manglende evidens.
- 4. Adskil fakta fra forslag eller analyse i outputtet.
- 5. Verificér kritiske påstande med kilden eller et deterministisk system.
- 6. Brug menneskelig gennemgang ved høj konsekvens.
Undgå krav om et svar for enhver pris
- At bede modellen “vær 100 % korrekt” uden kilder.
- At bruge citationer som pynt uden at kontrollere at de faktisk understøtter påstanden.
- At lade modellen udfylde tomme felter med sandsynlige værdier.
Lav en test med manglende information
Giv modellen et spørgsmål hvor svaret ikke findes i det vedlagte materiale. Test om din prompt får den til at afstå fra at gætte.
Kan modellen markere usikkerhed korrekt?
- Kan du spore kritiske påstande til en kilde?
- Har du testet mangel på evidens?
- Er konsekvensen ved en fejl afspejlet i gennemgangkravet?
Fortsæt med RAG, kilder og evaluering
Spørgsmål om emnet
Hvad er hovedpointen i “Sådan reducerer du AI-hallucinationer”?
Hallucinationer kan ikke fjernes med én formulering. Risikoen reduceres ved at begrænse opgaven, give gode kilder, kræve sporbarhed og designe fallback, når evidens mangler.
Hvordan kan jeg øve det?
Giv modellen et spørgsmål hvor svaret ikke findes i det vedlagte materiale. Test om din prompt får den til at afstå fra at gætte.
Hvilken fejl bør jeg især undgå?
At bede modellen “vær 100 % korrekt” uden kilder.
Hvornår er min løsning god nok til at bruge?
Brug disse kontrolspørgsmål: Kan du spore kritiske påstande til en kilde? Har du testet mangel på evidens? Er konsekvensen ved en fejl afspejlet i gennemgangkravet?