Inference
Inference er den fase, hvor en trænet model bruger nye input til at generere et svar eller en forudsigelse.
Definition: Inference er den fase, hvor en trænet model bruger nye input til at generere et svar eller en forudsigelse.
Hvad betyder Inference?
Inference er processen, hvor en trænet model bruges til at producere et output på nyt input. Det er altså selve kørslen efter træning.
Et konkret eksempel
Når du sender en prompt til en model og får et svar tilbage, udfører systemet inference.
Hvorfor er begrebet vigtigt?
Når du arbejder praktisk med generativ AI, hjælper forståelsen af Inference dig med at skelne mellem selve modellen, de data den får, og de kontroller produktet omkring den tilføjer. Det gør det lettere at skrive bedre prompts, vurdere fejl og vælge den rigtige tekniske løsning.
Relaterede begreber
Praktisk huskeregel
Brug ikke Inference som buzzword. Spørg i stedet: Hvilken konkret del af workflowet beskriver begrebet, hvilke begrænsninger følger med, og hvordan kan vi teste at systemet gør det vi forventer?
Inference i praksis
Inference er selve kørslen af en trænet model på nyt input for at producere et output.
Sådan møder du begrebet i et AI-workflow
Begrebet bliver først nyttigt, når du kobler det til et konkret system. Spørg derfor altid: Er dette en egenskab ved selve modellen, et produktlag omkring modellen, inputtet til modellen eller en proces mennesker har lagt rundt om den? Den skelnen gør det langt lettere at forstå både muligheder og begrænsninger.
Tre spørgsmål der afslører misforståelser
- Hvilken del af systemet refererer ordet til?
- Hvad kan begrebet ikke bruges som garanti for?
- Hvordan ville du måle eller observere effekten i en rigtig opgave?
Typisk forveksling
Inference bliver ofte brugt som et bredt buzzword, selv når der menes noget mere specifikt. Når du møder ordet i en leverandørtekst eller intern diskussion, så bed om et konkret eksempel: Hvilket input går ind, hvad sker der i systemet, og hvilket output kommer ud? Det fjerner meget af den tvetydighed der ellers opstår omkring AI-termer.
Hvorfor det betyder noget for prompts
En bedre forståelse af begrebet gør det lettere at skrive realistiske krav. Du ved bedre hvilke oplysninger der skal gives som kontekst, hvilke ting modellen selv kan håndtere, og hvor du har brug for retrieval, værktøjer, validering eller menneskelig kontrol omkring modellen.
Husk
- Skeln mellem model, produkt og workflow.
- Spørg hvordan begrebet kan observeres eller testes i praksis.
- Brug ikke tekniske ord som erstatning for et konkret krav.
Sådan bruger du begrebet i praksis
Når du møder ordet Inference i en AI-guide, et produkt eller en teknisk beskrivelse, så spørg hvad det konkret ændrer i din opgave. Påvirker det kvaliteten af input, måden modellen finder information på, hvordan output kontrolleres, eller hvilke data der må bruges? Det spørgsmål gør begrebet langt mere anvendeligt end en løs definition.
Tre spørgsmål der gør definitionen operationel
- Hvilken del af AI-workflowet beskriver Inference?
- Kan jeg se eller måle effekten i mit konkrete output?
- Hvilke beslægtede begreber skal jeg kende for ikke at misforstå det?
I praksis overlapper mange AI-begreber. Derfor er det ofte bedre at forstå relationerne mellem input, model, kontekst, kilder og kontrol end at memorere enkeltstående definitioner.
Ofte stillede spørgsmål
Hvad betyder Inference?+
Inference er den fase, hvor en trænet model bruger nye input til at generere et svar eller en forudsigelse.
Kan du give et eksempel på Inference?+
Når du sender en prompt til en model og får et svar tilbage, udfører systemet inference.
Hvorfor er Inference vigtigt at kende?+
Fordi begrebet beskriver en konkret del af moderne AI-systemer. Når du ved hvilken del, bliver det nemmere at skrive præcise prompts, vælge værktøj og forstå hvor fejl eller begrænsninger kan opstå.
Guardrails
Tekniske og procesmæssige begrænsninger, der reducerer risikoen ved AI-output og agent-handlinger.
Læs videre
Human-in-the-loop
Et design hvor et menneske godkender, korrigerer eller overtager bestemte AI-beslutninger.
Læs videre
LLM
LLM står for large language model: en stor sprogmodel trænet til at forudsige og generere tekst ud fra mønstre i data.
Læs videre