Guardrails
Guardrails er tekniske og procesmæssige grænser, der begrænser hvad et AI-system kan læse, producere eller gøre.
Guardrails: Guardrails er tekniske og procesmæssige grænser, der begrænser hvad et AI-system kan læse, producere eller gøre.
Eksempel
Et workflow kræver JSON-skema, beløbsgrænse, domain-allowlist og godkendelse før et skrive-værktøj.
Det bliver ofte forvekslet med
En promptregel er kun én guardrail og bør ikke stå alene ved kritiske handlinger.
Brug begrebet i praksis
Brug flere lag: rettigheder, input/output-validering, budgets, rate limits, logning og menneskelig godkendelse. En tekstinstruktion alene er ikke nok.
Relaterede begreber
Spørgsmål om emnet
Hvad betyder Guardrails?
Guardrails er tekniske og procesmæssige grænser, der begrænser hvad et AI-system kan læse, producere eller gøre.
Hvad er et konkret eksempel på Guardrails?
Et workflow kræver JSON-skema, beløbsgrænse, domain-allowlist og godkendelse før et skrive-værktøj.
Hvad bliver Guardrails ofte forvekslet med?
En promptregel er kun én guardrail og bør ikke stå alene ved kritiske handlinger.