Tool calling
Tool calling betyder, at en model kan vælge at kalde en defineret funktion eller integration med strukturerede argumenter i stedet for kun at svare med tekst.
Tool calling: Tool calling betyder, at en model kan vælge at kalde en defineret funktion eller integration med strukturerede argumenter i stedet for kun at svare med tekst.
Tool calling giver modellen en kontrolleret handlingsflade
Et værktøj beskrives med navn, formål og et input-skema. Modellen kan vælge at kalde det, men applikationen udfører selve funktionen og returnerer resultatet til modellen.
Et værktøj bør være smalt og validerbart
get_order(order_id) er lettere at sikre end et generelt “kør vilkårlig databaseforespørgsel”-værktøj. Serveren bør kontrollere brugerens rettigheder og argumenterne uanset hvad modellen foreslår.
Værktøjer med skriveadgang kræver højere bar
Et lookup kan ofte være kun læsning. Et værktøj der refunderer, sender eller sletter bør have beløbs-/afgrænsninggrænser, auditlog og eventuelt menneskelig godkendelse.
Spørgsmål om emnet
Hvad betyder Tool calling?
Tool calling betyder, at en model kan vælge at kalde en defineret funktion eller integration med strukturerede argumenter i stedet for kun at svare med tekst.
Hvad er et konkret eksempel på Tool calling?
En agent kalder get_order({order_id:123}) for at hente en ordre, før den foreslår næste handling.
Hvad skal sikres ved Tool calling?
Tool-input, brugerrettigheder og sideeffekter skal valideres i applikationen; modellen må ikke være eneste kontrol.