Prompt routing

Prompt routing — verziózott, eval-validált promptok minden AI use-case-re.

A Nortinia Engine prompt routing rétege a promptokat verziókezeli, A/B-teszteli, eval-vel pontozza és per-tenant override-okat enged — egyetlen központi AI motorban.

Versioned
minden prompt változás verziózott
A/B test
beépített eval-vezérelt teszt
Per-tenant
override-ok engedélyezve
Mit jelent ez

Prompt routing — promptok mint kód, eval-vel.

A prompt routing a promptokat infrastruktúra-szintű objektumokként kezeli: minden prompt verziózott, A/B-tesztelhető, és eval-set-en validált.

A Nortinia Engine prompt registry-t és prompt-version-control-t ad. Tenant-szinten felülírhatók a default promptok. Minden inference hívás "rögzíti" a használt prompt-verziót — visszanézhető, ki, mikor, melyik prompt-verzióval futtatott.

Prompt management

Mit ad a prompt routing réteg?

01

Prompt registry

Központi prompt-könyvtár, version-control-lal, taggolással, kereshetően.

02

A/B teszt

Beépített A/B teszt: minden inference rögzíti a prompt-verziót, eval-vel scoring.

03

Per-tenant override

Egy tenant felülírhatja a default promptot — pl. custom hangnem, brand voice.

04

Eval-set scoring

Per-prompt eval: faithfulness, accuracy, latency, cost. Visszahívható csapatra.

Folyamat

Hogyan vezetjük be a prompt routing-ot?

01
Prompt import

Meglévő promptok import a registry-be. Tagging, version 1.0.

02
Eval-set

Per-prompt eval-set (50-200 példa). Ground truth válaszokkal.

03
A/B teszt

Új prompt-verziók A/B-tesztje: 10% forgalom v2, 90% v1. Eval-pontszám alapján döntés.

04
Élesítés

Élő dashboard: per-prompt cost, latency, accuracy trend. Drift detection.

Gyakori kérdések

Prompt routing — gyakori kérdések

Miért kell prompt-version-control?

Mert a prompt változás éppen olyan hatású, mint egy kódváltozás — másmilyen választ ad az AI. Verziókezelés nélkül nem visszanézhető, ki mikor mit változtatott, és a regressziók nem detektálhatók.

Hogyan működik az A/B teszt?

A traffic split-jét per-prompt beállítod (pl. 10% v2). Minden inference rögzíti a használt verziót + outcome. Eval-pontszám alapján a Nortinia Engine ajánlatot tesz: v2 érdemes-e default-tá tenni.

Mit jelent a per-tenant override?

A default prompt minden tenantra ugyanaz, de egy tenant felülírhatja a magáét — pl. cég-specifikus hangnem, dokumentum-referenciák, brand voice. Per-tenant audit.

Hogyan kezeljük a prompt-drift-et?

A modell-bumpok és külső világbeli változások miatt a prompt accuracy idővel csökkenhet. A Nortinia Engine folyamatosan futtatja az eval-set-et és drift észlelésekor riaszt.

Prompt mint infrastruktúra

Mutatjuk a prompt routing-ot a saját promptjaidon.

30 perces workshop, registry-import, eval-set tervezés.

Prompt routing — eval-validált AI prompt management | Nortinia Engine