पाठ 18 / 29
Unit Economics: प्रति हल कार्य लागत
लागत को calls से नहीं, परिणामों से आँकें।
उत्तर की क़ीमत कार्य की क़ीमत नहीं
Token क़ीमतें लागत का सिर्फ़ हिस्सा हैं। जो मायने रखता है वह प्रति हल कार्य लागत है: प्रति कार्य मॉडल calls (retrieval, retries और repair loops समेत), साथ में उन कार्यों की लागत जिन्हें system हल नहीं कर पाता और मनुष्यों को सौंपता है, साथ में infrastructure, मूल्यांकन और रखरखाव। अक्सर सबसे बड़ा उत्तोलक सस्ता मॉडल नहीं बल्कि ऊँची समाधान दर या प्रति कार्य कम calls है। अपनी संख्याओं से सरल मॉडल बनाएँ और देखें वह कितना संवेदनशील है: उदाहरण में स्वचालित समाधान दर 50% से 75% करने से प्रति ticket लागत लगभग 2.03 से 1.03 हो जाती है, किसी भी यथार्थवादी token-क़ीमत बचत से कहीं अधिक। क़ीमतें, मात्राएँ या गुणवत्ता बदलने पर मॉडल दोबारा चलाएँ, और बने मूल्य (बचा समय, राजस्व, संतुष्टि) से तुलना करें।
प्रति हल ticket लागत, चलाकर
मैंने यह सादे Python 3 (सिर्फ़ standard library) से चलाया। प्रति ticket 2.4 calls, प्रत्येक 0.012 (लगभग 0.029) और 38% tickets 4.00 पर मनुष्य को जाने पर कुल लगभग 1.55 प्रति ticket है। मानव हस्तांतरण हावी है; auto-resolve दर 75% करने से यह लगभग 1.03 होगा। सारी संख्याएँ गढ़ी हैं।
# Unit economics: cost per RESOLVED ticket, not cost per call.
calls_per_ticket, price_per_call = 2.4, 0.012 # example numbers
auto_resolve_rate, human_cost = 0.62, 4.00 # example: 62% solved without a human; a human handoff costs 4.00
cost_per_ticket = calls_per_ticket * price_per_call + (1 - auto_resolve_rate) * human_cost
print(f"model cost per ticket : {calls_per_ticket * price_per_call:.3f}")
print(f"human handoff share : {(1 - auto_resolve_rate) * human_cost:.3f}")
print(f"total per ticket : {cost_per_ticket:.3f}")
for rate in (0.50, 0.62, 0.75):
c = calls_per_ticket * price_per_call + (1 - rate) * human_cost
print(f" if auto-resolve rate were {rate:.0%}: {c:.3f} per ticket")
Output:
model cost per ticket : 0.029 human handoff share : 1.520 total per ticket : 1.549 if auto-resolve rate were 50%: 2.029 per ticket if auto-resolve rate were 62%: 1.549 per ticket if auto-resolve rate were 75%: 1.029 per ticket
लागत की तुलना मूल्य से करें
प्रति कार्य लागत तभी अर्थ रखती है जब वह बचे समय या राजस्व के बग़ल में हो।
त्वरित जाँच: उदाहरण में प्रति ticket लागत पर क्या हावी है?
- अनसुलझे tickets का मानव हस्तांतरण
- Token क़ीमत
- Font आकार
- Server का रंग
Answer
अनसुलझे tickets का मानव हस्तांतरण — समाधान दर सुधारना सस्ते tokens से ज़्यादा मायने रख सकता है।