# Hosted APIs बनाम Self-Hosting — LLM Engineering की बुनियाद

Source: https://www.geekswithgeeks.com/hi/llm-engineering/s-host

> नियंत्रण, लागत, प्रयास और जोखिम की तुलना करें।

## पहले किराए पर लें, संख्याएँ कहें तब ख़ुद के बनाएँ

**Hosted APIs** सबसे मज़बूत मॉडल, चलाने को कोई infrastructure नहीं, तेज़ दोहराव और उपयोग-आधारित क़ीमत देते हैं; समझौते हैं ऊँची मात्रा पर प्रति-token लागत, डेटा का आपके network से बाहर जाना, provider की उपलब्धता पर निर्भरता, rate limits और मॉडल deprecations। **Open-weight मॉडल को self-host** करना डेटा, संस्करणों, अनुकूलन और (ऊँची स्थिर मात्रा पर) इकाई लागत पर नियंत्रण देता है, पर आप GPUs, serving सॉफ़्टवेयर, scaling, upgrades, monitoring और on-call उठाते हैं, और सबसे मज़बूत मॉडल open न भी हों। कई टीमें hosted से शुरू करती हैं, असली मात्रा और गुणवत्ता की ज़रूरतें मापती हैं, और अर्थशास्त्र, privacy या latency जायज़ ठहराए तब चुने कार्यभार छोटे self-hosted या fine-tuned मॉडलों पर ले जाती हैं। जो भी चुनें, मॉडल call पर **पतला abstraction** रखें ताकि बदलना configuration बदलाव हो, और ऐसा **मूल्यांकन set** रखें जो उम्मीदवारों की निष्पक्ष तुलना करे।

## Hosted या self-hosted, क्रमिक और उलटने-योग्य

चुनें मॉडल कैसे चलाएँ, समझें throughput किससे सीमित होता है, और बदलाव क्रमिक रूप से वापस जाने के रास्ते के साथ जारी करें।

![तीन निर्णय: कहाँ चलता है, क्या सीमित करता है, कैसे जाता है।](assets/figures/llm-engineering/section-6-map.svg) — चित्र 6.1 — कहाँ चलता है, क्या सीमित करता है और कैसे जाता है।

## Hosted बनाम self-hosted एक नज़र में

शुरुआती तुलना; आपकी अपनी संख्याएँ निर्णय करती हैं।

```text
                      hosted API                          self-hosted open model
quality ceiling       strongest available models           good, depends on the open model chosen
effort to start       hours                                 days to weeks (GPUs, serving, scaling)
unit cost             pay per token; high at huge volume   fixed hardware; cheap at high, steady volume
data control          leaves your network (check terms)    stays in your environment
customisation         prompts, some fine-tuning options     full control: weights, adapters, quantisation
risks                 outages, rate limits, deprecations   you own ops: scaling, security, upgrades, on-call
```

## पहले असली मात्रा मापें

self-hosting का निर्णय अनुमान से नहीं, मापे traffic और लागत से लें।

**Quiz:** बाद में मॉडल या providers बदलने की संभावना हो तो सबसे ज़्यादा क्या मदद करता है?

- [ ] Release notes कभी न पढ़ना
- [ ] एक provider के ब्योरे हर जगह hard-code करना
- [ ] Tests से बचना
- [x] मॉडल call पर पतला abstraction और मूल्यांकन set

*Answer:* मॉडल call पर पतला abstraction और मूल्यांकन set. Abstraction बदलना सस्ता बनाता है; मूल्यांकन उसे सुरक्षित।