Model Diagnostics, Inference Exceptions & Troubleshooting FAQ
የጂፒዩ ማህደረ ትውስታ እጥረት ስህተቶች፣ የቶከናይዘር አለመጣጣም፣ የዘገየ ኢንፈረንስ እና የግንኙነት መቋረጥ የመፍትሔ መመሪያ።


1. Overview & Technical Architecture#
ለተቀናጁ ብጁ የአይአይ ሞዴል ስራዎች የዲያግኖስቲክ ማጣቀሻ።
1. Diagnostic Resolution Matrix#
| Issue | Probable Cause | Corrective Action |
|---|---|---|
CUDA out of memory (OOM) | የአውድ ርዝመት የጂፒዩ VRAM አቅምን አልፏል። | በአገልጋይ ማስጀመሪያ መለኪያዎች ውስጥ max_model_len ይቀንሱ ወይም የ4-ቢት AWQ ኳንታይዜሽን ያንቁ። |
Inference Timeout (>30s) | አገልጋዩ ከተከታታይ ከባድ የቡድን ጥያቄዎች በስተጀርባ ተሰልፏል። | የሰራተኛ ክሮችን ይጨምሩ ወይም ከNginx በስተጀርባ ሚዛናዊ የvLLM አጋጣሚዎችን ያሰማሩ። |
Malformed Unicode Characters in Amharic | የደንበኛ ተርሚናል ወይም አሳሽ የግዕዝ ፊደላት ቅርጸ-ቁምፊዎችን (Nyala/Abyssinica) የለውም። | የስርዓቱ ቅርጸ-ቁምፊ ቁልል Nyala, Abyssinica SIL, sans-serif ማካተቱን ያረጋግጡ። |
2. Prerequisites & Infrastructure Requirements#
- የስራ ማስኬጃ አካባቢ (Runtime): Python 3.12+፣ PostgreSQL 16 ከ
pgvectorቅጥያ ጋር። - የደህንነት መዳረሻ ቡድን:
Ashewa AI / Administrator(የቴክኒክ መለያ፦muk_ai.group_ai_manager) - የሃርድዌር ዝርዝር: ቢያንስ 16 ጊባ የስርዓት RAM (ለሲፒዩ ኢንፈረንስ) ወይም NVIDIA ጂፒዩ ከ8+ ጊባ VRAM ጋር።
3. Step-by-Step Configuration & Verification#
Step 1: Navigating to Model Management#
- የSmartERP ስርዓትዎን በ
https://smarterp.et/odooይክፈቱ። - ወደ Settings → Technical → Ashewa AI → Model Registry ይሂዱ።
- ብጁ የሞዴል መገለጫውን ይምረጡ።
Step 2: Testing Endpoint Health & Response Verification#
- የRun Diagnostic Health Check አዝራሩን ጠቅ ያድርጉ።
- የቶከን ማመንጫ ፍጥነትን (ቶከን/ሰከንድ) እና የመዘግየት መለኪያዎችን ያረጋግጡ።
- በዲያግኖስቲክ ኮንሶል ውስጥ የናሙና ምላሹን ይገምግሙ።
4. Advanced Configuration Points#
- አውቶማቲክ ተግባራት:
muk_ai.ir_cron_model_health_monitorበየ15 ደቂቃው ይሰራል:: - የተከራይ ወሰኖች (Multi-Tenant): የብጁ ሞዴል ማስተካከያ አዳፕተሮች በእያንዳንዱ የተከራይ የውሂብ ጎታ በጥብቅ የተከፋፈሉ ናቸው።
5. Comprehensive Troubleshooting Matrix#
| Symptom / Error | Probable Root Cause | Resolution Action |
|---|---|---|
Connection refused: Model server unreachable | የኢንፈረንስ ዴሞን ቆሟል ወይም ወደቡ በፋየርዎል ታግዷል። | የሞዴል አገልግሎቱን እንደገና ያስጀምሩ (systemctl restart vllm) እና የፋየርዎል ደንቦችን ያረጋግጡ። |
Token limit exceeded on input prompt | የግብዓት አውድ የመስኮቱን መጠን አልፏል። | በሞዴል መገለጫ ቅንብሮች ውስጥ የአውድ ማሳጠርን ያንቁ። |
መጨረሻ የተሻሻለው: 2026-11-15