Model Weights, Quantization, and Inference Parameter Topology
የቴክኒክ መለኪያዎች፣ የክብደት ኳንታይዜሽን (GGUF/AWQ 4-bit/8-bit)፣ የትኩረት አርክቴክቸር እና የGPU/CPU ግብዓት መስፈርቶች።


1. አጠቃላይ እይታ እና ቴክኒካዊ አርክቴክቸር#
ዋናው ሉዓላዊ የድርጅት ሞዴል አነስተኛ መዘግየት ላለው የንግድ ግብይት ሂደት በተመቻቸ በተስተካከለ ትራንስፎርመር አርክቴክቸር ላይ የተገነባ ነው። ይህ ሞዴል በድርጅቱ ውስጥ የሚከናወኑ የፋይናንስ፣ የግብር፣ የደመወዝ ክፍያ እና የግዥ ስራዎችን በከፍተኛ ትክክለኛነት እና ቅልጥፍና ያከናውናል::
1. የሞዴል ዝርዝሮች እና የኳንታይዜሽን ማትሪክስ#
| ዝርዝር መግለጫ | ዋናው ሉዓላዊ ሞዴል | የትንታኔ ደመና ሞዴል | ቀላል የዳርቻ ሞዴል |
|---|---|---|---|
| የመሰረት አርክቴክቸር | LLaMA-3.1 8B Instruct | Gemini 3.5 Flash | LLaMA-3.2 3B Instruct |
| የመለኪያዎች ብዛት | 8.03 ቢሊዮን | የባለቤትነት (MoE) | 3.21 ቢሊዮን |
| የኳንታይዜሽን ቅርጸት | AWQ 4-bit / GGUF Q4_K_M | ሙሉ ጥራት (ኤፒአይ) | Q4_0 ሲፒዩ-የተመቻቸ |
| የአውድ መስኮት | 128,000 ቶከኖች | 1,000,000 ቶከኖች | 32,000 ቶከኖች |
| የVRAM አሻራ | 5.8 ጊባ VRAM | የሚተዳደር ደመና | 2.2 ጊባ VRAM / ሲፒዩ RAM |
| ዒላማ የተደረገ የስራ ጫና | በአገር ውስጥ ታክስ እና ደመወዝ | ውስብስብ የሞጁሎች BI | የሞባይል የመስክ አገልግሎት |
2. የትኩረት ዘዴዎች እና ቶከናይዘር#
ቶከናይዘሩ ለኢትዮጵያ (ግዕዝ) ፊደላት ዩኒኮድ ብሎክ (U+1200 እስከ U+137F) 16,000 ልዩ ቶከኖችን ያካትታል፣ ይህም መደበኛ የእንግሊዝኛ ተኮር ቶከናይዘሮች ከሚያስፈልጋቸው 4.8 ቶከን በአንድ ቃል ጋር ሲነጻጸር የአማርኛ ጽሑፍ በ1.15 ቶከን በአንድ ቃል ቅልጥፍና እንዲመነጭ ያደርጋል። ይህ የላቀ የቶከናይዜሽን ቅልጥፍና የስርዓቱን የማስኬጃ ፍጥነት በከፍተኛ ደረጃ የሚያፋጥነው ሲሆን፣ የሃርድዌር ማህደረ ትውስታ አጠቃቀምን እና የሀይል ፍጆታን በእጅጉ ይቀንሳል::
2. ቅድመ ሁኔታዎች እና የመሠረተ ልማት መስፈርቶች#
- የስራ ማስኬጃ አካባቢ (Runtime): Python 3.12+፣ PostgreSQL 16 ከ
pgvectorቅጥያ ጋር። - የደህንነት መዳረሻ ቡድን:
Ashewa AI / Administrator(የቴክኒክ መለያ፦muk_ai.group_ai_manager) - የሃርድዌር ዝርዝር: ቢያንስ 16 ጊባ የስርዓት RAM (ለሲፒዩ ኢንፈረንስ) ወይም NVIDIA ጂፒዩ ከ8+ ጊባ VRAM ጋር።
3. ደረጃ በደረጃ ውቅር እና ማረጋገጫ#
ደረጃ 1፦ ወደ ሞዴል አስተዳደር ማሰስ#
- የSmartERP ስርዓትዎን በ
https://smarterp.et/odooይክፈቱ። - ወደ Settings → Technical → Ashewa AI → Model Registry ይሂዱ።
- ብጁ የሞዴል መገለጫውን ይምረጡ።
ደረጃ 2፦ የመጨረሻ ነጥብ ጤና እና የምላሽ ማረጋገጫን መሞከር#
- የRun Diagnostic Health Check አዝራሩን ጠቅ ያድርጉ።
- የቶከን ማመንጫ ፍጥነትን (ቶከን/ሰከንድ) እና የመዘግየት መለኪያዎችን ያረጋግጡ።
- በዲያግኖስቲክ ኮንሶል ውስጥ የናሙና ምላሹን ይገምግሙ።
4. የላቁ የማዋቀሪያ ነጥቦች#
- አውቶማቲክ ተግባራት:
muk_ai.ir_cron_model_health_monitorበየ15 ደቂቃው ይሰራል:: - የተከራይ ወሰኖች (Multi-Tenant): የብጁ ሞዴል ማስተካከያ አዳፕተሮች በእያንዳንዱ የተከራይ የውሂብ ጎታ በጥብቅ የተከፋፈሉ ናቸው።
5. አጠቃላይ የመላ ፍለጋ ማትሪክስ#
| Symptom / Error | Probable Root Cause | Resolution Action |
|---|---|---|
Connection refused: Model server unreachable | የኢንፈረንስ ዴሞን ቆሟል ወይም ወደቡ በፋየርዎል ታግዷል። | የሞዴል አገልግሎቱን እንደገና ያስጀምሩ (systemctl restart vllm) እና የፋየርዎል ደንቦችን ያረጋግጡ። |
Token limit exceeded on input prompt | የግብዓት አውድ የመስኮቱን መጠን አልፏል። | በሞዴል መገለጫ ቅንብሮች ውስጥ የአውድ ማሳጠርን ያንቁ። |
መጨረሻ የተሻሻለው: 2026-11-15