Standard
$25.99
ឬទូទាត់ €23.19 · £19.42 តាមអត្រាតម្លៃថ្ងៃនេះ — អត្រាតម្លៃត្រូវបានចាក់សោ នៅពេលអ្នកបន្ថែមវាទៅក្នុងកន្ត្រករបស់អ្នក។
បានបញ្ជូនក្នុងរយៈពេល 2 ថ្ងៃ
កំណែប្រែដែលបានរាប់បញ្ចូល៖ 0
សវនកម្មភាពត្រូវគ្នានៃផ្នែករឹងមូលដ្ឋាន និងម៉ូដែល
លក់ដោយ Zinn Digital
សវនកម្មភាពឆបគ្នានៃផ្នែករឹងយ៉ាងរហ័ស ដែលបង្ហាញពី LLM ក្នុងស្រុក និងកម្រិតបរិមាណកម្មណាខ្លះដែលកុំព្យូទ័ររបស់អ្នកពិតជាអាចដំណើរការបាន។
មួយភ្លែត
- តម្លៃ
- $25.99
- ការដឹកជញ្ជូន
- បានបញ្ជូនក្នុងរយៈពេល 2 ថ្ងៃ
- អ្នកលក់
- Zinn Digital
- បានលក់
- 0
អំពីការចុះបញ្ជីនេះ
ការដំណើរការម៉ូឌែលភាសាធំៗ និងប្រព័ន្ធទាញយកទិន្នន័យបន្ថែម (RAG) នៅលើម៉ាស៊ីនផ្ទាល់ ទាមទារឱ្យមានភាពស៊ីគ្នាយ៉ាងខ្លាំងរវាងម៉ូឌែលដែលលោកអ្នកបានជ្រើសរើស និងផ្នែករឹង (hardware) ដែលលោកអ្នកមាន។ នៅពេលដែលចំនួនប៉ារ៉ាម៉ែត្រលើសពីទំហំអង្គចងចាំក្រាហ្វិក ឬ RAM របស់ប្រព័ន្ធ ល្បឿនដំណើរការអាចនឹងធ្លាក់ចុះស្ទើរតែទាំងស្រុង ដោយសារប្រព័ន្ធប្រតិបត្តិការចាប់ផ្តើមប្តូរទិន្នន័យទៅកាន់ថាសរឹង (disk swapping)។
សេវាកម្មនេះផ្តល់ជូនលោកអ្នកនូវការត្រួតពិនិត្យភាពត្រូវគ្នានៃផ្នែករឹងយ៉ាងពេញលេញ មុនពេលលោកអ្នកសម្រេចចិត្តទាញយក ឬដំឡើងកម្មវិធីណាមួយ។ យើងពិនិត្យមើលម៉ាស៊ីនជាក់ស្តែងរបស់លោកអ្នក — មិនថាជា Apple Silicon, ម៉ាស៊ីនការងារបំពាក់ NVIDIA CUDA, ឬម៉ាស៊ីនមេ Windows ឬ Linux ស្តង់ដារនោះទេ — ហើយកំណត់វិធីទាញយកអត្ថប្រយោជន៍ជាអតិបរមាពីវាសម្រាប់ការដំណើរការនៅលើម៉ាស៊ីនផ្ទាល់។
អ្វីដែលយើងត្រួតពិនិត្យ
- កម្រិតកំណត់នៃអង្គចងចាំក្រាហ្វិក៖ យើងកំណត់ទំហំ VRAM ជាក់លាក់របស់លោកអ្នក ដើម្បីដឹងពីម៉ូឌែលធំបំផុតដែលអាចដំណើរការបាន មិនថាជាប្រភេទប៉ារ៉ាម៉ែត្រ 7B, 13B, ឬ 34B នោះឡើយ។
- ការបែងចែកអង្គចងចាំប្រព័ន្ធ៖ យើងគណនាកម្រិតកំណត់នៃដំណើរការ CPU-inference និងដែនកំណត់នៃការផ្ទេរបន្ទុក (offloading) សម្រាប់ម៉ាស៊ីនដែលគ្មាន GPU ដាច់ដោយឡែក ឬម៉ាស៊ីនដែលប្រើប្រាស់អង្គចងចាំរួមគ្នា។
- ការណែនាំអំពីការបង្រួមទិន្នន័យ (Quantisation)៖ យើងស្នើឡើងនូវការកំណត់កម្រិត quantisation ដ៏សមស្របមួយ — ជាទូទៅគឺ Q4_K_M, Q5_K_M, ឬ Q8_0 — ដើម្បីឱ្យល្បឿនដំណើរការត្រូវគ្នានឹងគុណភាពនៃម៉ូឌែលសម្រាប់ប្រព័ន្ធរបស់លោកអ្នក។
- កម្រិតអតិបរមានៃផ្ទាំងបរិបទ (Context window)៖ យើងគណនាចំនួនថូខឹន (token) អតិបរមាប្រកបដោយសុវត្ថិភាព ដើម្បីកុំឱ្យការទាញយកឯកសារច្រើនរុញច្រានប្រព័ន្ធរបស់លោកអ្នកឱ្យធ្លាក់ចូលទៅក្នុងបញ្ហាខ្វះអង្គចងចាំ (out-of-memory)។
ជាជាងការទាយថាតើទម្ងន់ទិន្នន័យ (weights) កូដចំហណាមួយនឹងដំណើរការ ឬឆ្ងល់ថាហេតុអ្វីបានជាការរៀបចំនៅលើម៉ាស៊ីនផ្ទាល់របស់លោកអ្នកមានសភាពយឺតយ៉ាវ លោកអ្នកនឹងទទួលបានផែនការជាក់លាក់សម្រាប់ផ្នែករឹងដែលរៀបចំឡើងដោយអ្នកជំនាញធ្វើការផ្ទាល់ជាមួយឧបករណ៍ទាំងនេះ។ ដើម្បីចាប់ផ្តើម សូមផ្ញើដូមែនដែលពាក់ព័ន្ធនឹងការបញ្ជាទិញនេះមកកាន់យើង ព្រមទាំងការពិពណ៌នាសង្ខេបអំពីការរៀបចំប្រព័ន្ធ និងគោលដៅរបស់លោកអ្នក។
អ្វីដែលអ្នកអាចទិញបាន
មិនចាំបាច់មានគណនីជាមុនទេ — គណនីរបស់អ្នកត្រូវបានបង្កើតឡើងនៅពេលទូទាត់ប្រាក់។ យើងរក្សាទុកប្រាក់រហូតដល់អ្នកទទួលយកការងារ។