දේශීය දෘඩාංග සහ ආකෘති අනුකූලතා විගණනය

කෙටි බැලීමකින්

මිල

$25.99

බෙදාහැරීම

2 දිනකින් බෙදා හරිනු ලැබේ

විකිණුම්කරු

Zinn Digital

විකුණන ලදී

0

මෙම ලැයිස්තුගත කිරීම පිළිබඳව

විශාල භාෂා ආකෘති (large language models) සහ ප්‍රතිසාධන-වැඩිදියුණු කළ නල මාර්ග (retrieval-augmented pipelines) ප්‍රාදේශීයව ධාවනය කිරීම සඳහා ඔබ තෝරාගත් ආකෘතිය සහ ඔබ සතුව ඇති දෘඩාංග අතර නිවැරදි ගැළපීමක් අවශ්‍ය වේ. පරාමිති ගණන ඔබගේ ග්‍රැෆික් මතකය හෝ පද්ධති RAM ප්‍රමාණය ඉක්මවා ගිය විට, ඔබගේ මෙහෙයුම් පද්ධතිය තැටියට හුවමාරු කිරීම (swapping) ආරම්භ කරන බැවින් කාර්යසාධන ප්‍රතිදානය සම්පූර්ණයෙන්ම පාහේ පහත වැටිය හැක.

මෙම සේවාව ඔබ කිසිදු බාගත කිරීමක් හෝ ස්ථාපනයක් කිරීමට පෙර සම්පූර්ණ දෘඩාංග අනුකූලතා පරීක්ෂාවක් ඔබට ලබා දෙයි. අපි ඔබගේ සැබෑ යන්ත්‍රය - Apple Silicon, NVIDIA CUDA-සහිත වැඩපොළක්, හෝ සම්මත Windows හෝ Linux සර්වරයක් - පරීක්ෂා කර එයින් ප්‍රාදේශීයව උපරිම ප්‍රයෝජන ගන්නේ කෙසේද යන්න පැහැදිලි කරන්නෙමු.

අප පරීක්ෂා කරන දෑ

• ග්‍රැෆික් මතක සීමාවන්: 7B, 13B, හෝ 34B පරාමිති සහිත කුමන විශාලතම ආකෘතිය ඔබට ධාවනය කළ හැකිදැයි තීරණය කිරීමට අපි ඔබගේ වෙන්කළ VRAM ප්‍රමාණය සිතියම්ගත කරමු.
• පද්ධති මතක වෙන්කිරීම: කැපවූ GPU එකක් නොමැති හෝ මතකය බෙදාහදා ගන්නා යන්ත්‍ර සඳහා අපි ඔබගේ CPU-අනුමාන සීමාවන් සහ පැටවුම් මුදාහැරීමේ සීමාවන් ගණනය කරමු.
• ක්වොන්ටීකරණ මඟපෙන්වීම: ඔබගේ සැකසුම සඳහා ආකෘතියේ ගුණාත්මකභාවය සහ සැකසුම් වේගය සමබර කිරීමට අපි සුදුසු ක්වොන්ටීකරණ සැකසුමක් - සාමාන්‍යයෙන් Q4_K_M, Q5_K_M, හෝ Q8_0 - යෝජනා කරමු.
• සන්දර්භ කවුළු උපරිමය: අධික ලේඛන ප්‍රතිසාධනය මඟින් ඔබගේ පද්ධතිය මතකය ඉක්මවා යාමේ (out-of-memory) දෝෂයකට ලක් නොවන පරිදි අපි ආරක්ෂිත උපරිම ටෝකන ගණන ගණනය කරමු.

කුමන විවෘත මූලාශ්‍ර බර (open-source weights) ධාවනය වේදැයි අනුමාන කිරීම හෝ ඔබගේ ප්‍රාදේශීය සැකසුම මන්දගාමී වන්නේ මන්දැයි සිතමින් ලතැවීම වෙනුවට, මෙම උපකරණ සමඟ සෘජුවම වැඩ කරන පුද්ගලයින් විසින් සකස් කරන ලද දෘඩාංග-විශේෂිත සැලැස්මක් ඔබට ලැබේ. ආරම්භ කිරීම සඳහා, ඇණවුමට අදාළ වසම (domain) සහ ඔබගේ සැකසුම හා අරමුණු විස්තර කරන කෙටි සටහනක් අප වෙත එවන්න.