Standard
US$25.99
或按今天的汇率支付 €23.19 · £19.42——汇率在您将其加入购物车时锁定。
2天内交付
包含版本：0
本地硬件与模型兼容性审计
卖家：Zinn Digital
快速硬件兼容性审核，向您展示您的计算机实际可以运行哪些本地 LLM 和量化级别。
一览
- 价格
- US$25.99
- 投递
- 2天内交付
- 卖家
- Zinn Digital
- 已售出
- 0
关于此商家信息
在本地运行大型语言模型和检索增强生成流程，需要您所选的模型与手头的硬件高度匹配。当参数量超出您的显卡内存或系统内存时，随着操作系统开始使用磁盘交换空间，吞吐量可能会几乎完全丧失。
此项服务可在您进行任何下载或安装之前，为您提供全面的硬件兼容性检查。我们会评估您的实际设备——无论是 Apple Silicon、配备 NVIDIA CUDA 的工作站，还是标准的 Windows 或 Linux 服务器——并阐明如何在本地充分发挥其性能。
我们的检查内容
- 显存限制：我们分析您的独立显存，以确定您可以运行的最大模型，无论是 7B、13B 还是 34B 参数版本。
- 系统内存分配：我们针对没有独立 GPU 或采用共享内存的设备，计算您的 CPU 推理阈值和卸载限制。
- 量化建议：我们推荐合适的量化设置——通常为 Q4_K_M、Q5_K_M 或 Q8_0——以便在您的配置下兼顾处理速度与模型质量。
- 上下文窗口上限：我们计算安全的最大标记数量，以确保繁重的文档检索不会导致您的系统出现内存不足故障。
您无需猜测哪些开源权重可以运行，也无需疑惑本地环境为何运行迟缓，而是能获得由直接使用这些设备的专业人员制定的针对性硬件方案。如需开始，请向我们发送与该订单相关的域名，以及一份说明您的配置和目标的简要说明。
可购买的项目
无需事先注册账户 — 您的账户将在结账时自动创建。在您验收工作之前，款项由我们代管。