官方文档说明本站未实测
llama.cpp
C/C++ 大模型推理项目,面向多种本地硬件后端。
术语速读
模型负责生成与推理;Agent 使用工具完成任务;Harness 管理 Agent 的运行环境;MCP 是连接工具与数据的协议;Skill 是可复用的任务指导。
研究说明
C/C++ 大模型推理项目,面向多种本地硬件后端。
验收方法
- C/C++ 大模型推理项目,面向多种本地硬件后端。
费用
免费软件;许可与资源成本另核验
软件源码公开;模型许可、硬件、电费与托管另计,未核验完整总成本。
边界与限制
- 模型格式、量化、上下文和硬件共同决定资源需求,未提供无条件硬件保证。
- 已核验官方资料,本站未执行该组合或设备实测。
原始来源
- llama.cpp 官方资料 ↗
github.com · 2026-10-15 · 官方文档说明