官方文档说明本站未实测
建立第一个本地聊天端点
先确认本地推理与 API 正常,再接入 Agent。
术语速读
模型负责生成与推理;Agent 使用工具完成任务;Harness 管理 Agent 的运行环境;MCP 是连接工具与数据的协议;Skill 是可复用的任务指导。
当前任务
建立第一个本地聊天端点
前置条件
准备获授权的独立测试环境,固定依赖与模型版本,先备份再修改。
预计时间
学习者时间因环境而异,非实测耗时。
验收方法
确认请求确实发往 localhost,并比较界面与 API 的回答。
边界与限制
端口不一致、模型未加载、资源不足或模型 ID 拼写错误。
替代方案
ollama
lm-studio
费用
待核验
价格尚未核验;软件、模型、API、硬件和托管费用需分别确认。
实施步骤
- 01选择 Ollama 或 LM Studio 的官方安装渠道并记录版本。
- 02选择一个许可清楚且适合本机资源的具体模型,记录模型与量化。
- 03在工具中先完成本地对话,再开启仅限本机的 API 服务。
- 04按官方接口发送短文本请求,保存模型标识、错误与延迟,勿上传私密文件。
边界与限制
- 只绑定本机;本地运行不代表模型许可无限制。
- 已核验官方资料,本站未执行该组合或设备实测。
权限与风险
- 只绑定本机;本地运行不代表模型许可无限制。
原始来源
- Ollama 官方资料 ↗
docs.ollama.com · 2026-10-15 · 官方文档说明
- LM Studio 官方资料 ↗
lmstudio.ai · 2026-10-15 · 官方文档说明