BlueFish AI阿鳍 AI 情报局
⌕
官方文档说明本站未实测

建立第一个本地聊天端点

先确认本地推理与 API 正常,再接入 Agent。

最近核验:
术语速读

模型负责生成与推理;Agent 使用工具完成任务;Harness 管理 Agent 的运行环境;MCP 是连接工具与数据的协议;Skill 是可复用的任务指导。

当前任务

建立第一个本地聊天端点

前置条件

准备获授权的独立测试环境,固定依赖与模型版本,先备份再修改。

预计时间

学习者时间因环境而异,非实测耗时。

验收方法

确认请求确实发往 localhost,并比较界面与 API 的回答。

边界与限制

端口不一致、模型未加载、资源不足或模型 ID 拼写错误。

替代方案

ollama

lm-studio

费用

待核验

价格尚未核验;软件、模型、API、硬件和托管费用需分别确认。

实施步骤

  1. 01
    选择 Ollama 或 LM Studio 的官方安装渠道并记录版本。
  2. 02
    选择一个许可清楚且适合本机资源的具体模型,记录模型与量化。
  3. 03
    在工具中先完成本地对话,再开启仅限本机的 API 服务。
  4. 04
    按官方接口发送短文本请求,保存模型标识、错误与延迟,勿上传私密文件。

边界与限制

  • 只绑定本机;本地运行不代表模型许可无限制。
  • 已核验官方资料,本站未执行该组合或设备实测。

权限与风险

  • 只绑定本机;本地运行不代表模型许可无限制。

原始来源

  1. Ollama 官方资料 ↗

    docs.ollama.com · 2026-10-15 · 官方文档说明

  2. LM Studio 官方资料 ↗

    lmstudio.ai · 2026-10-15 · 官方文档说明

关联资源

本地运行环境免费软件;许可与资源成本另核验

Ollama

本地模型运行与 API 工具,提供部分 OpenAI 接口兼容。

官方文档说明
本地运行环境免费软件;许可与资源成本另核验

LM Studio

桌面本地模型工具,提供 Chat Completions、Responses 等兼容端点。

官方文档说明