自托管大模型 + Agent 的完整方案
一、完整方案要解决什么 「自托管大模型 + Agent」不是单点安装,而是一条可运维链路: 模型推理 → 统一 API → Agent 运行时 → 工具与知识库 → 观测与权限 。目标是:数据尽量不出域,成本可控,能力可扩展。 二、参考架构 用户 / 内部系统 │ ▼ OpenWebUI(可选,人工对话与评测) │ ▼...
Hermes Agent 部署踩坑全记录
一、这篇写给「按文档做了但就是起不来」的人 Hermes Agent(社区亦常被搜成 Hermas)走自托管路线时,坑主要集中在:环境变量、模型接口兼容、工具权限、Docker 网络、以及「看起来启动成功但第一条工具调用就失败」。本文按真实排障顺序记录,方便对照。 二、环境与依赖类 现象 :安装成功,启动即报模块缺失 ...
HuggingFace中文NLP实战
从零玩转 Hugging Face:用 BERT 做中文分类、用 GPT-2 做中文文本生成 Hugging Face 生态入门,覆盖环境安装、模型下载、在线 API 与本地调用两种方式、两个实战 Demo、生成参数详解与常见坑。 1. 为什么是 Hugging Face Hugging Face(以及国内的 Mode...
BERT中文分类训练实战
BERT 中文分类全流程:分词、编码、数据集与增量微调 中文分词与编码、AI 项目五阶段、用 ChnSentiCorp 制作自己的 Dataset,以及「冻结 BERT + 全连接头」的增量微调。 1. 中文分词:句子怎么变成数字 NLP 的第一步,是把句子转成词(token): 方式一:单个文字分词 ——按单字切分。...