衡羽科技 logo衡羽科技
制造业落地

企业 AI Agent 与知识库:怎么搭、先搭哪块

更新于 2026-10-17数据均来自公开来源

企业 AI Agent 怎么搭,第一步不是选模型,而是决定先搭哪一种用法。常见三种:问答型(把散落的文档变成能问的答案)、流程型(把有系统承载的业务流程交给它盯)、分析型(把多个系统的数据汇总成判断)。选错起点,后面会一路别扭;选对起点,第一版通常能较快跑起来;真正拖工期的是取数,不是模型。

企业 AI Agent 的三种用法:先分清再选

用法解决什么依赖什么起手难度
问答型制度、工艺、售后、培训类问题不用再问人文档语料质量、切分粒度、权限分层较低,见效快
流程型订单、工单、审批、异常处理按规则推进与提醒业务系统可读取数、节点与责任清晰中,价值容易量化
分析型跨系统汇总出「今天该动哪几件事」多来源取数、口径统一、指标定义较高,但决策价值最大

三种用法可以叠加,但不能同时起手。通行做法是先做一种,跑顺之后把它的取数与口径沉淀下来,再扩第二种——这也是为什么「企业 AI Agent」这类项目,第二期往往比第一期顺利得多。

先搭哪一块:三个判断条件

  1. 知识是否稳定。制度类、工艺类文档相对稳定,适合先做问答;变动频繁、靠口头传递的内容,先做问答会一直返工。
  2. 流程有没有系统承载。流程如果还在纸面和微信里,Agent 没有可依托的数据,只能变成另一个聊天窗口。
  3. 错了会怎样。答案错了能被使用者一眼看出来的场景适合先做;错了看不出来、后果又重的场景,先设置人工复核环节。

语料治理的四件事

大多数「答非所问」不是模型的问题,而是语料的问题。四件事按顺序做:

  • 清洗与去重:同一份文件多个版本、截图版 PDF、过期通知,这些先清理。检索系统会把最像的那一段当答案,版本混乱等于答案混乱。
  • 切分粒度:按问题粒度切,而不是按页切。工艺参数类要按工序切,制度类要按条款切。
  • 权限分层:谁能问什么,跟着公司现有的权限体系走,不要另造一套。
  • 更新机制:新文件谁放进去、过期文件谁下架、多久检查一次,写清责任人和频率。

政策层面也把治理放在前置位置。《政务领域人工智能大模型部署应用指引》(中央网信办 2025 年 10 月发布)强调系统谋划、集约发展与安全稳妥,规范与治理属于部署前的必要工作,这个次序对企业内部的部署同样适用。

技术上要提前定的三件事

  1. 模型走云还是本地。数据敏感度高、并发稳定,考虑本地部署;数据敏感度一般,先用按量付费的接口验证场景,成本更低也更灵活。
  2. 检索方案怎么评。准备 50—100 个真实问题当基线,每一版都跑一遍,记录错答属于「找不到」「找混了」还是「答案过期」——三类错误对应三种改法,不要笼统地说「效果不好」。
  3. 答案的边界怎么呈现。能答的说清来源,取不到的数据明示取不到,不确定的给出置信提示。这一条决定了使用者信任不信任它。

公开数据说明的进度与差距

从公开调研看,2024 年中国工业企业里应用大模型与智能体的还不到一成,2025 年已接近一半(IDC 中国工业企业调研:9.6% 升至 47.5%);工业和信息化部等八部门 2025 年 12 月印发的《「人工智能+制造」专项行动实施意见》提出,到 2027 年推出 1000 个高水平工业智能体、推广 500 个典型应用场景。同时,行业测算认为近八成企业启动过智能体试点,但只有约一成半进入生产环境——差距集中在语料、取数与运行归属这三件具体的事上。关于第一年的预算结构,可以看我们另一篇《企业 AI Agent 与知识库:第一年预算怎么拆》。

四个常见失败原因

  • 把知识库当文件夹上传。不做清洗与切分,检索只能靠关键词碰运气。
  • 先建平台后找场景。平台搭起来,用例还在讨论,最后变成演示环境。
  • 没有人负责更新。三个月后文档过期,答错几次,使用者就回去了。
  • 一上来铺全公司。部门多、权限杂,边界问题会把项目拖住;先做一个部门或一条产品线。

关于取数与交付形态的取舍,可以看我们的 企业 AI Agent 部署 与 定制落地 页面。如果你想先确认哪一类用法适合自家,把业务场景、现有系统和文档情况发给我们(联系方式),我们给一版判断,不收费。

一句话建议:企业 AI Agent 的成败,先看语料和取数,再看模型。把语料治理的四件事做完,后面的门才打得开。
本文数据来自公开渠道:IDC 2025 年中国工业企业调研关于大模型与智能体应用比例的数据(经济参考报 2026 年 3 月 9 日报道);工业和信息化部等八部门《「人工智能+制造」专项行动实施意见》(2025 年 12 月印发)关于 2027 年前推出 1000 个高水平工业智能体、推广 500 个典型应用场景的目标;中央网信办《政务领域人工智能大模型部署应用指引》(2025 年 10 月发布)关于系统谋划、集约发展与安全稳妥的表述;财联社等媒体关于大模型一体机公开售价区间的报道;行业测算关于试点与生产环境比例的公开报道。语料治理与技术选型部分为公开实践总结。

常见问题

企业上 AI Agent,应该先做问答还是先做流程?
看两个条件:知识是否相对稳定,以及流程有没有系统承载。知识稳定、文档成体系,先做问答型见效快;流程在系统里有数据(订单、工单、审批流),先做流程型更容易算出价值。两个条件都不满足的,先补数据与文档,不要急着上 Agent。
知识库答不准,是不是要换更大的模型?
多数情况不是。检索增强的效果首先取决于语料质量:文档是否清洗去重、切分是否与问答粒度匹配、权限是否分层、更新是否有机制。这四件事没做好,换模型只会让错误更流畅。可行做法是先取 50—100 个真实问题做基线测试,看错在哪一类(找不到、找混了、答案过期),再决定改哪一环。
数据要不要放在本地?
取决于数据敏感度与并发规模,不取决于预算。公开市场上用于本地推理的一体机与整机售价从十几万元到数百万元不等;如果只是内部知识问答,且并发不高,本地部署的首要理由通常是数据不出内网,而不是性能。若数据敏感度一般,按月付费的 API 更灵活,也更容易在验证阶段止损。
上线之后还需要投入什么?
至少三件事:语料更新(新文档、过期内容、权限调整)、效果评估(真实问题的错答分类)、以及口径与答案范围的维护。公开项目里第二年开始没人用,多数不是系统坏了,而是这三件事没人管。把维护写进方案并指定责任人,比一开始买更大的模型划算。

把你的场景发给我们

把岗位清单、现有系统与数据现状发过来,我们会在 1 个工作日内给一版可落地的建议(不收费)。

预约免费诊断在线提交需求