10月16日至18日,第十届中国软件研发智能创新科技峰会在深圳举行。本届大会以“数智+智管”为主题,汇聚众多行业专家与技术团队,共探智能化研发的落地路径。
网易智企受邀参会,网易智企·数帆 DataAgent 技术负责人张佃鹏在“AI 时代的能力底座:数据与研发体系的 Agent 化建设”专场带来《网易智企企业级知数 DataAgent 的技术演进和实践》主旨分享,从三年技术演进出发,拆解了数据分析智能体从“能演示”到“敢上生产”的完整路径。

网易智企·数帆 DataAgent 技术负责人张佃鹏作主旨分享

过去三年,智能问数从 ChatBI 演进到知数 DataAgent,网易智企·数帆的产品完整经历了这一过程。企业需要的已经不再只是“问数”工具,而是懂业务、会分析、能交付的知数 DataAgent。此前《网易有数 ChatBI 技术探索和实践》重点探讨了 ChatBI 的技术探索。本次,张佃鹏将从亲历者角度,深度拆解这三年的技术演进过程,以及知数 DataAgent 产品的整体设计,重点阐述如何将语义建设、Harness 工程保障、自动化评测和交付系统做扎实。

文章主要从以下七个部分展开:

1

从 ChatBI 到知数 DataAgent:三年演进、踩坑与挑战

2

全链路数据分析平台:网易智企·知数 DataAgent 的产品和技术架构介绍

3

指标语义平台建设:让 AI 从查得到数据,走到真懂业务

4

稳定性和准确性体系建设:让 AI 从真懂业务,走到敢上生产

5

自动化评测与交付体系建设:让 AI 形成数据飞轮

6

组织资产沉淀:让个人的经验成长为组织的能力

7

六点思考

从 ChatBI 到知数 DataAgent:三年演进、踩坑与挑战

1.1 数据分析智能体真正难在哪

知数 DataAgent 是最复杂的智能体之一,主要的难点可以总结为以下四个部分:

找表靠猜

企业数据往往面临“表多、域广、名字像”的困境:上千张表横跨多域,字段名高度同质化。大模型的上下文有限,根本无法全量吞下所有元数据。这导致了一个致命问题:第一步表选错了,后面整条链路就全废了。 SQL 写得再完美,也只是在查一张错表。

口径不同

同一个指标,每个部门每个人理解的口径都不一样。比如“上月华东销售额”这句话,财务给的是 1.24 亿,剔除了退款;运营给的是 1.51 亿,按 GMV 口径。两个数都“对”,但放在同一张汇报 PPT 里,就是一次信任危机。

答案幻觉

这是极其经典的场景:Demo 演示时又快又准、惊艳全场;一上生产环境,却各种报错、答非所问。大模型天生具备概率性与发散性,而数据分析要的是可靠的证据和可复现的结论。在 Demo 里,这些矛盾都被“干净的样例数据”藏起来了;只有到了真实客户环境,才会原形毕露。

越权拖库

数据安全与查询性能,是单靠大模型根本“管不住”的。换个问法,就可能突破表、行、列级的权限防线,窥探全公司数据;而任由大模型生成复杂 SQL,一条慢查询就足以让生产库瞬间瘫痪。

这四个问题,换一个更强的模型,一个都不会少,最终真正靠的是高质量的语义建设和日积月累的 Harness 工程打磨。

1.2 通用 Agent 已经很强,为什么还要做知数 DataAgent

今年上半年,这个问题被反复问起,通用 Agent 已经这么强了,接上 MCP 和 Skills 就能查数,那为什么还要单独做知数 DataAgent?

通用 Agent 缺少数据底座

通用 Agent 接入几个查数 Tool 就能“跑起来”,看似能用,实则权限、算力与性能均无法兜底。知数 DataAgent 则把权限作为硬约束内嵌于执行链路,既能支撑时点、归因、预测等高阶计算,在海量数据下也能实现极速响应。

通用 Agent 缺少资产沉淀

通用 Agent 多局限于个人的一次性问答,问完即走,无法形成组织资产的沉淀。相比之下,知数 DataAgent 在问答工具之上,构建了完善的数据资产管理能力:无论是数据、图表还是报告,均可随时收藏、二次编辑并分享协同,真正让单次分析转化为团队资产。

通用 Agent 缺少反馈追溯

Coding Agent 写完代码,有编译报错和测试用例兜底,天然自带验证闭环。但在数据场景里,查错了数往往是“静默”的:SQL 语法没毛病,任务也跑通了,但结果就是错的,且没有任何机制会主动报警。因此,知数 DataAgent 必须靠自己“造”反馈——用语义约束、SQL 校验、自动化评测和血缘追溯,把静默的错误变成可见的拦截。

对待通用 Agent,数帆的策略是复用它的核心能力,规划、记忆、技能、沙箱这些,拿来主义;知数 DataAgent 要做的是在它之上,把数据世界特有的确定性底座和产品形态做深。

1.3 三代架构演进与关键取舍

知数 DataAgent 并非顶层设计一步到位的结果,而是被技术迭代一次次逼着向前演进的。如下图所示,其发展主要经历了三次关键的技术跃迁:

阶段一(2024 年):ChatBI,把 SQL 取数做准

该阶段,数帆的主要目标是提升“取数”的准确性。为此,团队建设了字段检索增强、SQL 解析、SQL 后处理、物化视图以及行列权限等技术能力,并投入大量资源微调 NL2SQL 大模型,使准确率达到84%。这在当时具备显著优势,但随着基座模型的快速迭代,该优势很快被填平,因此数帆在2025年主动放弃了自研大模型。

同时,该阶段的实践也带来一个关键认知:能取数,不等于能分析。取数仅仅是整条分析链路中很小的一环。因此,数帆在2025年迈入第二阶段,将战略重点转向了深度的数据分析。

阶段二(2025 年),指标语义,从取数走向分析

第二阶段开始建设指标语义平台,通过构建指标体系、公共维度、统一口径,指标图谱与数据血缘,非结构化知识解析,打造面向各业务的业务助手,目标是提升复杂分析能力。

但当时 Agent 的实现方式是工作流编排,意图识别、问题改写、多任务规划、槽位提取、数据解读,每一步都是人提前设计好的节点。问题很快暴露,工作流编排的稳定性确实好,但路径是人替 Agent 事先想好的,没预设的路径就束手无策。所以问题不在能力,而在“谁来规划”。

阶段三(2026 年),ReAct,让 Agent 自主规划

该阶段系统全面转向 ReAct 模式,由流程驱动转为 Agent 驱动,使 Agent 能够自主拆解任务并进行动态编排。在继承前两个阶段可靠底座与语义资产的基础上,系统新增了原子工具集、记忆、Skills、沙箱等核心能力。伴随决策权向模型转移,Agent 的自由度显著提升,但不可控性也随之增加,稳定性、准确性与成本控制成为新的关键课题。该阶段的核心任务,是把 Harness 工程做厚、做实。

回头看这三次演进,每一代升级都淘汰了上一代的部分能力,但是真正核心的能力被一层层留下来,成为下一阶段的基石。

全链路数据分析平台:网易智企·知数 DataAgent 的产品和技术架构介绍

2.1 知数 DataAgent 的产品架构

知数 DataAgent 的定位是让 AI 从“回答问题”走向“参与完整的数据工作链路”。整个产品分五层:

数据层

支持企业级数据源的统一接入与治理,支持对接第三方 BI 和指标平台。

语义层

统一指标语义定义,支持血缘、图谱分析、文档解析,把数据变成 AI 读得懂的资产。

Agent 层

通过业务助手圈定场景,自然语言发起任务,Core Agent 自主规划和调度工具、执行分析。

产出层

图表、报告、文件等分析结果沉淀到工作台,支持分享、导出、推送。

开放层

自定义入口、业务助手、MCP 和 IM 集成、外部工具接入。

最终数帆的目标是让每个业务团队都拥有一个真正可用、可信、可持续进化的 知数 DataAgent 数字员工。

2.2 让数据从被看见走到被交付

为了帮助大家更清晰地了解知数 DataAgent 能解决哪些具体问题,下面通过一条日常典型的数据工作链路来展示:

STEP 01

用户问“每年的销售额变化趋势”,知数 DataAgent 直接给出折线图、数据表和结论,信息不全时主动澄清。

STEP 02

接着问“2013 年销售额相比 2012 年迅速增长的原因是什么”,它识别到这是归因分析,自动按维度拆解、做因素筛选和相关性分析,定位同向和反向的核心贡献因子,并给出可解释的图表解读。

STEP 03

如果觉得这个分析结果很好,想沉淀成报告,只需要一句话“基于这个结论给系统生成一份 AI 分析报告”,直接产出结构化报告,里面有全文概览、关键指标看板、多张可视化图表和结构性建议,可以在线编辑,数据动态更新。

STEP 04

如果觉得这套分析方法不错,可以应用到其他分析场景,你可以直接和知数 DataAgent 会话,让知数 DataAgent 把它固化成技能,技能也可以分享给其他人,将个人经验变成了组织能力。

STEP 05

如果用户比较懒,希望可以每天早上看到这个报告,只需要和知数 DataAgent 说一句“每周一早上自动发一份到企业 IM(钉钉/企微/飞书,网易内部为 POPO)”,用自然语言创建定时任务,到点自动跑,结果直接推到手机上的 IM。

这一圈走完,可以看到,知数 DataAgent 的终点不是问答,是一条从问数、归因、交付、沉淀到自动推送的完整数据工作链路。

2.3 知数 DataAgent 的技术架构设计

知数 DataAgent 技术架构从下到上看,主要分为下面几个部分:

1

部署形态:支持私有化部署、公有云 SaaS 部署及订阅等多种模式,灵活适配不同企业的环境需求。

2

基础设施:包含数据源对接、数据查询引擎、权限与安全三大模块,构成了知数 DataAgent 的核心底座。这也是数帆过去10年在构建 BI 体系过程中持续沉淀下来的核心技术。

3

语义层:AI 落地,语义先行。该层是让大模型理解业务的关键,将在第三章重点讲解。

4

工具层:位于语义层之上,系统将绝大部分原子能力抽象为内置工具。这套工具集构成了大模型触达业务的“手和脚”,供 Agent 灵活调用。

5

Agent 运行时:左侧为大模型网关,支持 Token 成本用量控制与大模型调用管理;右侧为 Agent 循环体。该层主要通过持续优化 Harness 工程,来保障系统运行的稳定性和准确性,将在第四章重点讲解。

6

业务应用层:用户可通过业务助手定制面向特定领域的专属数字人,并在助手中实现自然语言取数、深度分析等自主问答能力。最终,分析结果可通过工作台沉淀下来,形成组织资产。

7

自动化保障体系:位于架构侧边,是系统稳定运行的重要保障,涵盖自动化评测、问题自主排查、自动化交付等能力,将在第五章详细讲解。

通过上述整体技术设计,最终确保知数 DataAgent 运行在语义可信、权限受控、计算可靠的架构之上。后续几章将对这张架构图进行逐一拆解。

指标语义平台建设:让 AI 从查得到数据,走到真懂业务

这一章要解决的问题就是如何让 AI 从查数据到懂业务。

3.1 为什么 AI 总是答不对

先看一组数字,在数十家真实客户场景做过 POC 实测:数据初始化完成、还没做任何语义建设时,问答准确率不到 50%;经过指标构建、业务术语定义、提示词调优这些环节之后,准确率能到 90% 以上,甚至更高。这个过程,大模型没有变,数据也没有变,为什么差距这么大呢?核心在于有没有把企业的语义准确传达给模型。

下面来看看四类最典型的“答不对”。它们看似简单,但都潜藏着多种“正确答案”:

歧义类型
用户这么问
歧义在哪
计算口径理解歧义
最近一个月的利润是多少?
"最近一个月"是自然月,还是从今天往前推 30 天?两个口径,两个数,模型只能猜
指标选择理解歧义
上月的销售额是多少?
销售额、销售收入、GMV 三个指标都在,该选哪个?选错一个,口径全错
业务术语理解歧义
昨天的战报是多少?
"战报"是什么?这家公司是销售额、订单数、客户数;换一家公司,完全是另一组数
分析思路不理解
销售额为什么降了?
从时间、地域、品类,还是客户、渠道拆?没有思路,模型会把十几个维度全拆一遍,又慢又散

这四类问题,换成更强的模型,都不会少。因为答案不取决于模型,取决于公司怎么定义。所以知数 DataAgent 要真正用起来,必须建设语义,这个是没有捷径的。

3.2 语义平台六层技术架构

这个是网易智企·数帆语义平台的六层架构,从上到下分别是:

数据源层

支持40多种数据源,包括文本、关系、分布式、API;支持自定义 SQL、轻量化 ETL、第三方文档解析等;

计算与加速层

语义消费最后消费的一定是数据,所以对于数据的计算和加速来说非常重要,系统的计算表达式引擎支持100多个内置函数、LOD、表计算、同环比;智能物化支持跨指标、跨数据源物化、SQL 改写和智能路由;MPP 加速覆盖 Doris、ClickHouse、StarRocks,做到亿级数据秒级响应。

语义资产层

包括数据集、指标、BI 报表三类结构化语义资产,以及业务知识等非结构化语义资产。 

血缘与图谱层

通过血缘和图谱把散落的语义定义连成一张网,让各个实体之间的关系可以被追溯到。

检索与注入层

数帆内置了各种召回和检索算法,可以根据用户问题,精准召回相关语义。

消费方层

最主要的消费方就是知数 DataAgent,同时也可以通过 CLI 或者 MCP 的方式将语义交给第三方 Agent 来消费。

3.3 三大数据语义资产

数帆一共有三类结构化的数据语义资产,分别是数据集、指标、BI 看板。这三类语义资产存在依赖关系,数据集是地基,定义表和表之间的关联关系;指标建在数据集之上,定义的是指标口径、计算逻辑;BI 看板在最上面,既可以依赖数据集也可以依赖指标来完成对应的固化看板。

三类资产的适用场景差别很大:

数据集:快

适合探索式分析,面向分析师和数据同学。前提是宽表字段少而清晰、没有歧义。构建成本最低,但准确性上限也低。

指标:准

适合经营分析、月度复盘这类对准确性要求高的场景,面向管理层和业务一号位。通过规范指标定义来保证准确性,但建设投入成本最高。

存量 BI 看板:稳

就是大家每天都在看的固定看板,一定是历史上经过治理、被业务认可的数据。如果企业有大量存量看板,先通过看板去落地智能问数,是个不错的选择,这笔语义建设历史已经提前投入过。

所以没有哪一类最优,要看自己的业务场景和人力来判断。

3.4 数据语义计算引擎

如果让模型直接生成表计算、LOD 这类复杂逻辑,非常不稳定,而且容易出错。数帆推荐的做法是把复杂计算的定义沉淀到语义层,对模型透明。模型只负责说清楚“要什么”,怎么算由引擎决定。

数据语义计算引擎完全自研,总结为下面三个维度:

计算能力

关系模型解决多事实表关联的数据膨胀问题;LOD 实现跨视图粒度分析;还支持同环比、时点属性这些高阶计算能力。

计算规模

支持40多种数据源、上百种计算表达式,10年的技术沉淀积累。

计算性能

支持模型动态剪枝、关系模型优化、SQL 引擎优化器等

有了数据计算引擎以后,可以在知数 DataAgent 里把复杂计算逻辑定义在计算语义层,对数据模型透明,大模型专注做自己擅长推理的事情。

3.5 数据语义加速引擎

对于知数 DataAgent 这种对话式的场景,用户对延迟的容忍度很低。而且问答的查询非常灵活,传统的缓存基本不起作用,再加上多表关联、全表扫描,性能压力会比普通的 BI 报表要大很多。为此数帆自研了一套物化加速引擎,把复杂的计算逻辑提前抽取到 MPP 里,来解决数据语义计算性能问题:

构建侧

既支持基于指标创建物化视图,也支持基于数据集创建,物化的配置最终都会转成 ETL 任务,通过调度和抽取能力把数据物化到 MPP 引擎里。

查询侧

知数 DataAgent、指标平台、可视化 BI 报表都可以使用物化视图,查询进来先生成 AST,判断有没有命中物化;如果命中多个,选成本最小的;然后按物化元信息改写 SQL,从 MPP 取数,最后在内存里把数据重新组装。

两级物化

指标物化保证在指标上创建的灵活性,数据集物化做兜底,保证稳定性。

通过物化视图,数帆把关联、筛选等复杂计算提前 T+1 给算好了,基本能实现秒级的响应,很好的保障了问答时的交互体验。

3.6 业务知识建设

前面讲的三类资产和计算、加速,处理的都是结构化表数据,企业里还有一类知识不在表里,散落在每个员工的大脑和各个文档里,这叫业务知识。对知数 DataAgent 来说,它和数据一样重要。业务知识主要可分为以下五大类:

数帆产品上提供统一的功能来定义这些知识,可以通过手动配置、批量导入、文档自动解析、问答结果沉淀等方式把这些知识沉淀到系统里:

3.7 语义关系建设

单个指标只能回答值是多少,但是回答不了为什么,只有把这些语义定义通过一定的方式关联起来,才能真正解决因果推理分析。

下面以净利润这个指标为例,来看下四类语义关系是怎么构建的:

指标图谱

解决指标之间的拆解思路,是一种逻辑关系,不一定有计算血缘。净利润变化的原因可以去看合同、收入、回款、成本四个指标,这四个指标可以继续往下拆解进行分析。

派生与衍生

同一口径能长出哪些新指标。按维度下钻,比如分产品、分客户、分区域;按时间衍生,比如环比、同比、YTD;按计算派生,比如净利率、人均净利润。

数据血缘

指标的计算血缘。从指标向下追,直到源表字段,能快速追踪计算过程,也能定位错误原因。

业务知识

把业务知识挂载到指标上,当分析这个指标的时候就可以使用这些业务知识,让大模型更懂指标更懂业务。

指标就不再是孤立定义,而是有计算逻辑、有上下游、有底层数据、有业务知识的业务实体。

3.8 语义的召回和消费

语义一定会越建越厚,但模型上下文是有限的。指标、术语、规则加起来上万条,不可能全塞进去,所以语义的消费和召回非常重要,具体设计架构图如下所示:

前述定义好的语义,会通过异步构建、定时同步等方式,分别存储至 ES 文本索引与向量化数据库中,而语义间的关联关系则存入图数据库。整个检索过程主要分为以下五步:

1

召回前处理:分词、去噪、同义归一,先把别名、黑话、简称对齐到标准名。

2

多路召回:关键词、字符串相似度、ES 倒排、向量化,多路并行。每一种算法都有短板,单靠向量召回不稳,四路交叉才兜得住。

3

归并排序:语义召回以后,通过去重、分值归一、加权、排序、TopN、阈值过滤等选择出符合用户问题的语义。

4

血缘和图谱增强:以候选为种子,沿图谱和血缘做 N 级跳转,把上下游和挂载的知识一并带出。

5

元信息增强:补齐时点属性、字段类型、数据格式、聚合方式、数据示例。

最后是编排,召回决定上限,上下文编排决定效果。如何把召回的内容组织成大模型能看得懂的语义也非常重要。这一层的原则是保障高召回率和冗余,决策交给大模型。

3.9 语义 AI ready 检查和反哺

语义建设不是一次性工程,而是要持续迭代优化的,那么数帆如何让语义越用越准,主要做了两件事情:

第一件事: AI ready 检查

语义定义得好不好、能不能用,必须有个评估标准。系统会对每个数据集和指标进行语义完整度打分,通过工程化打分和大模型打分两套规则来判断语义的完整度,如果发现语义问题,会给出提醒及优化建议,可以及时让用户感知到并进行优化。

第二件事:反哺

问答过程中产生的优质知识将被沉淀下来。例如,当用户提问“客户收入是多少”时,系统若识别到歧义,会引导用户澄清口径,澄清后的结果可一键沉淀为团队知识。此外,系统还支持通过点赞点踩、Badcase 回流等方式进行反哺纠正。值得注意的是,无论采用哪种方式,在沉淀为组织知识前,均需经过人工二次审核,以确保语义定义的准确性。

最终定义、检查、消费、反哺这四段是首尾相接形成环,每转一圈,语义就厚一层。最终让语义越用越准确。

稳定性和准确性体系建设:让 AI 从真懂业务,走到敢上生产

当 AI 具备了业务理解能力后,如何保障其在生产环境中持续、稳定地运行。

4.1 为什么稳定性和准确性必须当成工程来做

为什么说稳定性和准确性必须当成工程来做?从真实业务场景的实践中,主要暴露出以下四个核心痛点。

错误静默发生

SQL 语法没有问题,也跑得通,但查出来的数是错的。

数据信任危机

数据分析是一件非常严谨的事,99次答对,抵不过1次答错。用户被坑一次,可能就不再用了。

查询链路长

和通用 Agent 不一样,知数 DataAgent 要经过理解、选数、权限、计算、查询一整条链路,前面一步有偏差,后面会被层层放大,排查也非常困难。

数据越权与泄露

企业数据非常敏感。把权限判断交给模型,等于没有权限。

数据场景的失败都是静默的,这就是为什么模型能力再涨,也替代不了工程。因此,要让 AI 真正迈入生产环境,必须将 Harness 工程建设扎实。

4.2 Harness 总体架构,跑得稳,更要跑得对

以下为 Harness 工程的整体技术架构:

ReAct 自主循环,也就是模型的推理部分,决定下一步做什么,调什么工具,Agent 每思考转动一圈,都会经过一次工程的兜底校验,保证错误不会静默的走出去。

数据轨,也是重点构建的 harness 五大工程关卡,包括语义关、选数关、计算关、权限关和验证关,其中,语义关已在第三章详细阐述,接下来将重点解析其余四大关卡。

4.3 选数关,召得全,更要选得准

因为大模型的上下文有限,怎么从上千个指标圈出和用户意图相符合的指标。

多路召回

用户问题进来以后,首先做的是多路的初步召回,可以通过配置关键词做较为精确的召回,把字段、成员等信息放到 ES 里,做文本索引的召回,同时也会把口径、计算逻辑放到向量化数据库里进行向量化召回。

初筛

但是初步召回的候选项会太多,为了保障下一步内存相似度计算的性能,这个时候会进行初筛。

分值计算融合

在内存做分值计算的融合,系统会分别对字段名称、字段别名、指标名称、指标口径做相似度分值计算,最终结合前面的召回的分值计算出指标的总分值。

精筛

再通过“资源个数、字段个数、最低分值”三重阈值进行精准过滤,具体效果如下图所示。这三项阈值均支持在产品端灵活配置,用户可根据业务需求动态调整,以获取理想的召回率。

后处理

召回以后,会进行权限异常等边界的判断,并且对指标内容做元信息增强,最后把精确的召回结果给到 ReAct 主循环继续推理。

专属澄清工具

若大模型对召回指标的理解存有歧义,数帆定制了专属的指标澄清工具。大模型可快速唤起该工具,对低置信度指标发起用户澄清。此工具支持用户自主选择指标并查阅关联口径,交互设计极为友好。

通过这么一套机制,很好地解决了选指标的难题。模型不是在“猜”哪个字段对,而是在已经被缩小过的候选集里做选择。

4.4 计算关,模型做好推理,把计算交给工程

在计算这一层数帆的核心处理原则就是,让模型做好推理,把计算交给工程,总结下来可以分为下面的五点

复杂计算交给语义层

支持复杂的计算指标的定义,可以把复杂的计算逻辑在语义层给定义好,对大模型来说是透明的。

模型只写代码,不碰计算

让大模型只负责写代码,不去碰任何计算,上面这个流程图可以看到,大模型在计算这个过程中,做的只是很小一部分,生成 python 和 sql 代码,其它都是工程化来计算。

SQL2DSL 保障数据可信

如果大模型生成的 SQL 直接执行,是有数据可信的问题的,系统的实现方式是把生成的 SQL 翻译成解释的结果,保障了后续处理可信的数据处理流程。

工程负责兜底

系统构建了一系列的工程化兜底策略,用户也可以通过配置各种边界规则来适应自己的业务,比如做些字段的强制补充,强制筛选等满足复杂的边界场景。

数据转换和展示交给 python

最终的结果展示和数据转换,都交给 python 代码来输出,从输出上杜绝大模型的计算幻觉。通过这五点工程化的保障,很好地杜绝了大模型计算时可能的幻觉问题。  

4.5 计算关,NL2SQL 还是 NL2DSL?

到底是让模型直接写 SQL,还是写 DSL?这两条路线各有优缺点:

NL2DSL

定义清晰、可解析,但模型要现学一套自定义语法,不仅占上下文,表达力也远不如 SQL;

NL2SQL

是模型天生擅长的,灵活性非常强,但生成即执行,中间没有一层可校验的环节;

这里采用了一条不同的链路:NL2SQL → SQL2DSL → 物理 SQL。先让模型在自己最擅长的语言里自由表达,再把 SQL 解析成语法树、翻译成 DSL,最后由 DSL 生成物理 SQL。这样既保住了生成 SQL 的灵活性,又拿到了可解析、可干预、可注入权限的中间层。

这条路的代价是翻译工作量,子查询、CTE、窗口函数,都要进行处理,历经两年多的持续优化,目前解析成功率在 99% 以上,保障了计算的稳定性。

4.6 权限关,数据权限不经过模型,换什么问法都绕不过

数据权限的处理一样不经过模型,所以换什么问法都绕不过去。

下图展示了企业级的权限体系的定义,支持行权限、列权限、表权限等数据权限配置,定义好权限以后,可将权限分配给组织架构、用户组或者用户,从而满足企业级复杂的权限配置能力:

有了计算关从 SQL 解析成 DSL 这一步以后,系统可在每次 SQL 执行前进行拦截,把用户行权限和列权限的配置注入到 DSL ,整个过程模型完全不参与权限判断,从而一定能保障模型无法越权。

权限还有一个细节,也是用户反复提到的,如果结果受权限影响的时候,系统会明确提示「数据展示不全」,避免用户会以为是查错了,提高对产品的信任度:

4.7 权限关,构建 Agent 全链路安全防护体系

它直接运行在服务器上,可以执行任意脚本,所以系统要构建全链路的安全防护体系保障 Agent 的执行安全。

1. 输入安全:用户问题进来先过敏感词校验、内容安全检查,两道都过才进下一步。

2. 模型交互安全:Agent 不直连大模型,统一走安全代理。代理里做路由白名单、凭据隔离、传输加密、输出安全检查。

3. 工具执行安全:每个任务独立的进程级沙箱,做工作区隔离、执行文件权限控制、网络访问白名单。

4. 安全底座:访问控制、审计日志、多租户隔离、安全策略。

通过数据权限的安全以及这一套全链路的安全的防护体系的建设,才能保障 Agent 才敢真正上生产。

4.8 验证关,可澄清、可干预、可解释、可追溯

最后一道关卡是“验证关”。前文提及,数据场景的失败往往是静默的。该关卡旨在将“看不见”的推理过程,转化为“可检查”的证据链,主要分为以下四个部分:

1. 可澄清:置信度低的时候不硬答,而是触发澄清,而且澄清是可以暂停、可以恢复的,用户补充完信息,会接着原来的流程往下跑。

2. 可干预:支持灵活配置异常重试策略:执行失败或结果偏离预期时,系统将自动重试。同时,允许用户在问答结果的基础上直接修改查询条件,实现结果的动态调整与二次纠偏。

3. 可解释:将底层 SQL 执行、权限控制与业务口径等黑盒流程,转化为用户可理解的信息呈现于结果页;核心结论同步附上推导依据,让整个数据查询链路清晰可解释。

4. 可追溯:针对知数 DataAgent 场景定制专属思维链。从模型思考、工具调用到中间结果,全过程具备高度的可追溯性,让异常排查有迹可循。

4.9 Harness 优化,从细节中不断提升

前述的五道关卡仅为设计原则,Harness 工程的优化实则是持续打磨的过程。下图展示了近半年来完成的100多项优化细节,且大部分直接源于客户真实环境中的业务反馈。归根结底,Harness 的优化必须以客户真实问题为锚点,持续迭代、精益求精,死磕细节。

经过半年多的优化,系统真实场景的问答准确率从 66% 提高到了 95%。

自动化评测与交付体系建设:让 AI 形成数据飞轮

本章将聚焦系统的持续进化机制,即如何构建“数据飞轮”。这一目标的实现,主要依赖于自动化评测体系、自动化排查工具与自动化交付体系的建设。

5.1 自动化评测体系

没有评测,准确性就是一个黑盒,每次迭代究竟影响多少准确率?更换模型后效果如何?这些问题既无法内部复盘,也难以向客户交代。为此,系统构建了自动化评测体系,整体架构如下图所示:

1. 用例层:基于线上真实用户问题与持续沉淀的 Badcase,系统目前已累积1000+条评测用例。

2. 执行层&收集层:执行层通过模拟真实用户的问答交互,调用知数 DataAgent 能力执行任务。执行完毕后,系统会自动回收回答内容、完整调用链路、耗时及 Token 消耗等数据,以供收集层进行后续处理。

3. 评分层:评分逻辑与语义打分类似,采用“工程化代码评分”与“大模型语义评分”相结合的机制。例如,针对 SQL、结果数据等客观指标,优先交由代码进行精准判定;代码无法覆盖的部分,则交由大模型评估其语义等价性。

4. 指标层 & 报告层:基于评分结果,系统会自动生成多维度的评估指标(涵盖准确率、模型差异对比、成本消耗等),并最终输出完整的评测报告。

通过这套评测机制,可持续驱动系统准确性的迭代优化,构建起稳固的正向循环。

5.2 全链路日志排查助手

数帆多数客户为私有化部署,网络环境错综复杂,远程排障面临极大挑战。同时,单次 Agent 问答动辄涉及数十次模型、工具调用及数据查询,人工排查效率极低。为此,系统专门打造了全链路日志排查助手:

1. 全链路日志树状记录:通过 Trans ID 将单次问答的完整调用链路组织为树状结构,涵盖工具调用、大模型调用及业务查询调用等节点。从执行时序、耗时瓶颈、空跑情况到异常报错,各环节状态均可清晰呈现。

2. 问答完即可实现问题排查:产品端的“分析过程”面板直接提供了日志查看与分析入口。业务人员或一线支持团队无需向研发团队索要日志,即可在问答结束后第一时间完成自助排查。

3. 智能排查 Agent:将日常排障中积累的经验沉淀为技能(Skill)与排查预案。结合日志查询 MCP 获取日志总览与阶段详情,系统可自动锁定可疑环节,并最终输出归因报告与行动建议。

5.3 自动化交付体系建设

为什么要做

相比传统 BI,知数 DataAgent 实施门槛极高。语义怎么建、用例怎么攒、评测怎么跑,步步依赖经验。通常单客户包含2-3个场景,单场景实施约消耗一个人月。项目一多,交付必然成为瓶颈。

怎么做

数帆的策略是“先打样,再自动化”:先挑典型项目做深,把踩过的坑和判断标准固化为标准流程;再将流程本身封装成自动化交付能力,凡能自动化的环节全部交由机器执行。

结果

目前,已成功构建起从“语义构建、用例构建、自动化评测”到“自动化排查”的完整闭环。实施团队每日凌晨自动跑测,发现问题并持续迭代,让整个系统真正转动成“数据飞轮”。当前,部分交付体系已落地,正逐步摆脱对实施人员经验的过度依赖。随着项目基数越大,这套飞轮释放的效能将越明显。

组织资产沉淀:让个人的经验成长为组织的能力

在问答交互的过程中,如何将个人经验转化为组织能力,从而实现组织的持续成长。

6.1 问答的终点,不该是聊天记录

核心判断:问答不应该是终点,更不该仅仅是聊天记录。它适合解决临时的单点问题,却无法沉淀为组织资产。唯有把个人分析经验沉淀并复用,组织才能真正实现持续成长。

在资产沉淀方面,主要涵盖三个部分:分析经验的沉淀,产出结果的沉淀、办公协同;

6.2 分析经验沉淀:技能和流程

以往,分析做得好不好,高度依赖分析师个人的经验。经验只装在某个人脑子里,人一走,就得重新招人从头培养。现在,通过产品上的技能与工作流能力,能够将个人的分析经验转化为可复用的组织资产。

技能

支持个人技能、助手技能与系统内置技能,并允许通过对话式交互直接上传技能。

工作流

当对输出稳定性有严苛要求,或涉及复杂计算逻辑时,通过将能力封装为工作流,即可完成经验的有效沉淀。

经验的沉淀和复用

下图呈现了“个人经验转化为组织能力”的路径:系统支持将个人经验通过技能或工作流提交审批,进而转化为组织级技能;这些组织技能可反向授权给更多用户复用。使用者越多,组织沉淀的能力底座就越厚实,从而形成持续增值的正向飞轮。

6.3 报告资产沉淀

同一份分析结果,在不同场景下需具备不同的呈现形态。系统为此沉淀了三类报告资产,三者均复用统一的分析工具与语义底座:

1. AI报告:图文结合的在线文档形态,支持流式编辑与数据动态刷新,适用于周报、月报等周期性汇报场景。

2. BI看板:具备高度交互与联动能力,适用于深度数据探索,对存量 BI 用户极其友好。

3. HTML报告:支持一次性生成,视觉表现出色且风格多样,适用于各类汇报演示场景。

关键机制:AI 生成的内容必须具备可编辑性,支持二次加工。

AI 生成的图表可无缝切入编辑模式,支持修改配色、调整坐标轴或替换维度;编辑完成后,可一键沉淀至工作台或公共资产库,实现分析成果的固化与复用。

6.4 数据分发与办公协同

真正的数字员工,必须无缝接入办公工作流,才能真正释放价值。核心涵盖以下四大能力:

1. 结果分发:支持在分析过程中,通过自然语言将该段分析直接封装为定时任务。结果可定向推送至企业 IM(钉钉、企微、飞书)、邮件、短信或 Webhook 等多种渠道。

2. IM 接入:业务助手支持无缝对接各类 IM 机器人,用户可在移动端直接完成数据查询与交互。

3. 开放接入:产品能力已全面封装为标准 API 与 CLI,支持第三方 Agent 灵活调用。

4. 办公协同:分析结果可一键写入办公文档,同时系统也支持读取各类办公文档内容进行深度分析,实现双向协同,彻底打破知识壁垒。

借助强大的数据分发与办公协同能力,数帆打通了落地闭环的最后一公里。

六点思考

1

语义建设是首要任务,复盘多数失败案例,其根源往往都指向语义问题。

2

Agent 设计必须坚守一条红线:大模型仅负责推理,不触及数据与计算。数据与计算全部交由工程系统处理。这条红线是保障系统准确性与稳定性的基石。

3

产品打磨需紧贴用户,认真对待客户问题,Harness 的 100 多项优化并非闭门造车,而是源于真实业务问题的反复锤炼。

4

知数 DataAgent 是刚需,其业务需求早已得到验证,过去欠缺的仅是技术成熟度,而当前正逐步迈向成熟与可用。

5

知数 DataAgent 可能是所有 Agent 里最复杂的一类,它绝非简单的工程项目,需要给予团队充足的验证周期。

6

推进过程难免遭遇质疑,需保持战略定力,坚信 DataAgent 的价值,将事情做好,就是最有力的回应。

对业务人员而言,这些能力最终体现在一条完整的数据工作链路中:用自然语言取数,围绕指标变化继续追问原因,生成可编辑的分析报告,再将分析方法沉淀为技能、将结果设置为定时推送。一次问答由此可以转化为后续可复用的组织资产。

知数 DataAgent 的业务需求已经得到验证,产品成熟度仍需在真实场景中持续打磨,而语义建设、工程保障和评测体系,是其中的重要基础。从 ChatBI 到 DataAgent,知数 DataAgent 的三年演进,也体现了这些能力如何随着真实业务问题持续积累。未来,数帆将持续深耕数据智能领域,以可靠的 AI 技术,释放企业生产力,共创美好世界。

往期推荐

直播预告 | 金融 Agent 共生增长解决方案

量子位智库报告解读:AI 能查到数据,为何还用不好?网易智企给出解法

量子位智库报告发布|从数据治理到 Agent 应用,网易智企实践入选

网易智企亮相2026人工智能产业大会,以 AI-Ready 数智平台回应制造企业"数据价值落地"之问

DACon 2026 北京分享预告|网易智企:数据底座如何支撑 Agent 落地?

more

作为网易旗下一站式企业AI应用服务提供商,网易智企倾力打造企业AI实战栏目——「AI 实战派」,聚焦AI在真实业务中的落地应用,通过实战教学、案例拆解、研讨交流等多元形式,将前沿的AI技术转化为真实的业务动能,为企业管理者、业务决策者和一线实践者提供可迁移、可复用的实战方法论与深度洞察。

更多AI实战派课程,扫码报名👇