先说结论
PDF 和表格分块要保留能解释内容的上下文:标题、列头、单位、适用条件和来源页码。先核对抽取结果再生成向量,按真实问题测试不同分块方式;固定长度与重叠比例只是候选参数,不能代替内容检查。
读完你会得到
- OCR 与文本抽取出错,需要在分块前发现。
- 表格行应带列头、单位和适用条件,不把合并单元格当空值。
- 按问题测试检索和答案,避免以分块数量证明质量。
费用表的一行写着“200”,表头才说明这是日租价,页脚又写着“不含运输”。如果分块只留下商品与 200,知识库可能答出一个没有单位和条件的价格。本文用教学费用表说明如何检查这类资料。
配套资料与延伸阅读
- 企业 AI 知识库怎么搭建:从资料治理到 RAG 评测(阅读)
相关方法与实施说明
- Dify 知识库教程:导入资料后,怎样检查检索和回答(阅读)
相关方法与实施说明
- 企业 AI / FDE 服务(了解)
可以用一份脱敏 PDF 和真实查询样例讨论企业知识库的解析、分块与验收方案。
先确认解析出的内容与原文件一致
随机查看正文、关键金额、表格、脚注和跨页位置。扫描件可能有字符识别错误,电子 PDF 也可能出现阅读顺序混乱。发现“1”变成“7”、列错位或负号丢失,应该修正抽取或更换资料,而不是直接进入向量库。
记录文档版本、页码或段落位置。原始文件和抽取文本分别保留,方便核对。对价格、期限等关键内容采用更严格抽查,不能只看第一页排版正常就认为全部解析成功。
为什么固定长度不是唯一分块方法
Microsoft 的分块指南介绍固定长度、按内容结构、语义分块以及组合方式,并说明适当重叠有助于保留上下文。它同时强调最优方式与文档和问题有关。本文不把某个 token 数或重叠比例当作所有中文资料的最佳值。
制度条款可以按标题和完整段落切分;商品规格可以按产品与版本组织;表格可以按行组保留列头和条件。无论用哪种方式,分块应包含回答问题所需的完整语义,并能追溯到来源。
本节依据: [1] Microsoft Learn
一行费用表至少要带什么
| 原文内容 | 分块应保留 | 只保存数值的后果 |
|---|---|---|
| 商品 A / 200 | 商品标识、币种、日租单位 | 误解成总价或不同币种 |
| 三天起租 | 最低租期与适用商品 | 把一天需求直接计算成一天费用 |
| 不含运输 | 费用排除项与所在规则版本 | 给出看似完整却漏项的总价 |
| 工作日配送 | 配送时间条件与地区 | 承诺周末或其他地区交付 |
| 合并单元格中的“含税” | 明确它作用于哪些行 | 部分商品税费判断错误 |
可以把行转成带字段名的文本:商品、计费单位、价格、最低期限、排除项、有效日期、来源页码。字段名为教学示例,实际应由业务负责人确认。不要把空白合并单元格机械转成“未知”,也不要擅自向全表传播条件。
跨页、长表格和脚注如何处理
跨页表格应核对下一页是否延续同一表、列顺序是否变化以及表头是否重复。重复表头可以去重,必要条件不能去掉。页脚说明影响整表还是只影响某一行,需要按原文标记。
长表格可以按产品或行组分块,同时附上共同列头和适用条件。保留稳定的行标识或范围,查询需要相邻行时再取相关块。一次把整张大表塞入模型,可能既浪费上下文,又让关键条件难以定位。
数字计算最好读取经过校验的结构化字段,由规则完成。模型可帮助解释结果,但不能仅根据检索文本自由算出关键费用。抽取与计算分开,问题出现时更容易定位。
抽查时尤其注意数字格式。某表列出“1,200”,另一表用逗号作小数分隔,两者不能由解析器统一猜测。表内重量列为千克、脚注说明运输按吨计费,也需要保留单位关系并由明确规则转换。为关键列建立与原表对应的样例,核对合并单元格、空白和负值;不确定位置进入待核实清单,不把抽取结果直接当作权威数据。
抽查记录写出原表位置、抽取值、更正依据和负责人,后续更新同类资料时复用这些失败样本。
建立一组针对结构丢失的测试题
| 问题类型 | 需要命中的证据 | 重点检查 |
|---|---|---|
| 一天多少钱 | 价格、单位和最低期限 | 是否说明不满足起租条件 |
| 三天总费用多少 | 计费规则、税费与排除项 | 是否把运输等未知项列出 |
| 这款在周末能配送吗 | 地区与配送条件 | 是否使用正确的适用范围 |
| 新旧型号有什么区别 | 各自的规格版本与对应行 | 是否混合两款数据 |
| 这个数值从哪里来 | 页码、表名与行位置 | 能否回到原文核对 |
记录检索返回块和最终回答,区分没有找到正确行、找到了但条件缺失、条件齐全却解释错误。三种情况对应不同修复,不能全部靠增大 chunk 解决。
比较两种分块方案时只改必要变量
用同一批查询比较按固定长度切分与按表格结构切分,保持资料版本和检索配置尽量一致。检查正确证据命中、条件保留、引用位置和上下文开销。必要时再调整重叠或补充标题,不同时改变所有参数。
选方案时保留失败案例。有的结构分块适合商品问题,却不适合跨章节比较,需要增加父级摘要或相关块检索。不同资料类型可以采用不同策略,无需让全部文件使用同一个长度。
重新分块后检查旧块和缓存是否清理,避免两套版本同时参与回答。图像、扫描文字和解析文本都是原文派生资料,也应继承权限与撤回状态。
导入之前可以完成的最小检查
先选一份含表格和脚注的文件,核对抽取结果,写出几道真正会被问到的问题,验证回答能带单位、条件和出处。这个小实验比一次上传全部文件更容易发现数据问题。
本文适合制度、规格和费用等结构化资料。复杂工程图、手写资料或质量较差扫描件可能需要专门解析与人工确认;分块本身无法恢复原文件中不可辨认的信息。
常见问题
分块越小检索是不是越准确?
不一定。小块容易丢掉单位、条件和上下文,大块可能混入无关内容。用具体查询比较正确证据和答案质量,按资料类型选择。
可以让模型补齐表格里看不清的数字吗?
不应把推测当作权威数据。标记无法确认的位置,回到原文件或资料负责人核实;关键金额和期限不能靠补写进入正式知识库。
资料来源与核对说明
文章中的行业定义与技术方法尽量引用官方或标准组织资料;表格、清单和决策框架是基于这些资料形成的编辑性整理,不代表来源机构对本站服务的背书。
- Chunk large documents for RAG and vector search in Azure AI SearchMicrosoft Learn
用于按结构分块和重叠的取舍;表格测试与分块示例为本文建议,未宣称通用最佳长度。
带上流程、样例和目标,添加企业微信沟通。先确定项目范围与验收方式,再安排实施。


