PDF 和表格进入知识库前,怎样分块才不会丢掉条件

用产品费用表说明 PDF 与表格分块:保留表头、单位、合并单元格和适用条件,保存页码来源,并用查询样本检查抽取质量。

结构化资料入库的检查链:核对抽取(文字、表格与页码、发现 OCR 错误);保留语义(表头、单位、条件、处理跨页与合并);形成分块(稳定来源与版本、可追溯到原文);按问题验证(找到对的行与条件、核对引用和答案)
原创示意:丢失的单位不能由模型凭空补齐。为本文原创示意图,不代表产品界面或客户案例。

先说结论

PDF 和表格分块要保留能解释内容的上下文:标题、列头、单位、适用条件和来源页码。先核对抽取结果再生成向量,按真实问题测试不同分块方式;固定长度与重叠比例只是候选参数,不能代替内容检查。

读完你会得到

  • OCR 与文本抽取出错,需要在分块前发现。
  • 表格行应带列头、单位和适用条件,不把合并单元格当空值。
  • 按问题测试检索和答案,避免以分块数量证明质量。

费用表的一行写着“200”,表头才说明这是日租价,页脚又写着“不含运输”。如果分块只留下商品与 200,知识库可能答出一个没有单位和条件的价格。本文用教学费用表说明如何检查这类资料。

配套资料与延伸阅读

先确认解析出的内容与原文件一致

随机查看正文、关键金额、表格、脚注和跨页位置。扫描件可能有字符识别错误,电子 PDF 也可能出现阅读顺序混乱。发现“1”变成“7”、列错位或负号丢失,应该修正抽取或更换资料,而不是直接进入向量库。

记录文档版本、页码或段落位置。原始文件和抽取文本分别保留,方便核对。对价格、期限等关键内容采用更严格抽查,不能只看第一页排版正常就认为全部解析成功。

为什么固定长度不是唯一分块方法

Microsoft 的分块指南介绍固定长度、按内容结构、语义分块以及组合方式,并说明适当重叠有助于保留上下文。它同时强调最优方式与文档和问题有关。本文不把某个 token 数或重叠比例当作所有中文资料的最佳值。

制度条款可以按标题和完整段落切分;商品规格可以按产品与版本组织;表格可以按行组保留列头和条件。无论用哪种方式,分块应包含回答问题所需的完整语义,并能追溯到来源。

本节依据: [1] Microsoft Learn

一行费用表至少要带什么

费用表分块的演练
原文内容分块应保留只保存数值的后果
商品 A / 200商品标识、币种、日租单位误解成总价或不同币种
三天起租最低租期与适用商品把一天需求直接计算成一天费用
不含运输费用排除项与所在规则版本给出看似完整却漏项的总价
工作日配送配送时间条件与地区承诺周末或其他地区交付
合并单元格中的“含税”明确它作用于哪些行部分商品税费判断错误

可以把行转成带字段名的文本:商品、计费单位、价格、最低期限、排除项、有效日期、来源页码。字段名为教学示例,实际应由业务负责人确认。不要把空白合并单元格机械转成“未知”,也不要擅自向全表传播条件。

跨页、长表格和脚注如何处理

跨页表格应核对下一页是否延续同一表、列顺序是否变化以及表头是否重复。重复表头可以去重,必要条件不能去掉。页脚说明影响整表还是只影响某一行,需要按原文标记。

长表格可以按产品或行组分块,同时附上共同列头和适用条件。保留稳定的行标识或范围,查询需要相邻行时再取相关块。一次把整张大表塞入模型,可能既浪费上下文,又让关键条件难以定位。

数字计算最好读取经过校验的结构化字段,由规则完成。模型可帮助解释结果,但不能仅根据检索文本自由算出关键费用。抽取与计算分开,问题出现时更容易定位。

抽查时尤其注意数字格式。某表列出“1,200”,另一表用逗号作小数分隔,两者不能由解析器统一猜测。表内重量列为千克、脚注说明运输按吨计费,也需要保留单位关系并由明确规则转换。为关键列建立与原表对应的样例,核对合并单元格、空白和负值;不确定位置进入待核实清单,不把抽取结果直接当作权威数据。

抽查记录写出原表位置、抽取值、更正依据和负责人,后续更新同类资料时复用这些失败样本。

建立一组针对结构丢失的测试题

用于检查分块的查询样例
问题类型需要命中的证据重点检查
一天多少钱价格、单位和最低期限是否说明不满足起租条件
三天总费用多少计费规则、税费与排除项是否把运输等未知项列出
这款在周末能配送吗地区与配送条件是否使用正确的适用范围
新旧型号有什么区别各自的规格版本与对应行是否混合两款数据
这个数值从哪里来页码、表名与行位置能否回到原文核对

记录检索返回块和最终回答,区分没有找到正确行、找到了但条件缺失、条件齐全却解释错误。三种情况对应不同修复,不能全部靠增大 chunk 解决。

比较两种分块方案时只改必要变量

用同一批查询比较按固定长度切分与按表格结构切分,保持资料版本和检索配置尽量一致。检查正确证据命中、条件保留、引用位置和上下文开销。必要时再调整重叠或补充标题,不同时改变所有参数。

选方案时保留失败案例。有的结构分块适合商品问题,却不适合跨章节比较,需要增加父级摘要或相关块检索。不同资料类型可以采用不同策略,无需让全部文件使用同一个长度。

重新分块后检查旧块和缓存是否清理,避免两套版本同时参与回答。图像、扫描文字和解析文本都是原文派生资料,也应继承权限与撤回状态。

导入之前可以完成的最小检查

先选一份含表格和脚注的文件,核对抽取结果,写出几道真正会被问到的问题,验证回答能带单位、条件和出处。这个小实验比一次上传全部文件更容易发现数据问题。

本文适合制度、规格和费用等结构化资料。复杂工程图、手写资料或质量较差扫描件可能需要专门解析与人工确认;分块本身无法恢复原文件中不可辨认的信息。

常见问题

分块越小检索是不是越准确?

不一定。小块容易丢掉单位、条件和上下文,大块可能混入无关内容。用具体查询比较正确证据和答案质量,按资料类型选择。

可以让模型补齐表格里看不清的数字吗?

不应把推测当作权威数据。标记无法确认的位置,回到原文件或资料负责人核实;关键金额和期限不能靠补写进入正式知识库。

资料来源与核对说明

文章中的行业定义与技术方法尽量引用官方或标准组织资料;表格、清单和决策框架是基于这些资料形成的编辑性整理,不代表来源机构对本站服务的背书。

  1. Chunk large documents for RAG and vector search in Azure AI SearchMicrosoft Learn

    用于按结构分块和重叠的取舍;表格测试与分块示例为本文建议,未宣称通用最佳长度。

把文章方法用于你的真实业务

带上流程、样例和目标,添加企业微信沟通。先确定项目范围与验收方式,再安排实施。

查看企业 AI / FDE 服务 →
相机、麦克风和布光台上的雕塑,表现图片、视频与声音的创作
AI 生成 · 内容创作场景示意

把你正在做的事,
拿来一起聊聊。

还没有完整方案也没关系。选一个方向,带着下面几条信息联系团队,我们先了解问题,再确认下一步。

企业 AI / FDE 项目

先从一段具体流程说起。

  • 我们目前怎样完成这项工作?
  • 哪一步最费时间,或经常出错?
  • 已有的资料、系统和期望结果是什么?
Shopify 建站与经营

有店铺的话,可以一并发来链接。

  • 店铺是准备上线,还是已经在运营?
  • 销售什么商品,面向哪些市场?
  • 希望先解决哪个页面或经营问题?
内容创作与工具使用

说明准备制作的内容,或遇到的操作问题。

  • 想做图片、视频、配音,还是图文?
  • 已有素材、参考风格和使用场景是什么?
  • 如果使用时遇到问题,具体停在哪一步?
扫码添加随心创技术客服企业微信

微信扫码,发来你的问题

可以直接按提纲描述,也可以先发一句话。人工服务会在确认范围后单独报价。

手机上可保存二维码后识别。