RAG中的文档解析需求:需要的是文档的完整段落,标题,图片,表格。我们希望删除的是md格式,或者josn格式。 MinerU 和 maker恰好。都是能够满足此需求的开源工具。这篇文章分享一下对两者的对比。整理出来目前还存在的问题。

MinerU 和  marker



MinerU 是最新的一个PDF解析工具,专门为RAG创作的文档解析工具。可以看看我的这篇文章,对该解析工具的详细介绍。


最新开源的解析效果非常好的PDF解析工具MinerU (pdf2md pdf2json)

 marker是开源很久的一个PDF解析工具。目前star 14.5k。地址如下:

https://github.com/VikParuchuri/marker


对比效果

我以一篇财报的PDF为例。财报通常比较复杂,包含表格,表格还不规整,还包括图片。

先说一下结论:MinerU 和  marker 是开源PDF文档解析中能够满足RAG的需求的。它们多多少少有一些问题,但是还能接受。其中两者解析段落已经非常准确了。并且maker是能够把表格解析为md结构的。MinerU的版面分析也很准确,表格定位蛮准确。

二者存在的问题,对比效果如下

对比问题1:PDF-Extract-Kit 图片识别错误

原PDF首页

开源PDF解析工具marker 和 MinerU的解析效果对比_开源PDF工具对比

marker 解析正确

开源PDF解析工具marker 和 MinerU的解析效果对比_开源工具_02

PDF-Extract-Kit 将文本块,识别成了图片。

开源PDF解析工具marker 和 MinerU的解析效果对比_pdf_03

对比问题2:表格识别问题

原PDF

开源PDF解析工具marker 和 MinerU的解析效果对比_开源工具_04

maker把表格转成了md格式

但是表格的标题行识别错误了。

开源PDF解析工具marker 和 MinerU的解析效果对比_开源PDF工具对比_05

PDF-Extract-Kit 未对表格做处理

保存为图片

对比问题3:目录识别问题

PDF原文件

开源PDF解析工具marker 和 MinerU的解析效果对比_pdf_06

maker把目录识别成了表格

开源PDF解析工具marker 和 MinerU的解析效果对比_文档解析_07

PDF-Extract-Kit 目录识别正确

开源PDF解析工具marker 和 MinerU的解析效果对比_开源工具_08

对比问题4:标题识别问题

原PDF

开源PDF解析工具marker 和 MinerU的解析效果对比_github_09

maker标题遗漏

开源PDF解析工具marker 和 MinerU的解析效果对比_开源PDF工具对比_10

PDF-Extract-Kit 识别标题正确

开源PDF解析工具marker 和 MinerU的解析效果对比_开源工具_11

对比问题5:表格解析错误

开源PDF解析工具marker 和 MinerU的解析效果对比_开源工具_12

maker表格转md混乱

开源PDF解析工具marker 和 MinerU的解析效果对比_开源PDF工具对比_13