文档布局分析 & 扭曲文档图像恢复 --- Document Layout Analysis & Document Image Dewarping

0x00

对文本进行OCR前,必须分析和定义文档的逻辑结构。 例如文本块、段落、行的位置;是否有应该重建的表格;是否有“图像”“条形码等”。

文档布局分析 (Document Layout Analysis) 是识别和分类文本文档的扫描图像中的感兴趣区域(RoI, Regions of Interest) 的过程。阅读系统需要从非文本区域分割文本区域,并按正确的阅读顺序排列。将文本正文,插图,数学符号和嵌入文档中的表格等不同区域(或块)的检测和标记称为几何布局分析。但文本区域在文档中扮演不同的逻辑角色(标题,标题,脚注等),这种语义标记是逻辑布局分析的范围。

文档布局分析是几何和逻辑标签的结合。它通常在将文档图像发送到OCR引擎之前执行,但也可用于检测大型存档中同一文档的重复副本,或者通过其结构或图示内容索引文档。

0x01 最早的算法实现 docstrum

1993年,O’ GormanTPAMI中发表了自下而上的文档布局分析算法docstrum,首先将文档解析为黑白连接区域,然后将这些区域分组为单词,然后分为文本行,最后分组为文本块。

简单翻译了一下它的算法(english version):

算法开始的字母代表着原始论文中每小节的标题序号。原始论文中,每个小节的标题如下:

  • B. Preprocessing
  • C. Nearest-Neighbor Clustering and Docstrum Plot
  • D. Spacing and Initial Orientation Estimation
  • E. Determination of Text Lines and Accurate Orientation Measurement
  • F. Structural Block Determination
  • G. Filtering
  • H. Global and Local Lay-out Analysis
  1. B 预处理图像以去除高斯噪声椒盐噪声(某些噪声消除滤波器可能会将逗号和句号视为噪声,因此必须小心谨慎)
  2. B 将图像二值化
  3. B 将图像分割为黑色像素的连通分量(下文称 Symbol)。对于每个Symbol,计算边框和质心(bounding box, centroid)。
  4. C 对于每个Symbol,确定其k近邻,且k>=4。( O’Gorman在他的论文中建议将k = 5作为鲁棒性和速度之间的良好折衷。使用至少k = 4的原因是对于文档中的符号,两个或三个最接近的符号是在相同文本行上紧邻的那些符号。第四最近的符号通常在正上方或下方的一条线上,并且在下面的最近邻居计算中包括这些符号是很重要的。)
  5. C 每个Symbol的近邻对与两者质心的向量相关。如果为每对最近邻Symbol绘制这些向量,则可以得到文档的docstrum(下图)。通过来自水平的角度θ和两个最近邻居符号之间的距离D,创建最近邻角最近邻距离直方图
  6. D 使用最近邻角度直方图,可以计算文档的歪斜。如果歪斜较小,则继续下一步。如果不是,旋转图像以消除歪斜并返回步骤3
  7. D 最近邻距离直方图具有若干峰值,并且这些峰值通常表示字符间间距字间间距行间间隔(between-character, between-word, between-line)。
  8. D 标记每个Symbol较远的邻居,该距离在between-characterbetween-word的某个容差内。对于标记的每个最近邻居符号,绘制连接其质心的线段。
  9. E 通过线段连接到其邻居的符号形成文本行。对于文本行中的所有质心,可以使用线性回归计算表示文本行的实际线段。(使用线性回归,是因为文本行中Symbol的所有质心都不太可能是共线的。)
  10. F 对于每对文本行,可以计算它们对应的线段之间的最小距离。如果该距离在步骤7中计算的行间间隔的某个容差内,则将两个文本行分组到相同的文本块中。
  11. 最后,可以为每个文本块计算边界框,并完成文档布局分析。
    docstrum

0x01 实验

1. 两个开源代码

https://github.com/chadoliver/cosc428-structor 复现了docstrum
https://github.com/chulwoopack/docstrum 对前一个开源代码进行了优化

2. 复现

上面两段开源代码比较古老且有点乱,基于最新的opencv应该可以很快的复现docstrum

image.png

0x02 进展

没来得及看的一些文章

  • 60多页 Cattoni, Roldano, et al. “Geometric layout analysis techniques for document image understanding: a review.” ITC-irst Technical Report 9703.09 (1998).

  • [IJDAR 2013] Bukhari, S. S., Shafait, F., & Breuel, T. M. Coupled snakelets for curled text-line segmentation from warped document images

  • [TPAMI 2008] Shafait, F., Keysers, D., & Breuel, T. Performance evaluation and benchmarking of six-page segmentation algorithms

  • DAS 2012 Afzal, M. Z., Kramer, M., Bukhari, S. S., Shafait, F., & Breuel, T. M. Improvements to uncalibrated feature-based stereo matching for document images by using text-line segmentation

  • ICDAR 2013Bukhari, S. S., Shafait, F., & Breuel, T. M. (2013, August). Towards generic text-line extraction.

  • ICIAR 2014 Kassis, M., Kurar, B., Cohen, R., El-Sana, J., & Kedem, K. Using Scale-Space Anisotropic Smoothing for Text Line Extraction in Historical Documents.

0x03 Document Dewarping

  • 数据集[CBDAR 2007 dataset]
  • [CBDAR 2007] Fu, Bin, et al. “A model-based book dewarping method using text line detection.”
    CTM 方法,有一个非官方实现[github] [blog]
  • [TPAMI 2012] Meng et al. 2011, Metric rectification of curved document images
  • [[PR 2015]] Kim et al. 2015, Document dewarping via text-line based optimization
    有个同学了复现上面两个算法[github],我暂时跑不通
  • [ICDAR 2017] Robust Document Image Dewarping Method Using Text-Lines and Line Segments
    应该是最新的,作者提供了[二进制文件],没有源码,据说比2015年Kim的算法好很多
  • [CVPR 2018] DocUNet. A state-of-the-art work from face++ probably, but no source code.
  • Leptonica,很好的库,注释比代码都多。它的dewarping代码貌似是基于textlines的

Python 中使用 tesseract-ocr leptonica [github] [blog]

0xFF 开源框架

  • scantailor 比较古老 可以将拍照的书页自动转换为无卷曲的扫描书页

  • leptonica 一个古老又顽强的库被Tesseract、OpenCV、jbig2enc依赖,官方有很多例子演示它好玩的算法

  • OCRopus – A free document layout analysis and OCR system, implemented in C++ and Python and for FreeBSD, Linux, and Mac OS X. This software supports a plug-in architecture which allows the user to select from a variety of different document layout analysis and OCR algorithms.

  • OCRFeeder – An OCR suite for Linux, written in python, which also supports document layout analysis. This software is actively being developed, and is free and open-source.