PDF格式原理学习

1、PDF的历史

PDF的基本格式:

  • PDF是Portable Document Format 的缩写,可翻译为“便携文件格式”,由Adobe System Incorporated 公司在1992年发明。
  • PDF文件是一种编程形式的文档格式,它所有显示的内容,都是通过相应的操作符进行绘制的。
  • PDF基本显示单元包括:文字,图片,矢量图,图片
  • PDF扩展单元包括:水印,电子署名,注释,表单,多媒体,3D
  • PDF动作单元:书签,超链接(拥有动作的单元有很多个,包括电子署名,多媒体等等)

PDF的优点:

  • 一致性:在所有可以打开PDF的机器上,展示的效果是完全一致,不会出现段落错乱、文字乱码这些排版问题。尤其是文档中,本身可以嵌入字体,避免了客户端没有对应字体,而导致文字显示不一致的问题。所以,在印刷行业,绝大多数用的都是PDF格式。
  • 不易修改:用过PDF文件的人,都会知道,对已经保存之后的PDF文件,想要进行重新排版,基本上就不可能的,这就保证了从资料源发往外界的资料,不容易被篡改。
  • 安全性:PDF文档可以进行加密,包括以下几种加密形式:文档打开密码,文档权限密码,文档证书密码,加密的方法包括:RC4,AES,通过加密这种形式,可以达到资料防扩散等目的。
  • 不失真:PDF文件中,使用了矢量图,在文件浏览时,无论放大多少倍,都不会导致使用矢量图绘制的文字,图案的失真。
  • 支持多种压缩方式:为了减少PDF文件的size,PDF格式支持各种压缩方式:asciihex,ascii85,lzw,runlength,ccitt,jbig2,jpeg(DCT),jpeg2000(jpx)
  • 支持多种印刷标准:支持PDF-A,PDF-X

2、PDF的格式

理解PDF格式可以从四个方面下手——Objects(对象)、File structure(物理文件结构)、Document structure(逻辑文件结构)、Content streams(内容流)。

1、物理文件结构

  • 整体上分为文件头(Header)、对象集合(Body)、交叉引用表(Xref table)、文件尾(Trailer)四个部分,结构如图。修改过的PDF结构会有部分变化。
    未经修改
    《PDF格式原理学习》
    经过修改
    《PDF格式原理学习》
    (1)文件头
  • 文件头是PDF文件的第一行,格式如下:
    %PDF-1.7
    
  • 这是个固定格式,表示这个PDF文件遵循的PDF规范版本,解析PDF的时候尽量支持高版本的规范,以保证支持大多数工具生成的PDF文件。1.7版本支持1.0-1.7之间的所有版本。
    (2)对象集合
  • 这是一个PDF文件最重要的部分,文件中用到的所有对象,包括文本、图象、音乐、视频、字体、超连接、加密信息、文档结构信息等等,都在这里定义。格式如下:
    2 0 obj
            ...
    end obj
    
  • 一个对象的定义包含4个部分:
    前面的2是对象序号,其用来唯一标记一个对象;
    0是生成号,按照PDF规范,如果一个PDF文件被修改,那这个数字是累加的,它和对象序号一起标记是原始对象还是修改后的对象,但是实际开发中,很少有用这种方式修改PDF的,都是重新编排对象号;
    obj和endobj是对象的定义范围,可以抽象的理解为这就是一个左括号和右括号;
    省略号部分是PDF规定的任意合法对象
  • 可以通过R关键字引用任何一个对象,比如要引用上面的对象,可以使用2 0 R,需要主意的是,R关键字不仅可以引用一个已经定义的对象,还可以引用一个并不存在的对象,而且效果就和引用了一个空对象一样。
    (3)交叉引用表
    交叉引用表是PDf文件内部一种特殊的文件组织方式,可以很方便的根据对象号随机访问一个对象。其格式如下:
    xref
          0 1
          0000000000   65535   f
          4 1
        0000000009   00000   n
          8 3
        0000000074   00000   n
          0000000120   00000   n
          0000000179   00000   n
    
  • 其中,xref是开始标志,表示以下为一个交叉引用表的内容;
    每个交叉引用表又可以分为若干个子段,每个子段的第一行是两个数字,第一个是对象起始号,后面是连续的对象个数,接着每行是这个子段的每个对象的具体信息——每行的前10个数字代表这个这个对象相对文件头的偏移地址,后面的5位数字是生成号(用于标记PDF的更新信息,和对象的生成号作用类似),最后一位f或n表示对象是否被使用(n表示使用,f表示被删除或没有用)。上面这个交叉引用表一共有3个子段,分别有1个,1个,3个对象,第一个子段的对象不可用,其余子段对象可用。
    (4)文件尾
  • 通过trailer可以快速的找到交叉引用表的位置,进而可以精确定位每一个对象;还可以通过它本身的字典还可以获取文件的一些全局信息(作者,关键字,标题等),加密信息,等等。具体形式如下:
    trailer
          <<
            key1   value1
            key2   value2
            key3   value3
            …
          >>
          startxref
          553
          %%EOF
    
  • trailer后面紧跟一个字典,包含若干键-值对。具体含义如下:
    《PDF格式原理学习》
  • 上面代码中的startxref:后面的数字表示最后一个交叉引用表相对于文件起始位置的偏移量
    %%EOF:文件结束符

2、逻辑文件结构

  • 《PDF格式原理学习》

  • catalog根节点
    catalog是整个PDF逻辑结构的根节点,这个可以通过trailer的Root字段定位,虽然简单,但是相当重要,因为这里是PDF文件物理结构和逻辑结构的连接点。Catalog字典包含的信息非常多,这里仅就最主要的几个字段做个说明。
    字段类型值Typename(必须)只能为Pages
    Parentdictionary(如果不是catalog里面指定的跟节点,则必须有,并且必须是间接对象) 当前节点的直接父节点。
    Kidsarray(必须)一个间接对象组成的数组,节点可能是page或page tree。
    Countinteger(必须) page tree里面所包含叶子节点(page 对象)的个数。
    从以上字段可以看出,Pages最主要的功能就是组织所有的page对象。Page对象描述了一个PDF页面的属性、资源等信息。Page对象是一个字典,它主要包含一下几个重要的属性:
    Pages字段 这是个必须字段,是PDF里面所有页面的描述集合。Pages字段本身是个字典,它里面又包含了一下几个主要字段:

    字段类型
    Typename(必须)必须是Page。
    Parentdictionary(必须;并且只能是间接对象)当前page节点的直接父节点page tree 。
    LastModifieddate(如果存在PieceInfo字段,就必须有,否则可选)记录当前页面被最后一次修改的日期和时间。
    Resourcesdictionary(必须; 可继承)记录了当前page用到的所有资源。如果当前页不用任何资源,则这是个空字典。忽略所有字段则表示继承父节点的资源。
    MediaBoxrectangle(必须; 可继承)定义了要显示或打印页面的物理媒介的区域(default user space units)
    CropBoxrectangle(可选; 可继承)定义了一个可视区域,当前页被显示或打印的时候,它的内容会被这个区域裁剪。默认值就是 MediaBox。
    BleedBoxrectangle(可选) 定义了一个区域,当输出设备是个生产环境( production environment)的时候,页面显示的内容会被裁剪。默认值是 CropBox.
    Contentsstream or array(可选) 描述页面内容的流。如果这个字段缺省,则页面上什么也不会显示。这个值可以是一个流,也可以是由几个流组成的一个数组。如果是数组,实际效果相当于所有的流是按顺序连在一起的一个流,这就允许PDF生成的时候可以随时插入图片或其他资源。流之间的分割只是词汇上的一个分割,并不是逻辑上或者组织形式的切割。
    Rotateinteger(可选; 可继承) 顺时钟旋转的角度数,这个必须是90的整数倍,默认是0。
    Thumbstream(可选)定义当前页的缩略图。
    Annotsarray(可选) 和当前页面关联的注释。
    Metadatastream(可选) 当前页包含的元数据。
  • 一个简单例子:

    3 0 obj
           << /Type /Page
               /Parent 4 0 R
               /MediaBox [ 0 0 612 792 ]
               /Resources <</Font<<
                            /F3 7 0 R /F5 9 0 R /F7 11 0 R
                                 >>
                            /ProcSet [ /PDF ]
                           >>
               /Contents 12 0 R
               /Thumb 14 0 R
               /Annots [ 23 0 R 24 0 R]
             >> 
    endobj
    
  • Outlines字段
    Outline是PDF里面为了方便用户从PDF的一部分跳转到另外一部分而设计的,有时候也叫书签(Bookmark),它是一个树状结构,可以直观的把PDF文件结构展现给用户。用户可以通过鼠标点击来打开或者关闭某个outline项来实现交互,当打开一个outline时,用户可以看到它的所有子节点,关闭一个outline的时候,这个outline的所有子节点会自动隐藏。并且,在点击的时候,阅读器会自动跳转到outline对应的页面位置。
    Outlines包含以下几个字段:
    字段类型值Typename(可选)如果这个字段有值,则必须是Outlines。Firstdictionary(必须;必须是间接对象) 第一个顶层Outline item。Lastdictionary(必须;必须是间接对象)最后一个顶层outline item。Countinteger(必须)outline的所有层次的item的总数。

  • Outline是一个管理outline item的顶层对象,我们看到的,其实是outline item,这个里面才包含了文字、行为、目标区域等等。
    一个outline item主要有一下几个字段:
    字段类型值Titletext string(必须)当前item要显示的标题。
    Parentdictionary(必须;必须是间接对象) outline层级中,当前item的父对象。如果item本身是顶级item,则父对象就是它本身。
    Prevdictionary(除了每层的第一个item外,其他item必须有这个字段;必须是间接对象)当前层级中,此item的前一个item。
    Nextdictionary(除了每层的最后一个item外,其他item必须有这个字段;必须是间接对象)当前层级中,此item的后一个item。
    Firstdictionary(如果当前item有任何子节点,则这个字段是必须的;必须是间接对象) 当前item的第一个直接子节点。
    Lastdictionary(如果当前item有任何子节点,则这个字段是必须的;必须是间接对象) 当前item的最后一个直接子节点。
    Destname,byte string, or array(可选; 如果A字段存在,则这个不能被会略)当前的outline item被激活的时候,要显示的区域。
    Adictionary(可选; 如果Dest 字段存在,则这个不能被忽略)当前的outline item被激活的时候,要执行的动作。

  • URI字段 URI(uniform resource identifier),定义了文档级别的统一资源标识符和相关链接信息。目录和文档中的链接就是通过这个字段来处理的.

  • Metadata字段 文档的一些附带信息,用xml表示,符合adobe的xmp规范。这个可以方便程序不用解析整个文件就能获得文件的大致信息。

  • 其他 Catalog字典中,常用的字段一般有以下一些:

    字段类型
    Typename(必须)必须为Catalog。
    Versionname(可选)PDF文件所遵循的版本号(如果比文件头指定的版本号高的话)。如果这个字段缺省或者文件头指定的版本比这里的高,那就以文件头为准。一个PDF生成程序可以通过更新这个字段的值来修改PDF文件版本号。
    Pagesdictionary(必须并且必须为间接对象)当前文档的页面集合入口。
    PageLabelsnumber tree(可选) number tree,定义了页面和页面label对应关系。
    Namesdictionary(可选)文档的name字典。
    Destsdictionary(可选;必须是间接对象)name和相应目标对应关系字典。
    ViewerPreferencesdictionary(可选)阅读参数配置字典,定义了文档被打开时候的行为。如果缺省,则使用阅读器自己的配置。
    PageLayoutname(可选) 指定文档被打开的时候页面的布局方式。SinglePageDisplay 单页OneColumnDisplay 单列TwoColumnLeftDisplay 双列,奇数页在左TwoColumnRightDisplay 双列,奇数页在右TwoPageLeft 双页,奇数页在左TwoPageRight 双页,奇数页在右缺省值: SinglePage.
    PageModename(可选) 当文档被打开时,指定文档怎么显示UseNone 目录和缩略图都不显示UseOutlines 显示目录UseThumbs 显示缩略图FullScreen 全屏模式,没有菜单,任何其他窗口UseOC 显示Optional content group 面板UseAttachments显示附件面板缺省值: UseNone.
    Outlinesdictionary(可选;必须为间接对象)文档的目录字典
    Threadsarray(可选;必须为间接对象)文章线索字典组成的数组。
    OpenActionarray or dictionary(可选) 指定一个区域或一个action,在文档打开的时候显示(区域)或者执行(action)。如果缺省,则会用默认缩放率显示第一页的顶部。
    AAdictionary(可选)一个附加的动作字典,在全局范围内定义了响应各种事件的action。
    URIdictionary(可选)一个URI字典包含了文档级别的URI action信息。
    AcroFormdictionary(可选)文档的交互式form (AcroForm)字典。
    Metadatastream(可选;必须是间接对象)文档包含的元数据流。

3、对象

  • 对象主要有下面几种
  • booleam 用关键字true或false表示,可以是array对象的一个元素,或dictionary对象的一个条目。也可以用在PostScript计算函数里面,做为if或if esle的一个条件。
  • numeric 包括整形和实型,不支持非十进制数字,不支持指数形式的数字。例: 1)整数 123 4567 +111 -2 范围:正2的31次方-1到负的2的31次方 2)实数 12.3 0.8 +6.3 -4.01 -3. +.03 范围:±3.403 ×10的38次方 ±1.175 × 10的-38次方
    注意:如果整数超过表示范围将转化成实数,如果实数超过范围就会出错
  • string 由一系列0-255之间的字节组成,一个string总长度不能超过65535.string有以下两种方式:
    十六进制字串 由<>包含起来的一个16进制串,两位表示一个字符,不足两位用0补齐。例:
    表示AA和BB两个字符 \ 表示AA和B0两个字符
    直接字串 由()包含起来的一个字串,中间可以使用转义符”/”。例:(abc) 表示abc
    (a//) 表示a/
  • name 由一个前导/和后面一系列字符组成,最大长度为127。和string不同的是,name是不可分割的并且是唯一的,不可分割就是说一个name对象就是一个原子,比如/name,不能说n就是这个name的一个元素;唯一就是指两个相同的name一定代表同一个对象。从pdf1.2开始,除了ascii的0,别的都可以用一个#加两个十六进制的数字表示。例:
    /name 表示name
    /name#20is 表示name is
    /name#200 表示name 0
  • array 用[]包含的一组对象,可以是任何pdf对象(包括array)。虽然pdf只支持一维array,但可以通过array的嵌套实现任意维数的array(但是一个array的元素不能超过8191)。例:[549 3.14 false (Ralph) /SomeName]
  • Dictionary 用”<<“和”>>”包含的若干组条目,每组条目都由key和value组成,其中key必须是name对象,并且一个dictionary内的key是唯一的;value可以是任何pdf的合法对象(包括dictionary对象)。例: << /IntegerItem 12 /StringItem (a string) /Subdictionary << /Item1 0.4 /Item2 true /LastItem (not!) /VeryLastItem (OK) >> >>
  • stream 由一个字典和紧跟其后面的一组关键字stream和endstream以及这组关键字中间包含一系列字节组成。内容和string很相似,但有区别:stream可以分几次读取,分开使用不同的部分,string必须作为一个整体一次全部读取使用;string有长度限制,但stream却没有这个限制。一般较大的数据都用stream表示。需要注意的是,stream必须是间接对象,并且stream的字典必须是直接对象。从1.2规范以后,stream可以以外部文件形式存在,这种情况下,解析PDF的时候stream和endstream之间的内容就被忽略掉。例: dictionary stream…data…endstreamstream字典中常用的字段如下:
    字段名类型值Length整形(必须)关键字stream和endstream之间的数据长度,endstream之前可能会有一个多余的EOL标记,这个不计算在数据的长度中。Filter名字 或 数组(可选)Stream的编码算法名称(列表)。如果有多个,则数组中的编码算法列表顺序就是数据被编码的顺序。DecodeParms字典 或 数组(可选)一个参数字典或由参数字典组成的一个数组,供Filter使用。如果仅有一个Filter并且这个Filter需要参数,除非这个Filter的所有参数都已经给了默认值,否则的话 DecodeParms必须设置给Filter。如果有多个Filter,并且任意一个Filter使用了非默认的参数, DecodeParms 必须是个数组,每个元素对应一个Filter的参数列表(如果某个Filter无需参数或所有参数都有了默认值,就用空对象代替)。如果没有Filter需要参数,或者所有Filter的参数都有默认值,DecodeParms 就被忽略了。F文件标识(可选)保存stream数据的文件。如果有这个字段, stream和endstream就被忽略,FFilter将会代替Filter, FDecodeParms将代替DecodeParms。Length字段还是表示stream和endstream之间数据的长度,但是通常此刻已经没有数据了,长度是0.FFilter名字 或 字典(可选)和filter类似,针对外部文件。FDecodeParms字典 或 数组(可选)和DecodeParams类似,针对外部文件。
  • Stream的编码算法名称(列表)。如果有多个,则数组中的编码算法列表顺序就是数据被编码的顺序。且需要被编码。编码算法主要如下:编码可视化主要显示为乱码,所以提供了隐藏信息的机会,如下图的steam内容为乱码。
  • NULL 用null表示,代表空。如果一个key的值为null,则这个key可以被忽略;如果引用一个不存在的object则等价于引用一个空对象。

3、PDF探索

概述总结:

  • PDF文件本身是以文本/二进制混合内容组织的,有类似JSON的整数/浮点数、字符串、数组(列表)、字典等数据类型(见文档3.2节)。大部分PDF强行扔到文本编辑器里根本看不出个所以然来,因为为了节省体积会对相当一部分内容进行压缩。
  • 有一个命令行工具mutool可以将压缩的部分解压,将整个PDF文件的内容展开成方便阅读的纯文本(同时仍能作为PDF正常打开,所有二进制内容以十六进制数字的编码表示)。
  • PDF的结构单元是一个又一个的数据块,或者用PDF的术语就叫对象(object)。对象封装了上述各种数据类型,并且对象之间可以相互引用。一些对象本身描述页面的内容,另一些对象包含字体、图片、书签、注释等信息,被描述页面的对象所引用。有一个根对象负责将所有页面和资源组织起来,如同数据结构里的树。
  • PDF会在文件末尾记录各种对象在文件中的位置,并且指出根对象是哪一个。从根对象出发逐步解析各个对象,就能将每个页面和它们需要的资源收集起来,最终将页面渲染出来用于显示或者打印。

MuPDF Command Line Tools
官方网站:https://mupdf.com/index.html

取出PDF文件中的字体和图像可以使用:
mutool extract i.pdf
抽取PDF页面
mutool merge -o o.pdf i.pdf 1,2,3,6-7
PDF文件转为图像(矢量)
mutool convert -F svg i.pdf
PDF文件转为图像(位图)
mutool draw -r 300 -o i.png i.pdf
mutool draw -r 300 -o i-%d.png i.pdf





mutool convert 用于将文档转换成其他格式
mutool trace 这是一个调试工具,用于退踪打印图形的调用情况。
mutool draw 将页面转为图像等文件
mutool draw [options] file [pages]


这些工具专门用于处理 PDF 文件:
mutool show 显示 PDF 文件中内部对象的工具。
mutool extract 提取图像和嵌入字体资源。
mutool clean 重写PDF文件。用于修复损坏的文件,或使PDF文件可编辑。
mutool merge 将多个输入文件合并为一个新的 PDF 文件
mutool create 从文本文件创建一个新的PDF文件。
mutool portfolio Manipulate PDF portfolios.
mutool run 一种运行JavaScript程序的工具,可以访问MUPDF库函数。

《PDF格式原理学习》

参考资料:
PDF解析:https://zxyle.github.io/PDF-Explained/
PDF操作:https://blog.csdn.net/qq_34286065/article/details/80295999
PDF一些py库
https://github.com/pmaupin/pdfrw
https://github.com/pymupdf/PyMuPDF

    原文作者:小哈里
    原文地址: https://blog.csdn.net/qq_33957603/article/details/122941714
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞