TensorFlow C++ 部署

生成tensorflow的c++动态链接库

这一步主要参考Building Tensorflow C++ shared library on Windows,简述了如何用CMake和MSBuild生成tensorflow的动态链接库。此外也参考了官方的CMake生成教程TensorFlow CMake build以及一个静态库生成的教程Building a static Tensorflow C++ library on Windows

环境设置

Tensorflow在Windows下的编译据官方教程称,需要以下支持软件。

  • CMake
  • Git
  • SWIG
  • Visual Studio
  • Python

在官方教程中提及了,需要一个64位的编译环境,以防止某些编译过程中需求的内存过大,产生out-of-memory的错误。官方教程给出了采用"C:\Program Files (x86)\Microsoft Visual Studio 14.0\VC\bin\amd64\vcvarsall.bat"命令来创建这样的编译环境,在这里我采用了主要参考教程里的x64 Native Tools Command Prompt for VS 2017来代替。

搬运Tensorflow

git clone https://github.com/tensorflow/tensorflow.git
cd tensorflow\tensorflow\contrib\cmake
mkdir build
cd build

使用CMake生成Visual Studio的解决方案和项目文件

cmake .. -A x64 ^
-DCMAKE_BUILD_TYPE=Release ^
-DSWIG_EXECUTABLE=C:\swigwin-3.0.12\swig.exe ^
-DPYTHON_EXECUTABLE=C:\Anaconda3\envs\tensorflow\python.exe ^
-DPYTHON_LIBRARIES=C:\Anaconda3\envs\tensorflow\libs\python35.lib ^
-Dtensorflow_BUILD_PYTHON_BINDINGS=OFF ^
-Dtensorflow_ENABLE_GRPC_SUPPORT=OFF ^
-Dtensorflow_BUILD_SHARED_LIB=ON

由于本人最终部署的环境不确定是否有GPU或是支持MKL,而且也不涉及分布式计算,因此进行了较为通用的设置。
-A x64 -DCMAKE_BUILD_TYPE=Release指定生成了x64架构和Release版本。
-DSWIG_EXECUTABLE指定了所用的SWIG路径。
-DPYTHON_LIBRARIES-DPYTHON_EXECUTABLE指定了所用的Python版本
-Dtensorflow_BUILD_PYTHON_BINDINGS指定了是否需要编译Python接口
-Dtensorflow_ENABLE_GRPC_SUPPORT指定了是否需要分布式环境支持
-Dtensorflow_BUILD_SHARED_LIB指定了是否编译动态链接库,默认为OFF的话就只编译.lib文件了。

生成Tensorflow

这里本人用在Visual Studio 2017中打开了tensorflow.sln,在配置管理器中设置为Release x64模式后进行了编译。

  • 错误1:是在编译protoc.vcproj的时候,报错许多函数定义重复。
    解决:检查之后发现是因为此前本人已经用vcpkg安装过了protobuf,而Visual Studio在编译之前的项目时直接调用了vkpkg的版本。
  • 错误2:无法打开包括文件: “corecrt.h”。
    解决:再来一次编译解决。
  • 错误3:编译器的堆空间不足。
    解决:参考TensorFlow GPU版本在Windows10下的编译中,提到要在cmake生成时指定64位编译环境。不过我这里只是再编译了一次就解决了。

测试C++接口

本人使用的C++开发环境为Visual Studio 2017,为了使IDE能找到编译完的Tensorflow API,对项目的包含文件需要进行配置,具体参考了Building a standalone C++ Tensorflow program on WindowsLoading a TensorFlow graph with the C++ API
,以及PatWie/inference_cc

  • 错误1:未找到nysnc.h。
    解决:将tensorflow\contrib\cmake\build\nsync\src\nsync\public加入到项目附加包含目录中,如kaldsi-asr.kaldi#1898中所提到的。
  • 错误2:”You must define TF_LIB_GTL_ALIGNED_CHAR_ARRAY for your compiler.”
    解决:这个问题其实在Building a standalone C++ Tensorflow program on Windows中也提到了,要在自己的程序的头文件中加入如下代码。
#define COMPILER_MSVC
#define NOMINMAX
/machine:x64 
/ignore:4049 /ignore:4197 /ignore:4217 /ignore:4221
/WHOLEARCHIVE:tf_cc.lib 
/WHOLEARCHIVE:tf_cc_framework.lib
/WHOLEARCHIVE:tf_cc_ops.lib 
/WHOLEARCHIVE:tf_core_cpu.lib
/WHOLEARCHIVE:tf_core_direct_session.lib 
/WHOLEARCHIVE:tf_core_framework.lib
/WHOLEARCHIVE:tf_core_kernels.lib 
/WHOLEARCHIVE:tf_core_lib.lib
/WHOLEARCHIVE:tf_core_ops.lib   
/WHOLEARCHIVE:tf_stream_executor.lib
/WHOLEARCHIVE:libjpeg.lib   
  • 错误4:无法解析的外部符号sqlite及tensorflow::ops::BuildWhileLoop。
    解决:分别把build\sqlite\src\sqlite-build\Release和build\tf_core_ops.dir\Release加入库目录并链接sqlite.lib、tf_cc_while_loop.lib,后者可参考tensorflow/tensorflow#14293

解决上述错误以及本人的一系列编程错误之后,程序跑通,部署完毕。

    原文作者:药柴
    原文地址: https://www.jianshu.com/p/1a08f75ed465
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞