生成tensorflow的c++动态链接库
这一步主要参考Building Tensorflow C++ shared library on Windows,简述了如何用CMake和MSBuild生成tensorflow的动态链接库。此外也参考了官方的CMake生成教程TensorFlow CMake build以及一个静态库生成的教程Building a static Tensorflow C++ library on Windows。
环境设置
Tensorflow在Windows下的编译据官方教程称,需要以下支持软件。
- CMake
- Git
- SWIG
- Visual Studio
- Python
在官方教程中提及了,需要一个64位的编译环境,以防止某些编译过程中需求的内存过大,产生out-of-memory的错误。官方教程给出了采用"C:\Program Files (x86)\Microsoft Visual Studio 14.0\VC\bin\amd64\vcvarsall.bat"
命令来创建这样的编译环境,在这里我采用了主要参考教程里的x64 Native Tools Command Prompt for VS 2017来代替。
搬运Tensorflow
git clone https://github.com/tensorflow/tensorflow.git
cd tensorflow\tensorflow\contrib\cmake
mkdir build
cd build
使用CMake生成Visual Studio的解决方案和项目文件
cmake .. -A x64 ^
-DCMAKE_BUILD_TYPE=Release ^
-DSWIG_EXECUTABLE=C:\swigwin-3.0.12\swig.exe ^
-DPYTHON_EXECUTABLE=C:\Anaconda3\envs\tensorflow\python.exe ^
-DPYTHON_LIBRARIES=C:\Anaconda3\envs\tensorflow\libs\python35.lib ^
-Dtensorflow_BUILD_PYTHON_BINDINGS=OFF ^
-Dtensorflow_ENABLE_GRPC_SUPPORT=OFF ^
-Dtensorflow_BUILD_SHARED_LIB=ON
由于本人最终部署的环境不确定是否有GPU或是支持MKL,而且也不涉及分布式计算,因此进行了较为通用的设置。
-A x64 -DCMAKE_BUILD_TYPE=Release
指定生成了x64架构和Release版本。
-DSWIG_EXECUTABLE
指定了所用的SWIG路径。
-DPYTHON_LIBRARIES
和-DPYTHON_EXECUTABLE
指定了所用的Python版本
-Dtensorflow_BUILD_PYTHON_BINDINGS
指定了是否需要编译Python接口
-Dtensorflow_ENABLE_GRPC_SUPPORT
指定了是否需要分布式环境支持
-Dtensorflow_BUILD_SHARED_LIB
指定了是否编译动态链接库,默认为OFF的话就只编译.lib文件了。
生成Tensorflow
这里本人用在Visual Studio 2017中打开了tensorflow.sln,在配置管理器中设置为Release x64模式后进行了编译。
- 错误1:是在编译protoc.vcproj的时候,报错许多函数定义重复。
解决:检查之后发现是因为此前本人已经用vcpkg安装过了protobuf,而Visual Studio在编译之前的项目时直接调用了vkpkg的版本。 - 错误2:无法打开包括文件: “corecrt.h”。
解决:再来一次编译解决。 - 错误3:编译器的堆空间不足。
解决:参考TensorFlow GPU版本在Windows10下的编译中,提到要在cmake生成时指定64位编译环境。不过我这里只是再编译了一次就解决了。
测试C++接口
本人使用的C++开发环境为Visual Studio 2017,为了使IDE能找到编译完的Tensorflow API,对项目的包含文件需要进行配置,具体参考了Building a standalone C++ Tensorflow program on Windows,Loading a TensorFlow graph with the C++ API
,以及PatWie/inference_cc。
- 错误1:未找到nysnc.h。
解决:将tensorflow\contrib\cmake\build\nsync\src\nsync\public
加入到项目附加包含目录中,如kaldsi-asr.kaldi#1898中所提到的。 - 错误2:”You must define TF_LIB_GTL_ALIGNED_CHAR_ARRAY for your compiler.”
解决:这个问题其实在Building a standalone C++ Tensorflow program on Windows中也提到了,要在自己的程序的头文件中加入如下代码。
#define COMPILER_MSVC
#define NOMINMAX
- 错误3:在使用
NewSession(SessionOptions(), &session)
语句时,产生了”Not found: No session factory registered for the given session options: {target: “” config: } Registered factories are {}.”错误的提示。
解决:参考tensorflor/tensorflow#3308,及Building a standalone C++ Tensorflow program on Windows,在项目额外命令行中加入
/machine:x64
/ignore:4049 /ignore:4197 /ignore:4217 /ignore:4221
/WHOLEARCHIVE:tf_cc.lib
/WHOLEARCHIVE:tf_cc_framework.lib
/WHOLEARCHIVE:tf_cc_ops.lib
/WHOLEARCHIVE:tf_core_cpu.lib
/WHOLEARCHIVE:tf_core_direct_session.lib
/WHOLEARCHIVE:tf_core_framework.lib
/WHOLEARCHIVE:tf_core_kernels.lib
/WHOLEARCHIVE:tf_core_lib.lib
/WHOLEARCHIVE:tf_core_ops.lib
/WHOLEARCHIVE:tf_stream_executor.lib
/WHOLEARCHIVE:libjpeg.lib
- 错误4:无法解析的外部符号sqlite及tensorflow::ops::BuildWhileLoop。
解决:分别把build\sqlite\src\sqlite-build\Release和build\tf_core_ops.dir\Release加入库目录并链接sqlite.lib、tf_cc_while_loop.lib,后者可参考tensorflow/tensorflow#14293。
解决上述错误以及本人的一系列编程错误之后,程序跑通,部署完毕。