TensorFlow C++ 部署

2023年1月6日 568次阅读 来源: 药柴

生成tensorflow的c++动态链接库

这一步主要参考Building Tensorflow C++ shared library on Windows，简述了如何用CMake和MSBuild生成tensorflow的动态链接库。此外也参考了官方的CMake生成教程TensorFlow CMake build以及一个静态库生成的教程Building a static Tensorflow C++ library on Windows。

环境设置

Tensorflow在Windows下的编译据官方教程称，需要以下支持软件。

  • CMake
  • Git
  • SWIG
  • Visual Studio
  • Python

在官方教程中提及了，需要一个64位的编译环境，以防止某些编译过程中需求的内存过大，产生out-of-memory的错误。官方教程给出了采用"C:\Program Files (x86)\Microsoft Visual Studio 14.0\VC\bin\amd64\vcvarsall.bat"命令来创建这样的编译环境，在这里我采用了主要参考教程里的x64 Native Tools Command Prompt for VS 2017来代替。

搬运Tensorflow

git clone https://github.com/tensorflow/tensorflow.git
cd tensorflow\tensorflow\contrib\cmake
mkdir build
cd build

使用CMake生成Visual Studio的解决方案和项目文件

cmake .. -A x64 ^
-DCMAKE_BUILD_TYPE=Release ^
-DSWIG_EXECUTABLE=C:\swigwin-3.0.12\swig.exe ^
-DPYTHON_EXECUTABLE=C:\Anaconda3\envs\tensorflow\python.exe ^
-DPYTHON_LIBRARIES=C:\Anaconda3\envs\tensorflow\libs\python35.lib ^
-Dtensorflow_BUILD_PYTHON_BINDINGS=OFF ^
-Dtensorflow_ENABLE_GRPC_SUPPORT=OFF ^
-Dtensorflow_BUILD_SHARED_LIB=ON

由于本人最终部署的环境不确定是否有GPU或是支持MKL，而且也不涉及分布式计算，因此进行了较为通用的设置。
-A x64 -DCMAKE_BUILD_TYPE=Release指定生成了x64架构和Release版本。
-DSWIG_EXECUTABLE指定了所用的SWIG路径。
-DPYTHON_LIBRARIES和-DPYTHON_EXECUTABLE指定了所用的Python版本
-Dtensorflow_BUILD_PYTHON_BINDINGS指定了是否需要编译Python接口
-Dtensorflow_ENABLE_GRPC_SUPPORT指定了是否需要分布式环境支持
-Dtensorflow_BUILD_SHARED_LIB指定了是否编译动态链接库，默认为OFF的话就只编译.lib文件了。

生成Tensorflow

这里本人用在Visual Studio 2017中打开了tensorflow.sln，在配置管理器中设置为Release x64模式后进行了编译。

  • 错误1：是在编译protoc.vcproj的时候，报错许多函数定义重复。
    解决：检查之后发现是因为此前本人已经用vcpkg安装过了protobuf，而Visual Studio在编译之前的项目时直接调用了vkpkg的版本。
  • 错误2：无法打开包括文件: “corecrt.h”。
    解决：再来一次编译解决。
  • 错误3：编译器的堆空间不足。
    解决：参考TensorFlow GPU版本在Windows10下的编译中，提到要在cmake生成时指定64位编译环境。不过我这里只是再编译了一次就解决了。

测试C++接口

本人使用的C++开发环境为Visual Studio 2017，为了使IDE能找到编译完的Tensorflow API，对项目的包含文件需要进行配置，具体参考了Building a standalone C++ Tensorflow program on Windows，Loading a TensorFlow graph with the C++ API
，以及PatWie/inference_cc。

  • 错误1：未找到nysnc.h。
    解决：将tensorflow\contrib\cmake\build\nsync\src\nsync\public加入到项目附加包含目录中，如kaldsi-asr.kaldi#1898中所提到的。
  • 错误2：”You must define TF_LIB_GTL_ALIGNED_CHAR_ARRAY for your compiler.”
    解决：这个问题其实在Building a standalone C++ Tensorflow program on Windows中也提到了，要在自己的程序的头文件中加入如下代码。
#define COMPILER_MSVC
#define NOMINMAX

/machine:x64 
/ignore:4049 /ignore:4197 /ignore:4217 /ignore:4221
/WHOLEARCHIVE:tf_cc.lib 
/WHOLEARCHIVE:tf_cc_framework.lib
/WHOLEARCHIVE:tf_cc_ops.lib 
/WHOLEARCHIVE:tf_core_cpu.lib
/WHOLEARCHIVE:tf_core_direct_session.lib 
/WHOLEARCHIVE:tf_core_framework.lib
/WHOLEARCHIVE:tf_core_kernels.lib 
/WHOLEARCHIVE:tf_core_lib.lib
/WHOLEARCHIVE:tf_core_ops.lib   
/WHOLEARCHIVE:tf_stream_executor.lib
/WHOLEARCHIVE:libjpeg.lib
  • 错误4：无法解析的外部符号sqlite及tensorflow::ops::BuildWhileLoop。
    解决：分别把build\sqlite\src\sqlite-build\Release和build\tf_core_ops.dir\Release加入库目录并链接sqlite.lib、tf_cc_while_loop.lib，后者可参考tensorflow/tensorflow#14293。

解决上述错误以及本人的一系列编程错误之后，程序跑通，部署完毕。

    原文作者：药柴
    原文地址: https://www.jianshu.com/p/1a08f75ed465
    本文转自网络文章，转载此文章仅为分享知识，如有侵权，请联系博主进行删除。
点赞