这是一篇对手册性质的文章,如果你刚好从事AI开发,可以参考这文章来进行模型转换。
Keras转TFLite需要三个过程,
Keras网络有一个文件(正常情况)
Tensorflow 常见的描述网络结构文件是 ckpt,它有两个文件构成
一个完整的神经网络由这两部分构成,Tensorflow 在保存时除了这两个文件还会在目录下自动生成 checkpoint, checkpoint的内容如下,它只记录了目录下有哪些网络。
model_checkpoint_path: "squeezenet_model.ckpt" all_model_checkpoint_paths: "squeezenet_model.ckpt"
转换过程需要先把网络结构和权重加载到model对象, 然后用 tf.train.Saver 来保存为 ckpt 文件。
目前代码是以V1为基础的,指定Saver版本可以在构建Saver的时候指定参数 saver = tf.train.Saver(write_version=tf.train.SaverDef.V1) saver.save(K.get_session(), './squeezenet_model.ckpt')
ckpt的网络结构和权重还是分开的 需要先固化到PB,才能继续转成 tflite。
Tensorflow 提供了python脚本用来固化,位置在
/usr/local/lib/python3.6/site-packages/tensorflow/python/tools/freeze_graph.py
对于固化的过程需要关注这几个参数
python3 freeze_graph.py \ --input_meta_graph=model.ckpt.meta \ --input_checkpoint=model.ckpt \ --output_graph=model.pb \ --output_node_names="final_result" \ --input_binary=true
Tensorflow 提供了 TOCO 工具用来做转换, 必填的参数有下面这些,
toco --graph_def_file=squeezenet_model.pb \ --input_format=TENSORFLOW_GRAPHDEF \ --output_format=TFLITE \ --output_file=model.tflite \ --inference_type=FLOAT \ --input_type=FLOAT \ --input_arrays=input \ --output_arrays=final_result \ --input_sahpes=1,227,227,3
参数中需要解释的有这几个, --input_shapes: 输入数据的维度,跟你的网络输入有关。比如1,227,227,3,代表的是1个227*227的3通道图片。 --output_arrays 和 --input_arrays: 这两个参数跟网络的输入输出有关。而 output_arrays 跟转换成 PB 时的参数 --output_node_names 是一样的。 也就是说这两个参数必须在查看网络之后才能确定 下面给出如何查看网络的方法
在tensorflow包下面,跟freeze_graph.py同个目录下有另一个脚本
import_pb_to_tensorboard.py
它接受一个protobuf文件作为输入,并输出log到指定路径。之后可以就用tensorboard查看log文件了。 tensorboard是一个把网络视图话的工具,可以在浏览器上直接查看网络结构。 运行
python3 import_pb_to_tensorboard.py --model_dir model.pb --log_dir board/
如果环境没问题的话会在board/目录下生产 local文件, 你会在终端看到tensorflow的提示,
Model Imported. Visualize by running: tensorboard --logdir=board/
按提示执行tensorboard,就可以在浏览器中通过 localhost:6006 查看网络结构了。 需要关注的是网络的输入和输出节点的命名, 而它的命名就是上面几个步骤中我们需要的参数名了。