1回答
我从下载了一个量化的移动网络，这个图包含了训练过程中的假量化节点，以模拟测试时间输出。我想从这个网络的最后一点卷积层收集输出。量化冻结模型包含额外的fc，softmax等层，对我的应用程序没有任何用处。然后使用sess.run()运行，但是我观察到卷积层的输出没有像在移动设备上运行时应该的那样被量化
浏览 1提问于2018-04-30得票数 1
回答已采纳
使用Tensorflow 1.6.0toco --input_format=TENSORFLOW_GRAPHDEF -128 --std_values=128 --d获取以下错误：
未实现:此图包含一个类型的运算符(不支持的TensorFlowop: Dequantize)，其量化形式尚未实现。不好意思，补丁程序
浏览 3提问于2018-05-03得票数 0
我对tensorflow有点陌生，我只想知道它是否已经在它的操作符中执行了向量化，比如乘法矩阵等等。如果不可行的话。提前谢谢。
浏览 0提问于2017-01-20得票数 0
回答已采纳
环境: Tensorflow 2.4、Intel-Tensorflow 2.4
据我所知，pb格式的Tensorflow模型可以在ML.NET上加载。但是，我使用的是利用英特尔优化的Tensorflow ()的量化包LPOT ()。尽管英特尔- Tensorflow是基于Tensorflow构建的，但它使用了一些量化的Op，该Op在Tensorflow上没有注册的OpKernel (例如：'QuantizedMatmulWi
浏览 13提问于2021-07-09得票数 0
我们正在考虑将量化感知训练用于一个研究项目，以确定训练期间量化对收敛速度和运行时间的影响。尽管我们还不完全相信这是正确的工具。请您澄清以下几点: 1)如果一个层在量化感知训练期间被量化，这意味着输入和权重被量化，包括激活函数在内的所有操作都被量化，然后在返回之前，输出被反量化到与下一层兼容的精度。这种理解正确吗?3)原则上，量化感知训练是否会在您的一般经验的训练过程中导致加速，或者这是不可能的，因为它只是一个模拟? 4)您能告诉我们如何向</e
浏览 22提问于2020-06-19得票数 0
回答已采纳
我目前正在测试与TensorFlow Lite转换的CNN推理的延迟时间。我正在测试两个具有相同架构的CNN(我正在用Windows操作系统在我的笔记本上测试它们)：
第一个模型:使用TensorFlow优化的TFLite模型及其权重量化(使用Python进行转换，用tensorflow.lite.Optimize.DEFAULT量化)。第二个模型:使用TensorFlow优化的TFLite模型及其权重和激活，对进行量化(使用Python进行转换，用tens
浏览 2提问于2021-02-04得票数 0
我目前正在使用tensorflow 1.14进行剪枝，但我不确定是否可以在同一版本上应用量化。请帮帮忙。在剪枝tensorflow指南页面上，提到了以下内容
请您确认一下，如果量化只能从tensorflow 1.15开始应用，或者对旧版本有其他选择吗？
浏览 3提问于2021-01-08得票数 0
回答已采纳
量化意识的培训在坦索弗洛允许我量化使用不同的量化配置的个人水平使用tensorflow_model_optimization.quantization.keras.quantize_annotate_layer在Tensorflow的训练后量化文档中，下面是一个将模型量化为float16的示例。import tensorflow as tf
converter = tf.lite.TFLiteConverter.from_saved_model(sav
浏览 16提问于2022-10-13得票数 0
我正在使用tensorflow 1.15，因为依赖于多个其他模块，并且难以进行量化感知培训。我偶然发现了tensorflow_model_optimization，但它适用于tensorflow 2.x。在使用tensorflow 1.15进行训练时，有任何方法可以进行量化吗？
浏览 4提问于2022-02-01得票数 0
我使用TensorFlow 2.1来训练具有量化感知训练的模型.这样做的代码是：model = tfmot.quantization.keras.quantize_annotate_model(model)
这将向图中添加假量化节点。这些节点应该调整模型的权重，这样它们就更容易被量化为int8，并且更容易处理int8数据。此外，当我在this C++ 中运行这个量化模型时，我看
浏览 10提问于2020-06-17得票数 5
我正在尝试int8量化我的模型在TensorFlow Lite上。转换本身使用tensorflow 1.15.3，但转换模型在麒麟990上运行得非常慢。(使用tensorflow 2.3.0的转换没有工作。)
tensorflow/示例中的mobilenet_v1_1.0_224_quant.tflite在Kirin 990上运行得很快。我的模型是int8(tf.lite.OpsSet.TFLITE_BUILTINS_INT8)量化，而mobilenet_v1_1.0_224_
浏览 9提问于2020-09-02得票数 2
2018-10-10 13:56:40.471545: i在删除未使用的操作操作之前: 706个操作符，1102个数组(0量化)2018-1013:56:40.485896: tensorflow/contrib: 607个操作符，1003个数组(0量化)2018-1013:56:40.581854: tensorflow/contrib/lite/toco/graph_transformations/graph_transformations.cc:39]经过1
浏览 0提问于2018-10-10得票数 1
1回答
如何在TensorFlow的量化感知训练后得到量化权值或量化感知权值。我想在应用程序的NumPy上使用整数量化的权重。到目前为止，我的用法如下，它给出了float32的值。import tensorflow.keras.backend as K
weights_temp.append
浏览 17提问于2020-10-23得票数 0
2回答
基本上，我想安装Tensorflow 8位量化支持.目前，我在CentOS 7机器上安装了带有pip安装方法的Tensorflow 0.9 (没有GPU支持)。我想增加量化支持。我也无法在Tensorflow文档中找到关于量化部分的任何细节。
有人能分享如何做这件事的细节吗？
浏览 2提问于2016-07-18得票数 1
回答已采纳
1回答
Android平台上的基准量化
、、、、
我想加快每一个的量化测试，但是还不能用量化工具编译benchmark_model，因为它们破坏了很多东西。/kernels/BUILD： "//tensorflow/contrib/quantization:cc_array_ops", "
浏览 0提问于2016-09-21得票数 1
首先，我从Mobilenet下载了一个量化模型。它包含在Mobilenet_v1_1.0_224中。:1172]转换不支持的操作:去量化2018-03-01 23:12:03.366319: 03.366319: tensorflow/contrib/lite/toco/graph_transformations/graph_transformations.cc:39]，然后删除未使用的操作:140个操作员，232个数组(0量化) 2018-03-01 23:12:03.3
浏览 0提问于2018-03-02得票数 3
回答已采纳
我是tensorflow和量化的新手，我正在尝试为两个int8输入实现量化矩阵操作。很好奇地想知道操作背后的数学原理。我在tensorflow中看到，他们只对uint8输入实现了同样的方法，想知道如何将其用于带符号的int8 matmul/conv2D。
浏览 3提问于2018-10-26得票数 0
1回答
我想知道是否有人会知道我是如何将以下循环向量化的： Y = Y + np.diag(mu) @ Y * dt + np.multiply(np.diag(sigma)@Y, L @ np.random.normal( 0, dt, (d,N)))
np.diag
浏览 0提问于2019-02-23得票数 2
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
