腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
如
何在
OpenFOAM中编译
OpenVINO
代码?
、
、
目前,我正在使用
OpenVINO
的
推理
机
进行
计算流体力学领域的深度学习
推理
。我使用的CFD软件是OpenFOAM,它不支持CMake,而是用户必须使用所谓的wmake。为了为第三方软件(
如
OpenVINO
)编译代码,我必须提供编译所需的所有头文件和库。但是,我不知道如何找到
OpenVINO
的
推理
引擎所需要的所有内容。
浏览 1
提问于2019-05-29
得票数 0
回答已采纳
2
回答
如
何在
OpenVino
上
进行
异步
推理
、
我编写了一个python服务器,它使用
OpenVino
网络对传入的请求运行
推理
。为了加快速度,我在多个线程中接收请求,并且我希望同时运行
推理
。我用Python编写,使用
openvino
2019.1.144。我使用对同一插件和网络的多个请求,以尝试使推论同时运行。运行时间为290ms当我在
异步
模式下运行时,平均运行时间为280ms。这些都不是实质性的改进。我做错了什么?
浏览 112
提问于2019-06-18
得票数 0
回答已采纳
1
回答
使用
OpenVino
的C-API
异步
批处理
推理
我正在尝试寻找一个使用C-API (而不是C++)
异步
批处理接口
进行
OpenVino
图像推断的示例。编辑:根据下面的评论,澄清挑战在于理解如何使用多个图像加载输入blob。
浏览 1
提问于2020-08-06
得票数 0
2
回答
Openvino
,如何得到检测结果?
、
、
这些是我的模型的特性:此模型已与模型优化器
进行
转换,用于
openvino
。 我的理解(如果我错了请纠正我),“输出”是检测结果,345,403,461是网络中的中间输出。
浏览 12
提问于2022-03-04
得票数 0
1
回答
Seq2seq移液器推断慢
、
、
、
、
在对评估(evaluate.py)代码
进行
分析之后,需要较长时间的代码段是方法。(input_lines_trg, next_preds.unsqueeze(1)), ) 在GPU
上
对模型
进行
训练,并在CPU模式下加载模型
进行
推理
。是否期望在火把上
进行
缓慢的预测? 如有任何解决办法和加快速度的建议,我将不胜感激。谢谢。
浏览 3
提问于2017-08-31
得票数 0
1
回答
OpenVino
优化模型在推断时忽略了很少的标签
、
系统信息 但
浏览 6
提问于2022-08-02
得票数 0
2
回答
如何提高部署的模型延迟
、
、
、
问题:如
何在
不对模型
进行
再培训的情况下提高web部署的模型延迟?为了提高模型的速度,我应该标记的清单是什么?上下文:I有多个模型,使用一个K80 GPU在一台机器
上
顺序处理视频;每个模型大约需要5分钟才能处理1分钟长的视频。在不改变模型架构的情况下,我应该尝试改进每个模型延迟的想法和建议吗?
浏览 9
提问于2021-08-20
得票数 1
2
回答
加速Keras模型的
推理
、
、
、
、
我有一个Keras模型,它在Raspberry Pi (用相机)上
进行
推理
。,我还能做些什么来提高
推理
的速度吗?有没有一种方法可以简化model.h5并降低准确度?我已经在简单的模型
上
取得了成功,但是对于这个项目,我需要依赖现有的模型,这样我就不能从头开始训练了。
浏览 0
提问于2017-10-16
得票数 7
回答已采纳
1
回答
如
何在
Qt中部署
openvino
-opencv
、
、
我想在基于Qt (Qt5.7.1)的项目中使用
openvino
。我已经下载并安装了
openvino
411 (对应于opencv411),遵循windows10 中的说明。我编写了一个.pri文件来演示Qt中的opencv: LIBS += -LC:/
openvi
浏览 0
提问于2019-08-30
得票数 0
回答已采纳
1
回答
在Tensorflow中将经过训练的模型转换为混合精度
、
、
、
、
policy = mixed_precision.Policy('mixed_float16')但是当我在其他CNN网络
上
尝试一个玩具例子时
浏览 3
提问于2021-11-14
得票数 0
2
回答
如何优化
推理
脚本,使分类器得到更快的预测?
、
、
、
、
我是否可以对我的
推理
脚本做任何优化,或者我应该寻找在训练脚本方面的发展?
浏览 0
提问于2018-12-28
得票数 2
1
回答
找不到
OpenVino
推理
引擎C API
我使用apt命令在我的Ubuntu20.04
上
安装了
OpenVino
。sudo apt install intel-
openvino
-dev-ubuntu20-2021.3.394 我正在尝试使用gcc 1.c -linference_engine_c_api编译这个简单的程序
浏览 79
提问于2021-05-15
得票数 1
回答已采纳
2
回答
如何提高目标跟踪速度(Yolov4 DeepSort)
、
、
、
、
尝试安装
openvino
时出错 Building wheel for tokenizers (pyproject.toml
浏览 21
提问于2022-08-26
得票数 0
1
回答
基于样本均值和方差( OpenCV Pix2Pix)的"training=True“DNN
推理
、
、
、
、
Pix2Pix使用实例规范化,因此在
进行
推理
时,我们需要实例归一化层(批处理规格为1)来计算样本均值和方差。= tf.keras.models.load_model("pix2pix")print('OpenCV DNN Inference...') print
浏览 8
提问于2022-04-01
得票数 0
1
回答
用
OpenVINO
自动初始化的PyQt5环境不能正常工作
、
、
我已经集成了
OpenVINO
和PyQt5,在Windows11
上
完成了的
推理
工作。 window = MainWindow() sys.exit(app.exec_()) 在执行我的程序之后,虽然我可以在命令提示符
上
看到初始化的消息,但在
浏览 8
提问于2021-12-27
得票数 0
回答已采纳
1
回答
T5类模型的加速
推理
、
、
、
我目前正在生产中使用一个名为T0pp ()的模型,并希望加快
推理
速度。我在随需应变的EC2 g4dn.12xlarge实例(4个Nvidia T4 GPU)
上
运行以下代码:tokenizer.batch_decode(outputs, skip_special_tokens=True) 我想知道你会尝试哪种方法来加速
推理
我所看到的加速
推理
的
浏览 25
提问于2022-02-21
得票数 0
回答已采纳
3
回答
角星预测很慢
、
、
、
我正在研究一个强化学习任务,并决定使用keras神经网络模型
进行
Q值近似。为了
进行
训练,必须对训练集中的每个项目
进行
Q值的预测。我已经安装和配置了CUDA,运行了很少的示例测试,它显示了GPU是使用的,我也可以看到巨大的GPU负载。
浏览 3
提问于2016-06-25
得票数 7
1
回答
tensorflow超薄模型的模型优化
、
、
、
、
我的目标是推断tensorflow苗条模型与英特尔
OpenVINO
优化器。
推理
采用和,训练模型采用。eval/Accuracy0.8017 eval/Recall_50.9993原因: [ ERROR ] Unknown confi
浏览 4
提问于2019-01-03
得票数 1
回答已采纳
3
回答
Keras后端预测批数为1的速度较慢
、
、
我将蒙特卡罗树搜索和卷积神经网络结合起来作为展开策略。我已经将Keras model.predict函数识别为非常慢。经过实验,我发现模型参数的大小和预测样本的大小对速度没有明显的影响。供参考: 正如你所看到的,我可以用和一个样本相同的速度预测10个样本。如果我把参数大小减少100倍的话,这个变化也是非常小的,但
浏览 2
提问于2019-05-09
得票数 2
1
回答
有没有办法在SNPE (dlc)中调整输入形状的大小?
、
、
、
实际
上
,我想在dlc模型中调整输入形状的大小。有人能帮我吗?
浏览 10
提问于2020-05-04
得票数 1
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
只用CPU开发自动驾驶轮船,他们居然做到了
英特尔/WPI携手举办AI研讨会 OpenVINO工具包助力GDSM发力新零售
Analytics Zoo Cluster Serving自动扩展分布式推理
英特尔NNP芯片家族迎来新成员,面向推理及应用的新品已正式商用
AI规模化落地,英特尔至强的七重助力
热门
标签
更多标签
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
活动推荐
运营活动
广告
关闭
领券