C++内存拷贝 | 一个坏习惯可能让人掉大坑

OpenCV学堂

发布于 2026-04-02 19:39:16

910

起因

有学习我《深度学习课路线图》课程的学员给我反馈说：“训练了一个自定义的YOLO11模型，但是因为修改了输入，导致导出了ONNX格式模型部署一直不正确，调用PT模型可以正常工作”。于是我让他把模型发给我试试，然后我直接用他的代码运行，发现真的什么结果都没有，跟他遇到的问题完全一致，我晕倒。

右边是PT文件推理结果，左边是ORT推理结果

查找与测试

我发现它修改了模型的输入格式从640改为960了，于是我对着我的onnxruntime代码一通改以后，惊讶的发现，我的onnxruntime部署代码是可以推理的，运行结果如下：

对比一下格式发现源码发现，原因预处理方法不一致导致的推理不正确。

然后我就想用我的OpenVINO2025 C++的代码试试是否可以运行，修改了输入格式，直接加载以后，运行发现什么都没有，只看到右下角有个框，，这个是什么鬼，难道是因为OpenVINO推理不行吗？不太可能啊！ONNXRUNTIME可以，OpenVINO肯定也可以，于是我走查一下OpenVINO C++代码，发现最近我只改过预处理部分，就是参考新预处理方式把之前的一堆代码改为两行了。之前的代码如下：

size_t image_size = input_w * input_h;
cv::Mat blob_image;
resize(image, blob_image, cv::Size(input_w, input_h));
cv::cvtColor(blob_image, blob_image, cv::COLOR_BGR2RGB);
blob_image.convertTo(blob_image, CV_32F);
blob_image = blob_image / 255.0;

// NCHW 设置输入图象数据
float* data = input_tensor.data<float>();
for (size_t row = 0; row < input_h; row++) {
for (size_t col = 0; col < input_w; col++) {
for (size_t ch = 0; ch < 3; ch++) {
			data[image_size * ch + row * input_w + col] = blob_image.at<cv::Vec3f>(row, col)[ch];
		}
	}
}

我修改之后的代码如下：

cv::Mat blob = cv::dnn::blobFromImage(image, 1.0 / 255.0, cv::Size(input_w, input_h), cv::Scalar(), true, false);
memcpy(input_tensor.data<float>(), blob.ptr<float>(), data_s);

我怀疑我修改的memcpy有问题，于是把恢复到以前的代码，奇迹出现了，模型推理可以正常工作了，然后我就知道了是因为我的memcpy使用问题，之前没有太注意内存copy的数据类型，于是我把之前的内存拷贝代码从：

memcpy(input_tensor.data<float>(), blob.ptr<float>(), data_s);

改为：

memcpy(input_tensor.data<float>(), blob.ptr<float>(), data_s*sizeof(float));

奇迹又出现，一切OK，BUG改好了。

总结

任何时候使用memcpy内存拷贝函数时，最后一个参数一定记得写成

 n * sizeof(type_name)

拷贝的是浮点数，就写成：

n*sizeof(float)

拷贝的是整形，就写成：

n*sizeof(int)

OpenVINO2025

本文参与腾讯云自媒体同步曝光计划，分享自微信公众号。

原始发表：2025-06-30，如有侵权请联系 cloudcommunity@tencent.com 删除

工作

本文分享自 OpenCV学堂微信公众号，前往查看

如有侵权，请联系 cloudcommunity@tencent.com 删除。

本文参与腾讯云自媒体同步曝光计划，欢迎热爱写作的你一起参与！

登录后参与评论

0 条评论

热度

C++内存拷贝 | 一个坏习惯可能让人掉大坑

C++内存拷贝 | 一个坏习惯可能让人掉大坑

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐