Pytorch实现YOLOv3训练自己的数据集
1
最近一直在研究深度学习框架PyTorch,就想使用pytorch去实现YOLOv3的object detection.在这个过程中也在各大论坛、贴吧、CSDN等中看了前辈们写的文章，在这里由衷的感谢帮助过我的朋友们，真的很感谢！！！！
接下来就将这一过程写在下面，希望对在学习计算机视觉的小伙伴有一定的帮助.
PART 01
运行环境
笔者的环境:
ubuntu18.04
PyTorch 1.1.0
anaconda
opencv-python
tqdm
matplotlib
pycocotools
如果没有实验环境可以使用如下的方法进行构建：
建议大家安装anaconda，安装过程自行Google，这里就不做过多的解释了
pip install opencv-python
pip install tqdm
pip install matplotlib
pip install pycocotools- 制作数据集
制作数据集时，我们需要使用labelImge标注工具，安装过程请参考安装标注工具：https://blog.csdn.net/public669/article/details/97610829
本次我们使用的数据集已经标注好了，我们直接拿过来用：https://github.com/cosmicad/dataset
PART 02
相关准备
https://github.com/ultralytics/yolov3
首先从上述链接上将pytorch框架clone下来，放在pycharm的工程目录下，这里我把文件重新命名为YOLOV3,这个随便大家。
需要说明一下，clone下来的文件一开始是没有makeTxt.py和voc_label.py文件的，这两个需要我们后面自己写代码
- 数据装载
将数据集Annotations、JPEGImages复制到YOLOV3工程目录下的data文件下；同时新建两个文件夹，分别命名为ImageSets和labels，最后我们将JPEGImages文件夹复制粘贴一下，并将文件夹重命名为images
- 构建代码
在工程的根目录下新建一个文件makeTxt.py，代码如下：
import os
import random
trainval_percent = 0.1
train_percent = 0.9
xmlfilepath = 'data/Annotations'
txtsavepath = 'data/ImageSets'
total_xml = os.listdir(xmlfilepath)
num = len(total_xml)
list = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list, tv)
train = random.sample(trainval, tr)
ftrainval = open('data/ImageSets/trainval.txt', 'w')
ftest = open('data/ImageSets/test.txt', 'w')
ftrain = open('data/ImageSets/train.txt', 'w')
fval = open('data/ImageSets/val.txt', 'w')
for i in list:
name = total_xml[i][:-4] + '\n'
if i in trainval:
ftrainval.write(name)
if i in train:
ftest.write(name)
else:
fval.write(name)
else:
ftrain.write(name)
ftrainval.close()
ftrain.close()
fval.close()
ftest.close()接着再新建另一个文件voc_label.py，代码如下：
import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
sets = ['train', 'test','val']
classes = ["RBC"]
def convert(size, box):
dw = 1. / size[0]
dh = 1. / size[1]
x = (box[0] + box[1]) / 2.0
y = (box[2] + box[3]) / 2.0
w = box[1] - box[0]
h = box[3] - box[2]
x = x * dw
w = w * dw
y = y * dh
h = h * dh
return (x, y, w, h)
def convert_annotation(image_id):
in_file = open('data/Annotations/%s.xml' % (image_id))
out_file = open('data/labels/%s.txt' % (image_id), 'w')
tree = ET.parse(in_file)
root = tree.getroot()
size = root.find('size')
w = int(size.find('width').text)
h = int(size.find('height').text)
for obj in root.iter('object'):
difficult = obj.find('difficult').text
cls = obj.find('name').text
if cls not in classes or int(difficult) == 1:
continue
cls_id = classes.index(cls)
xmlbox = obj.find('bndbox')
b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
float(xmlbox.find('ymax').text))
bb = convert((w, h), b)
out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
wd = getcwd()
print(wd)
for image_set in sets:
if not os.path.exists('data/labels/'):
os.makedirs('data/labels/')
image_ids = open('data/ImageSets/%s.txt' % (image_set)).read().strip().split()
list_file = open('data/%s.txt' % (image_set), 'w')
for image_id in image_ids:
list_file.write('data/images/%s.jpg\n' % (image_id))
convert_annotation(image_id)
list_file.close()分别运行makeTxt.py和voc_label.py
运行makeTxt.py后ImagesSets后面会出现四个文件，如下图：
主要存储图片名称
运行voc_label.py后labels后，如下图所示：
这里得到的不光是文件名，还有文件的具体路径
接着还要配置两个文件在data文件下新建rbc.data，配置内容如下：
classes=1
train=data/train.txt
valid=data/test.txt
names=data/rbc.names
backup=backup/
eval=coco再在data文件下新建rbc.names，配置内容如下：
RBC
- 修改cfg
我们需要将cfg下的yolov3-tiny.cfg文件进行修改，修改内容如下：
[net]
# Testing
batch=1
subdivisions=1
# Training
# batch=64
# subdivisions=2
width=416
height=416
channels=3
momentum=0.9
decay=0.0005
angle=0
saturation = 1.5
exposure = 1.5
hue=.1
learning_rate=0.001
burn_in=1000
max_batches = 500200
policy=steps
steps=400000,450000
scales=.1,.1
[convolutional]
batch_normalize=1
filters=16
size=3
stride=1
pad=1
activation=leaky
[maxpool]
size=2
stride=2
[convolutional]
batch_normalize=1
filters=32
size=3
stride=1
pad=1
activation=leaky
[maxpool]
size=2
stride=2
[convolutional]
batch_normalize=1
filters=64
size=3
stride=1
pad=1
activation=leaky
[maxpool]
size=2
stride=2
[convolutional]
batch_normalize=1
filters=128
size=3
stride=1
pad=1
activation=leaky
[maxpool]
size=2
stride=2
[convolutional]
batch_normalize=1
filters=256
size=3
stride=1
pad=1
activation=leaky
[maxpool]
size=2
stride=2
[convolutional]
batch_normalize=1
filters=512
size=3
stride=1
pad=1
activation=leaky
[maxpool]
size=2
stride=1
[convolutional]
batch_normalize=1
filters=1024
size=3
stride=1
pad=1
activation=leaky
###########
[convolutional]
batch_normalize=1
filters=256
size=1
stride=1
pad=1
activation=leaky
[convolutional]
batch_normalize=1
filters=512
size=3
stride=1
pad=1
activation=leaky
[convolutional]
size=1
stride=1
pad=1
filters=18
activation=linear
[yolo]
mask = 3,4,5
anchors = 10,14, 23,27, 37,58, 81,82, 135,169, 344,319
classes=1
num=6
jitter=.3
ignore_thresh = .7
truth_thresh = 1
random=1
[route]
layers = -4
[convolutional]
batch_normalize=1
filters=128
size=1
stride=1
pad=1
activation=leaky
[upsample]
stride=2
[route]
layers = -1, 8
[convolutional]
batch_normalize=1
filters=256
size=3
stride=1
pad=1
activation=leaky
[convolutional]
size=1
stride=1
pad=1
filters=18 #3*(class + 4 + 1)
activation=linear
[yolo]
mask = 0,1,2
anchors = 10,14, 23,27, 37,58, 81,82, 135,169, 344,319
classes=1
num=6
jitter=.3
ignore_thresh = .7
truth_thresh = 1
random=1需要将filters=18 #3*(class + 4 + 1)这一行改为filters=18，否则会报如下的错误：
接着，获取网络参数yolov3-tiny.weights，
下载链接https://pjreddie.com/media/files/yolov3-tiny.weights，下
载后导入weights文件夹下；同样还需要下载yolov3-tiny.conv.15，
下载导入weights文件夹下，下载链接如下：
https://pan.baidu.com/s/1nv1cErZeb6s0A5UOhOmZcA
提取码：t7vpPART 03
训练模型
在当前项目文件下使用Terminal，可以使用pycharm中的Terminal，也可以使用liunx系统的Terminal,输入如下命令
说明：epoches 10 不是固定的，大家可以根据实际训练情况自行修改
python train.py --data-cfg data/rbc.data --cfg cfg/yolov3-tiny.cfg --epochs 10
训练之后会得到模型：
PART 04
测试模型
同样在Terminal下输入以下命令：
python detect.py --data-cfg data/rbc.data --cfg cfg/yolov3-tiny.cfg --weights weights/best.pt
PART 05
一些bug
1.关于出现如下的情况
解决方法：
这个问题是由于本项目下有一个utils的文件目录，但是呢python本身就有一个utils；通常情况下我们是用import utils的方法导入的。解决这个问题我们只需将本项目的utils改一个名字即可，笔者是改为project的，同样也需要将相关文件进行修改，修改如下：
2. AssertionError: Shapefile out of sync, please delete data/test.shapes and rerun
这个问题的话需要将data文件下的test.shapes删了，再重新运行makeTxt.py和voc_labels.py即可。报错的原因：因为Shapefile的不同步，可能用于训练其他的任务，没有即使的改回来导致的。
3.在生成将voc生成txt时，打开txt后是空白
这是因为voc_label.py下的classes = ["name"] 和你标注的不一致。例如，使用labelImg标注的为face,那么你在编写时就应该在voc_label.py下写classes = ["face"]
4.可视化，记得有一个学姐问我，咋不可以可视化，我当时忘了，导致她花了很长时间去解决这个bug
其实很容易解决，只需要在训练完成后，打开命令行输入命令：
python3 -c "from project import utils; utils.plot_results()"即可在根目录下看到.
5.windows环境下路径问题
问题描述：有些小伙伴在按照笔者的步骤进行自定义数据集训练时，出现了如下的报错信息：
问题的原因：由于笔者是在linux环境下进行的实验，所以没有出现这种情况。这个问题出现的原因是由于windows系统部分符号的不敏感，所以导致这种情况。
解决方法：
打开dataset.py，把162行换成163行即可
由于笔者能力有限，在一些问题的描述上可能不是那么清楚，所以还请多多包含