【玩转 GPU】Windows系统下tensorflow-gpu2.10看图急速入门

Windows系统下tensorflow-gpu2.10看图急速入门

（针对win10、win11 64位版本--2023年8月14日）

1、安装

1.1Windows下anaconda安装（针对win10、win11 64位版本）

1.1.1打开网站：https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/?C=M&O=D

1692004429548

1.1.2点击Download下载windows下的Anaconda3-2023.07-1-Windows-x86_64版本。

1692004481407

1.1.3下载后双击Anaconda3-2023.07-1-Windows-x86_64.exe 文件,一路点击next

设置安装目录，本次演示设置为C:\anaconda3，然后一路点击Next按钮。至此anaconda安装完成，本anaconda默认的python版本是3.10，属于现阶段比较稳定的比较高的版本，建议使用。

1.2按照下表查询本机的nvidia GPU算力，若有适合的nvidia的gpu（建议算力3.5以上），安装gpu版

本次演示以本机的3070显卡为例。

1.2.1安装驱动

打开Anaconda Prompt运行nvidia-smi

1691829410888(1)

查看本机的nvidia驱动版本，本机cuda为11.7,注意下面安装的cuda不得超过此版本。

查看tensorflow-gpu相应的对应版本

https://tensorflow.google.cn/install/source_windows?hl=cn 查看相应的对应版本（中文）

https://tensorflow.google.cn/install/source_windows?hl=en 查看相应的对应版本（英文）

我们发现对于gpu版本的tensorflow中文版只到tensorflow2.6.0版(对应python3.6-3.9)，而英文对应到2.10.0版(对应python3.6-3.10)，我们选择英文版(对应cuDNN 为8.1版本，CUDA为11.2，注意这个不能搞错，否则易出现版本不兼容)。

1.2.1.1https://developer.nvidia.com/cuda-toolkit-archive 下载相应版本的CUDA

1691828469782

我们下载cuda_11.2.0_460.89_win10.exe

(https://developer.nvidia.com/cuda-11.2.0-download-archive?target_os=Windows&target_arch=x86_64&target_version=10)

1691830376920

点击下载，约等待10分钟左右。

1691980714934(1)

下载完成后，双击安装cuda_11.2.0_460.89_win10.exe

1691980759288

点击OK按钮解压

1691980801265

解压后安装

1691980835504

约等待半分钟后

点击同意并继续（A）按钮

1691981034676

按照默认的精简（E）即可，点击按钮下一步按钮继续

1691981727643

选中复选框，点击NEXT 继续。

1691981804406

1691981832678

点击按钮下一步按钮继续

1691981919141

选中复选框，点击按钮关闭(C)完成CUDA的安装。

默认安装在C:\ProgramData\NVIDIA Corporation\CUDA Samples\v11.2文件夹下。

1.2.1.2配置环境变量

右键单击桌面上的此电脑，弹出右键菜单后点击属性

1691982312212

输入path

1691982473771

回车

1691982555530

编辑系统环境变量。

1691982686167

点击按钮环境变量(N)

1691982753246

1691982787359

发现已经自动配置好了。

1.2.1.3 https://developer.nvidia.com/rdp/cudnn-archive 下载cudnn

1691830610828

我们下载cudnn8.1.1,对应的文件为cudnn-11.2-windows-x64-v8.1.1.33.zip（中间会提示登录账号，以自己的邮箱注册一个账号即可）。下载后解压文件，得到如下文件夹

1691983105173

把上面的bin include lib三个文件夹选中复制。

打开C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2

1691983468504

文件夹进行粘贴并覆盖。

1.2.2Tensorflow安装

1.2.2.1 tensorflow-gpu的安装

打开Anaconda Prompt

运行Pip install tensorflow-gpu==2.10

或pip install tensorflow-gpu==2.10 -i https://pypi.tuna.tsinghua.edu.cn/simple

目前windows下gpu版本最新版本是2.10

(补充，本内容为依据网上资料的简易安装方法，感觉应该很有意义，但是可能是防火墙的原因实际测试不能用，仅供参考。打开Anaconda Prompt运行 conda install cudatoolkit=11.2 conda install cuda=8.1)

1.2.2.2若无gpu，安装cpu版

打开Anaconda Prompt

执行以下命令：

Pip install tensorflow

或pip install tensorflow -i https://pypi.tuna.tsinghua.edu.cn/simple

目前windows下最新版本是2.13

1691827304832

2.测试tensorflow gpu性能：

2.1

import tensorflow as tf

import timeit

# 使用cpu运算

def cpu_run():

with tf.device('/cpu:0'):

cpu_a = tf.random.normal([100000, 1000])

cpu_b = tf.random.normal([1000, 1000])

c = tf.matmul(cpu_a, cpu_b)

return c

# 使用gpu运算

def gpu_run():

with tf.device('/gpu:0'):

gpu_a = tf.random.normal([100000, 1000])

gpu_b = tf.random.normal([1000, 1000])

c = tf.matmul(gpu_a, gpu_b)

return c

# 默认运算

def pu_run():

gpu_a = tf.random.normal([100000, 1000])

gpu_b = tf.random.normal([1000, 1000])

c = tf.matmul(gpu_a, gpu_b)

return c

cpu_time = timeit.timeit(cpu_run, number=10)

gpu_time = timeit.timeit(gpu_run, number=10)

pu_time=timeit.timeit(pu_run, number=10)

# print("cpu:", cpu_time, " gpu:", gpu_time)

print("cpu:", cpu_time, " gpu:", gpu_time," pu:", pu_time)

# 结果

# cpu: 3.5386725999996997 gpu: 0.003457500002696179 pu: 0.002655599993886426

# 我们发现使用GPU后速度得到极大提升。

2.2

# TensorFlow and tf.keras

import tensorflow as tf

# Helper libraries

import numpy as np

import matplotlib.pyplot as plt

print(tf.__version__)

fashion_mnist = tf.keras.datasets.fashion_mnist

(train_images, train_labels), (test_images, test_labels) = fashion_mnist.load_data()

class_names = ['T-shirt/top', 'Trouser', 'Pullover', 'Dress', 'Coat','Sandal', 'Shirt', 'Sneaker', 'Bag', 'Ankle boot']

train_images.shape

len(train_labels)

train_labels

plt.figure()

plt.imshow(train_images[0])

plt.colorbar()

plt.grid(False)

plt.show()

plt.figure(figsize=(10,10))

for i in range(25):

plt.subplot(5,5,i+1)

plt.xticks([])

plt.yticks([])

plt.grid(False)

plt.imshow(train_images[i], cmap=plt.cm.binary)

plt.xlabel(class_names[train_labels[i]])

plt.show()

model = tf.keras.Sequential([

tf.keras.layers.Flatten(input_shape=(28, 28)),

tf.keras.layers.Dense(1280, activation='relu'),

tf.keras.layers.Dense(1280, activation='relu'),

tf.keras.layers.Dense(1280, activation='relu'),

tf.keras.layers.Dense(128, activation='relu'),

tf.keras.layers.Dense(10)

])

model.compile(optimizer='adam',

loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True),

metrics=['accuracy'])

# import timeit

import time

aa=time.time()

model.fit(train_images, train_labels, epochs=10)

bb=time.time()

cc=bb-aa

cc

aa=time.time()

with tf.device('/CPU:0'):

model.fit(train_images, train_labels, epochs=10)

bb=time.time()

cc=bb-aa

cc

aa=time.time()

with tf.device('/GPU:0'):

model.fit(train_images, train_labels, epochs=10)

bb=time.time()

cc=bb-aa

cc

在I9 13900 3700显卡 32G ddr5内存下

采用CPU，单次约24秒；采用GPU，单次约3秒

在I7 7700 710显卡 16G ddr4内存下

采用CPU，单次约53秒；

I7 7700 为4核8线程 4G，I9 13900 为24核32线程，看来，CPU带来的性能提升不大。GPU带来的性能提升才是主要的。

1. 若无合适的本机GPU，可以登录 https://cloud.tencent.com/act/pro/gpu-study?from=20421&from_column=20421

1692002466272

使用腾讯公司的腾讯云的GPU服务器，短期使用性价比更高。