PyTorch核心--tensor 张量 ！！

前言

在PyTorch中，张量是核心数据结构，它是一个多维数组，类似Numpy中的数组。张量不仅仅是存储数据的容器，还是进行各种数学运算和深度学习操作的基础。

下面从3个方面做一共总结：

1. 张量的概念
2. 张量的原理
3. 张量的操作

张量的概念

1. 张量的定义

张量是一种多维数组，它可以是标量（零维数组）、向量（一维数组）、矩阵（二维数组）或具有更高维度的数组。

在PyTorch中，张量是tensor.Tensor 的实例，可以通过不同的方式创建，如直接从Python列表、Numpy数组或通过特定函数生成。

2. 张量的属性

每个张量都有一些重要的属性，包括形状（shape）、数据类型（dtype）和设备（device）。

3. 张量的形状

张量的形状定义了其维度和每个维度上的大小。例如，形状为（2，3，4）的张量具有2行、3列和4个深度。形状对于理解和操作张量非常重要。

张量的原理

PyTorch中的张量是基于Tensor类实现的，它提供了对底层存储的抽象。

张量包含三个主要组件：

• 存储（storage）
• 形状（shape）
• 步幅（stride）

1. 存储（storage）

存储是实际存储数据的地方，它是一块连续的内存区域。多个张量可以共享相同的存储，从而减少内存消耗。存储中的数据按照张量的形状进行排列。

2. 形状（shape）

张量的形状定义了其维度和每个维度上的大小。形状信息有助于解释存储中数据的组织方式。

3. 步幅（stride）

步幅是指在存储中移动到下一个元素所需的步数。了解步幅有助于理解在张量中进行索引和切片时的性能。

张量的操作

PyTorch提供了丰富的张量操作，包括数学运算、逻辑运算、索引和切片等。

这里列举最常见的几种操作：

1. 数学运算

2. 逻辑运算

3. 索引和切片

4. 形状操作

5. 广播

广播是一种自动扩展张量的操作，使得形状不同的张量可以进行逐元素的数学运算。

总结

张量作为深度学习中的基本数据结构，对于理解和实现神经网络非常关键。

来源：DOWHA小壮