1. 张量在数学里时一种几何实体,包括:标量、向量和线性算子。
  1. 标量(数)
  2. 向量(一维数组)
  3. 矩阵(二维数组)
  4. 张量(高维数组)
  1. tensors类似于numpy的ndarray,在GPU上可以使用tensors来加速
  2. 关于tensor维度的理解:
  1. (浅显易懂)
  1. tensors的常见类型
  2. tensor的基本操作
# pytorch基础练习, tensor的基本操作
import torch
# tensor生成的几种方式 (注释部分为size大小)
"""
# torch.Tensor和torch.tensor的区别
torch.Tensor()是Python类,更明确的说,是默认张量类型torch.FloatTensor()的别名,
torch.Tensor([4,5]) 会调用Tensor类的构造函数__init__,生成单精度浮点类型的张量。

torch.tensor()仅仅是Python的函数,函数原型是:
torch.tensor(data, dtype=None, device=None, requires_grad=False)
其中data可以是:list, tuple, array, scalar等类型。
torch.tensor()可以从data中的数据部分做拷贝(而不是直接引用),
根据原始数据类型生成相应的torch.LongTensor,torch.FloatTensor,torch.DoubleTensor。
"""
a = torch.Tensor(4, 5)  # [4,5]
b = torch.rand(4, 5)  # 随机生成,[4,5]
aa = torch.zeros(2, 1, 2, 4, 2)  # [2,1,2,4,2]
bb = torch.FloatTensor([-1, -2, 3])  # [3]

# tensor和其他类型之间的相互转化
# 1、numpy
c = a.numpy()  # tensor转numpy
d = torch.from_numpy(c)  # numpy转tensor
# 2、list
c = a.tolist()  # tensor转list
# 3、CPU/GPU
# c = a.cuda()
# d = c.cpu()

# tensor的数学操作
# 相加
c = a + b
c = torch.add(a, b)
d = torch.add(a, 20)  # 可以加上标量,也可以加上张量
# 求每个元素的绝对值
c = torch.abs(bb)

# 数理统计
# 求平均值,第二个参数表示第几个维度;从0开始计数,从左往右;最后的结果,就是去掉该位置上的维数,剩下的维数
c = torch.mean(a, 0)  # 按行求平均,返回的size是列数,原始:[4,5], 结果:[5]
d = torch.mean(a, 1)  # 按列求平均,返回的size是行数, 原始:[4,5], 结果:[4]
e = torch.mean(aa, 1)  # 原始:[2,1,2,4,2], 结果:[2,2,4,2]

# 判断是否相等
c = torch.eq(a, b)  # 对于同size的两个tensor挨个元素比较,返回同size的tensor
e = torch.eq(a, 0)  # 第二个参数可以是同size的tensor或者是一个数
d = torch.equal(a, b)  # 返回True/False

# 神经网络tensor常用操作
# 求所有元素个数
c = a.numel()
# 维数压缩,第二个参数表示维度,从左往右,从0开始计数
d = torch.squeeze(aa)  # 去掉维数为1的维数,[2,2,4,2]
e = torch.squeeze(aa, 2)  # 指定维度的维数若为1则去除,否则还是原值 [2,1,2,4,2]
# 维数扩展,第二个参数表示维度,必现,且值不能大于原先的维数
d = torch.unsqueeze(a, 1)  # 在指定位置上增加一维,[4,1,5]
e = torch.unsqueeze(a, 2)  # [4,5,1]
# tensor拼接之stack
d = torch.stack((a, b))  # 输入必须是tuple/list,stack的拼接是建立一个新的维度,然后再在该纬度上进行拼接,默认新建的维度是第0维,[2,4,5]
e = torch.stack((a, b), 1)  # [4,2,5]
f = torch.stack((a, b), -1)  # [4,5,2]
g = torch.stack([a, b, b])  # [3,4,5]
# tensor拼接之cat
d = torch.cat([a, b])  # 输入必须是tuple/list,cat是在已有维度上拼接,默认是第0维,[8,5]
e = torch.cat((a, b), 1)  # [4,10]
# 张量扩展之expand
# 1. 只能对维度值为1的维度进行扩展,且扩展的Tensor不会分配新的内存,只是原来的基础上创建新的视图并返回;
# 2. 无需扩展的维度请保持维度值不变。
# d = torch.Tensor(3, 1).expand(3, 4)  # 扩展的那维的值是一样的, [3,4]