PyTorch 中的张量（Tensor）是什么？

Question 1

Accepted Answer

PyTorch 张量（Tensor） 是框架的核心数据结构——广义上的多维数组，标量（0 维）、向量（1 维）、矩阵（2 维）都是其特例。 关键属性： 属性 含义 ------ ------ .shape / .size() 各维大小 .dtype float32、int64 等 .device cpu / cuda:0 requires_grad 是否参与 Autograd .grad 反向后的梯度 创建：torch.tensor()、torch.zeros()、torch.randn()；从 NumPy：torch.from_numpy(arr)（共享内存）。 运算：重载 +、*、@ 等，底层可 dispatch 到 CPU/GPU；广播机制与 NumPy 类似。 与神经网络：nn.Parameter 是特殊 Tensor；前向中张量在计算图上流动；loss.backward()** 沿图回传梯度。 张量设计使 深度学习 代码简洁且高效。详见 深度学习基础。

Question 2

torch.tensor 和 torch.from_numpy 区别？

Accepted Answer

torch.from_numpy(arr) 与原 ndarray 共享内存（零拷贝），改一方会影响另一方，且保留 NumPy 的 dtype（如 float64）；torch.tensor(data) 总是拷贝一份独立数据，可顺带指定 dtype、device、requires_grad。读大批数据想省内存用 from_numpy，需要独立副本或显式控制属性用 torch.tensor。

题库延伸：与本追问相关的专题题 → 如何将 NumPy 数组转换为 PyTorch 张量？

Question 3

view 和 reshape 有何注意？

Accepted Answer

view 要求张量内存连续（contiguous），只是改变 stride/形状的视图、不拷贝数据；若张量经过 transpose/permute 后不连续，view 会报错，需先 .contiguous()。reshape 更省心：能用视图时返回视图，不行则自动拷贝。两者都不能改变元素总数。性能敏感处优先 view 以避免隐式拷贝。

Question 4

dtype 选 float32 还是 float64？

Accepted Answer

深度学习默认且推荐 float32：显存占用减半、GPU 上吞吐远高于 float64，精度对训练足够。float64 仅在科学计算等对数值精度极敏感的场景才用。追求更快可进一步用混合精度（float16/bfloat16 + AMP）。注意从 float64 的 NumPy 数组转来的张量需显式转成 float32，否则会拖慢训练或与 float32 权重不匹配。

PyTorch 中的张量（Tensor）是什么？

核心要点

简要回答

标准回答

常见误区

追问

延伸学习


属性	含义
.shape / .size()	各维大小
.dtype	float32、int64 等
.device	cpu / cuda:0
requires_grad	是否参与 Autograd
.grad	反向后的梯度