
原帖希望在第一维补 29 个零，却在拼接时报其他维度不匹配：

```text
RuntimeError: invalid argument 0: Sizes of tensors must match except in dimension 2. Got 32 and 71 in dimension 0 at /pytorch/aten/src/THC/generic/THCTensorMath.cu:87
```

## 报错中的 dimension 2 与目标的第 0 维不一致

要把 `[71,32,1]` 变为 `[100,32,1]`，应扩展第 0 维。原报错又出现 32 与 71 在第 0 维不一致，说明实际对象轴顺序可能与描述不完全相同；先打印两侧 shape，再决定拼接维，不能只把所有 dim 改成一个固定值。

对 cat 来说，只有指定的拼接维允许长度不同；原错误明确说当前尝试沿 dimension 2 拼接，而需求是扩大第 0 维。

下面 x 对应原张量，先检查实际形状，再用它派生同 dtype、同设备的补零部分：

```python
import torch
x = torch.randn(71, 32, 1)
print("josh050608")
print("x:", x.shape, x.dtype, x.device)
missing = 100 - x.shape[0]
assert missing >= 0
padding = x.new_zeros((missing, *x.shape[1:]))
y = torch.cat((x, padding), dim=0)
assert y.shape == (100, 32, 1)
assert torch.equal(y[:71], x)
assert torch.count_nonzero(y[71:]) == 0
```

真实项目把示例 x 换成自己的张量即可。`new_zeros` 避免用默认 CPU/float32 的 zeros 与原 CUDA 张量冲突。

如果你的实际对象是 `[32,71,1]`，要先确认轴分别代表 batch、时间还是特征；不能看见 71 就无条件沿 dim=0。原报错还出现 32 与 71 在第 0 维冲突，说明至少有一个实际对象的轴顺序与文字描述不同，务必打印两者 shape。

若是可变长度序列批次，还需要记录原长度或构造 mask，使后续损失和注意力不会把补零当成真实数据。补齐后的形状正确只是第一步，验证时还要确认原数据未改动、padding 所在轴符合模型约定。

## 包装成带边界检查的补齐函数

下面完整 CPU 示例只沿第 0 维补零，拒绝原数据已经超过目标长度的情况，并验证原数据和梯度路径仍保留：

```python
import torch
def pad_first_axis(x, target_length):
    missing = target_length - x.shape[0]
    if missing < 0:
        raise ValueError("原长度超过目标，需要显式定义截断规则")
    padding = x.new_zeros((missing, *x.shape[1:]))
    return torch.cat([x, padding], dim=0)
x = torch.ones(71, 32, 1, requires_grad=True)
y = pad_first_axis(x, 100)
assert y.shape == (100, 32, 1)
assert torch.equal(y[:71], x)
assert torch.count_nonzero(y[71:]) == 0
y.sum().backward()
assert torch.equal(x.grad, torch.ones_like(x))
valid = torch.arange(100) < x.shape[0]
assert valid.sum().item() == 71
print("padded shape/valid length:", y.shape, valid.sum().item())
```

若第 0 维表示时间，valid 可以作为长度掩码的基础；若实际布局是 batch_first，时间通常在另一轴，应相应调整函数，而不是按数字 71 猜位置。

零向量并不自动成为“忽略”标记。后续 RNN、注意力或损失必须按照任务使用 lengths、mask 或有效区域，避免把 padding 当成真实训练信号。

修复后除了目标 shape，还要确认原数据顺序、补零区域、dtype/device 一致，以及上游需要的梯度没有被断开。若设计需要截断，另行明确裁掉哪一端，不能在补齐函数里默默丢数据。

参考：[原始求助帖](https://stackoverflow.com/questions/53512281/concatenate-two-tensors-in-pytorch)；技术依据：[torch.cat（2.5）](https://docs.pytorch.org/docs/2.5/generated/torch.cat.html)、[PyTorch 数据加载（2.5）](https://docs.pytorch.org/docs/2.5/data.html)。


要把 [71,32,1] 变为 [100,32,1]，应扩展第 0 维。原报错又出现 32 与 71 在第 0 维不一致，说明实际对象轴顺序可能与描述不完全相同；先打印两侧 shape，再决定拼接维，不能只把所有 dim 改成一个固定值。

Sizes of tensors must match except in dimension 2：把 [71,32,1] 补到 [100,32,1] 应沿 dim=0

人工智能

编程语言

在PyTorch中沿第0维补零至目标长度时，先打印原始张量shape确认轴顺序，避免因维度不匹配导致cat报错。使用new_zeros保持dtype和device一致，检查目标长度非负后拼接，并保留valid长度掩码，防止padding被误作真实数据，同时确保梯度路径完整。

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

Sizes of tensors must match except in dimension 2：把 [71,32,1] 补到 [100,32,1] 应沿 dim=0-腾讯云开发者社区-腾讯云

Sizes of tensors must match except in dimension 2：把 [71,32,1] 补到 [100,32,1] 应沿 dim=0

Sizes of tensors must match except in dimension 2：把 [71,32,1] 补到 [100,32,1] 应沿 dim=0

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐