1️⃣ 准备数据

• true_w 和 true_b：真实线性回归的参数，
我们希望神经网络学出来的 w 和 b 接近它们。

• d2l.synthetic_data：生成 模拟数据，公式是：

• features 是 1000 个样本，每个样本 2 个特征 → 形状 (1000, 2)

• labels 是对应的目标值 → 形状 (1000, 1)

2️⃣ 构建数据迭代器（小批量 SGD）

• TensorDataset(*data_arrays)：把 features 和 labels 配对，保证 x 对应 y

• DataLoader：生成 可迭代对象（一个batch的数据），每次返回一个 batch

• shuffle=is_train：训练时打乱数据顺序

• batch_size = 10 → 每次拿 10 个样本训练

就像把 1000 个样本切成 100 个小包，每次取一个小包去梯度下降。

3️⃣ 构建神经网络

• nn.Linear(2, 1)：线性层，2 个输入特征 → 1 个输出

• nn.Sequential：把网络组织成顺序结构（这里只有一层）

• 初始化参数：

这就是线性回归模型 y = w1x1 + w2x2 + b，只是用 PyTorch 的神经网络模块表示。

4️⃣ 定义损失函数和优化器

• loss：均方误差

• trainer：随机梯度下降优化器（学习率 0.03）

• net.parameters() 会自动获取网络中可学习的参数（w 和 b）

告诉网络：你要学的目标是“预测值尽量接近真实标签”，怎么更新参数我帮你算。

5️⃣ 训练循环

1. for X, y in data_iter
• 取一个 batch 的样本 (X) 和标签 (y)
• batch_size = 10，每轮迭代处理 10 个样本

2. l = loss(net(X), y)
• 前向传播：预测 y_hat = net(X)， y_hat 就是预测值
• 计算损失 = MSE(y_hat, y)

3. trainer.zero_grad()
• 清零上一次梯度
• PyTorch 默认梯度是累加的，所以每次必须清零

4. l.backward()
• 反向传播，计算梯度 w.grad, b.grad

5. trainer.step()
• 用 SGD 更新 w 和 b

6. l = loss(net(features), labels)
• 每个 epoch 结束，用全量数据计算 loss 打印
• 便于观察训练进度

6️⃣ 打印参数误差

• net[0].weight.data → 学到的 w

• reshape(true_w.shape) → 调整形状方便对比

• 打印误差：越小说明训练越接近真实参数

训练完成后，你可以直接看到“网络学到了多少真实规律”。

7️⃣ 总结一句话

1. 造一堆数据

2. 用 DataLoader 切成小批量

3. 定义网络（线性层）

4. 定义损失函数和优化器

5. 循环训练：
• 前向传播 → 反向传播 → 梯度下降

6. 输出训练进度和学到的参数

核心其实就是：

线性回归 = 单层神经网络 + MSE + SGD