神经网络中权重与偏置起什么作用？

在 神经网络 的线性层 y = σ(Wx + b) 中：

权重（Weights, W）：

• 矩阵/向量，决定每个输入对输出的贡献强度
• 学习特征组合与方向（如边缘检测核）
• 参数量通常占模型主体

偏置（Biases, b）：

• 逐神经元加常数，平移决策边界
• 无偏置时超平面必须过原点，表达能力受限
• 参数量相对较小

学习过程：反向传播 计算 ∂L/∂W、∂L/∂b，优化器更新；好的初始化（Xavier/He）避免初期梯度消失/爆炸

在 神经网络 的线性层 y = σ(Wx + b) 中：

权重（Weights, W）：

• 矩阵/向量，决定每个输入对输出的贡献强度
• 学习特征组合与方向（如边缘检测核）
• 参数量通常占模型主体

偏置（Biases, b）：

• 逐神经元加常数，平移决策边界
• 无偏置时超平面必须过原点，表达能力受限
• 参数量相对较小

学习过程：反向传播 计算 ∂L/∂W、∂L/∂b，优化器更新。好的初始化（Xavier/He）避免初期梯度消失/爆炸。

正则化：权重衰减主要约束 W；BatchNorm 学缩放 γ、平移 β 可视为特殊可学习参数。详见 深度学习基础 与术语 bias。