CNN（卷积神经网络）

卷积神经网络（Convolutional Neural Network，CNN）是一类以卷积运算为核心的深度神经网络，凭借局部感受野与权值共享两大结构归纳偏置，高效提取图像等网格数据中的空间层次特征。它是计算机视觉领域长期以来最重要的基础架构，也是 2012 年深度学习浪潮的直接推手。

CNN 的设计哲学源于对图像局部相关性和平移不变性的归纳偏置。

• 卷积层：可学习滤波器（kernel）在输入特征图上滑动，逐位置计算点积，输出特征图（Feature Map）；并行使用多个滤波器即可输出多通道特征。
• 权值共享：同一卷积核在整张图像上复用参数，使参数量远小于全连接网络，同时赋予模型对平移的等变性。
• 局部感受野：每个神经元只与上层局部区域相连，符合相邻像素关联性强的图像先验。
• 池化层（Pooling）：最大池化或平均池化对特征图进行下采样，压缩空间维度、增强位置容忍度。
• 多层堆叠：浅层提取边缘、纹理等低级特征，深层组合形成语义级别的高级特征表示。

CNN 的演进跨越三十余年，与算力和数据的增长紧密相连。

• 1989：Yann LeCun 在贝尔实验室利用反向传播训练卷积网络，成功识别手写邮政编码，首次证明 CNN 可端到端学习图像特征。
• 1998：LeNet-5 系统化呈现「卷积-池化-全连接」架构，在 MNIST 上达到 0.95% 测试错误率，并被商用于银行支票识别系统。
• 2012：AlexNet（Krizhevsky、Sutskever、Hinton）在 ImageNet ILSVRC 竞赛中以 Top-5 错误率约 15.3% 夺冠，比第二名低约 11 个百分点；首次大规模使用 GPU 加速、ReLU 激活和 Dropout 正则化。
• 2014：牛津大学 VGGNet（Simonyan & Zisserman）验证「小卷积核 3×3 + 深网络」的有效性；Google GoogLeNet/Inception 引入多尺度并行卷积模块。
• 2015：微软研究院 ResNet（何凯明等）通过残差连接（Skip Connection）将网络深度推至 152 层，ILSVRC 2015 Top-5 错误率降至 3.57%。
• 2017：MobileNet 引入深度可分离卷积，开启轻量化 CNN 时代。
• 2020 年后：Vision Transformer（ViT）挑战 CNN 主导地位；ConvNeXt（2022） 以现代化设计让纯 CNN 重回顶级性能，证明卷积架构仍有生命力。

CNN 家族已衍生出多条针对不同约束的技术路线。

• 深度可分离卷积：将标准卷积拆为逐通道卷积 + 逐点卷积，参数量约为原来的 1/8～1/9，MobileNet 系列采用此设计，适合移动端推理。
• 空洞卷积（Dilated Convolution）：滤波器元素间插入间隔，感受野呈指数扩张而不增加参数，广泛用于语义分割（DeepLab 系列）。
• 残差网络（ResNet）：跳跃连接将输入直接加回输出，解决梯度消失，目前仍是最常用的视觉主干之一。
• 密集连接（DenseNet）：每层与后续所有层直接相连，特征重用率高、参数效率好。
• ConvNeXt（2022）：借鉴 Transformer 的设计细节（7×7 大卷积核、LayerNorm 等）对纯 CNN 进行现代化改造，与 ViT 性能相当。

CNN 在视觉任务上有成熟的工业落地，也在部分非视觉领域发挥作用。

• 图像分类：ImageNet 预训练 ResNet、EfficientNet 是工业界迁移学习的标准起点。
• 目标检测：YOLO 系列和 Faster R-CNN 以 CNN 主干提取特征，再接检测头输出边界框与类别。
• 语义分割：U-Net（医学影像）、DeepLab 系列（自动驾驶场景）均以 CNN 编码器为核心。
• 人脸识别：FaceNet（Google）、ArcFace 在深层 CNN 特征基础上度量人脸嵌入距离。
• 非图像应用：一维 CNN 用于音频波形和时序信号处理；TextCNN 用于短文本分类。

2020 年后，ViT 等注意力架构对 CNN 的统治地位形成挑战，两者各有优劣。

• 归纳偏置：CNN 内置局部性与平移不变性，数据效率高；ViT 无此偏置，需要更大规模数据预训练。
• 全局感受野：ViT 的自注意力机制天然覆盖全图；CNN 需堆叠多层才能建立远距离依赖。
• 计算效率：CNN（尤其轻量化变体）在边缘设备和实时推理上仍具优势；ViT 参数量和计算量通常更大。
• 融合趋势：ConvNeXt、Swin Transformer 等混合架构借鉴双方优点，模糊了两者的边界。

CNN 并非万能，几个常见认知误区值得注意。

• 全局依赖建模弱：局部感受野需堆叠大量层才能整合远距离信息，这是 Transformer 在视频理解、场景理解等任务上更占优的根本原因。
• 「CNN 专门看图」是过度简化：一维 CNN 在时序信号和语音任务上同样有效，卷积本质是对任意网格数据的局部特征提取算子。
• 纹理偏置（Texture Bias）：CNN 倾向于学习纹理而非形状，在域迁移场景下泛化能力下降，需仔细设计数据增强和领域适应策略。
• 对抗样本脆弱：微小的人眼不可见的扰动即可误导 CNN 做出错误预测，是 AI 安全领域的重要研究议题。