🤵 Author :Horizon John
✨ 编程技巧篇:各种操作小结
🎇 机器视觉篇:会变魔术 OpenCV
💥 深度学习篇:简单入门 PyTorch
🏆 神经网络篇:经典网络模型
💻 算法篇:再忙也别忘了 LeetCode
Dense Convolutional Network 就是熟知的 ,获得了 CVPR 2017年 的 Oral ;
对于每一层,前面所有层的特征映射作为输入,并将特征映射作为后续所有层的输入 ;
它缓解了 问题,加强了 ,鼓励了 ,并大大减少了 ;
🔗 论文地址:Densely Connected Convolutional Networks

卷积神经网络(CNN) 已经成为视觉的主要机器学习方法 ;
随着CNN 的不断发展,网络模型越来越深入,一个新的研究问题出现了:
是关于 通过许多层后,当它到达网络的末端(或开始)时,它可能会 ;
🚩 核心思想
基于此,作者提炼了一个简单的 连接模式 :
为确保网络中各层之间的信息流动最大化,将所有层(具有匹配的特征图大小)直接连接起来 ;
每一层从所有前面的层获得额外的输入,并将自己的特征映射传递给所有后面的层 ;
在传统的 L层网络 中引入了 连接,而在 DenseNet 中引入了 连接 !
以下是一个生长速率 k = 4 的 5层 dense block ,每一层都以前面所有的特征图作为输入:

这种连接模式与直觉相反的效果是:它需要的 参数量 比传统卷积网络 更少 !
除了更好的 参数效率 外,DenseNet的一大优点是改进了整个 网络的信息流和梯度,这使得它们 易于训练 !
具有 正则化效应 ,它减少了训练集规模较小的任务的 过拟合 现象 ;
DenseNet并没有从极 (如 ResNet)或极 (如 GoogLeNet)的架构中获取表征力,而是通过 来挖掘网络的潜力,产生 的压缩模型 ;
卷积网络传递每一层实现的非线性变换一般都定义一个 、、 或 等操作的复合函数 ;
在 DenseNet 中为三个连续操作的复合函数:,随后是 和 ;

输出结果:
版权声明:
本文来源网络,所有图片文章版权属于原作者,如有侵权,联系删除。
本文网址:https://www.mushiming.com/mjsbk/9532.html