大家好，本期给大家推荐我们的头条专栏，用于系统性地学习残差网络模型及其一些变种，假期现在优惠噢，下面是本专栏的各期的内容介绍。
第1期：【残差网络系列】残差连接的起源
残差连接的思想起源于中心化，在神经网络系统中，对输入数据等进行中心化转换，即将数据减去均值，被广泛验证有利于加快系统的学习速度，那早期残差连接究竟是什么样的呢？
第2期：【残差网络系列】残差网络的诞生与原理
何凯明等人在2015年的论文[1]中正式提出了，简化了 中的形式，那残差网络的表现到底如何，为什么那么有效呢？
第3期：【残差网络系列】预激活的残差网络，为什么激活放卷积前面
当前卷积神经网络的基本模块通常为卷积+归一化+激活函数(conv+bn+relu)的顺序，对于普通的按照这些模块进行顺序堆叠的网络来说，各个模块的顺序没有什么影响，但是对于残差网络来说却不一样，那放在前面和后面的区别在哪里？
第4期：【残差网络系列】更宽的性能与更深更窄的相比性能如何
我们以前的文章中说过宽度对模型影响的影响，越宽通常性能都会越好，那在这里如何呢？
第5期：【残差网络系列】多分支与分组的网络，与普通网络相比如何
分组网络也是一种很常见的模型，如果它与残差网络两者结合会是怎么样？
第6期：【残差网络系列】多分支分离与合并的，如何进行信息共享
前面给大家介绍了网络的宽度对第重要性，也比较了多分支和分组多等结构，如果多分支即存在分离又可以合并，会如何？
第7期：【残差网络系列】残差连接的极致变种，密集残差网络如何提升性能
假如进一步将残差连接的思想发挥到极致，把所有层都与其他所有层相连，会有什么好处？
第8期：【残差网络系列】分类冠军，与如何组合
DPN是一个两通道网络，一个通道是通道，一个通道是通道，它有什么特点？
第9期：【残差网络系列】性能的提升是因为深度的增加吗？
有了残差网络之后深度网络的训练瓶颈从20层左右直接升到了1000层，那它的性能的提升是来自于深度的增加吗？
第10期：【残差网络系列】加权与标准的有什么区别？
标准的残差网络中，两个通道之间先相加再激活，这可能会丢失信息，加权提出将激活函数提前到残差通道，然后进行加权融合的思路，为什么要这么做？
第11期：【残差网络系列】残差中有残差，层级嵌套的是什么样子
如果我们在残差中再使用残差，会是个什么样的网络结构
第12期：【残差网络系列】泛化的框架 in
残差网络只是一种特殊结构，那么泛化版本又如何？
第13期：【残差网络系列】通道变换呈现金字塔结构的，你见过吗
大家都知道，CNN等结构在特征图尺度减小的时候，通常会随之增加特征图的通道数目并且大部分的模型其特征图通道数的增加是跳变的，如何渐变呢。
第14期：【残差网络系列】残差模型有冗余？如何实现千人千面的残差模型？
一些研究表面残差模型是有冗余的，比如 Depth在训练时随机丢弃残差模块，而实现了对不同样本呈现不同的残差结构。
第15期：【残差网络系列】残差与注意力机制如何结合在提升模型性能
残差网络和注意力机制都被证明是非常有效的，如何两者结合会怎样？
第16期：【残差网络系列】残差网络与分组网络的结合
是一个多尺度的结构，它将瓶颈结构改造为分组残差结构，提升了在一系列任务中的精度。
第17期：【残差网络系列】残差模块中如果使用注意力机制设计会怎样？
是一个基于分组和注意力机制的结构变种，以简单的方式对基准模型的性能进行了提升。
第18期：【残差网络系列】不是残差，胜似残差的分形网络，你见过没？
残差网络可以使得上千层的网络结构设计成为可能，但并不是只有残差网络可以做到，(分形网络)便是如此，其实它跟残差还挺像。
———END———
限 时 特 惠： 本站每日持续更新海量各大内部创业教程，永久会员只需109元，全站资源免费下载 点击查看详情
站 长 微 信： nanadh666
