从ReLU到GELU，一文概览神经网络的激活函数 67
选自 | mlfromscratch作者 | Casper Hansen转自| 机器之心编译激活函数对神经网络的重要性自不必多言，来自丹麦技术大学的 Casper Hansen 通过公式、图表和代码实验介绍了 sigmoid、ReLU、ELU 以及更新的 Leaky ReLU、SELU、GELU 这些激活函数，并比较了它们的优势和短板。在计算每一层的激活值时，我们要用到激活函数，之后才能确定这些激...
继Dropout专利之后，谷歌再获批GAN专利，一整套对抗训练网络被收入囊中 8
转自 |AI科技评论作者 | 十、年编辑 | Camel谷歌获得了“对抗训练神经网络”专利。根据FPO（免费专利在线）信息显示，此项专利申请于2016年的9月份，生效于2019年的12月31日。其中，发明人为Ian J. Goodfellow，Szegedy, Christian。谷歌作为受让人拥有专利权，这意味着继神经网络 Dropout 专利之后，又一构建神经网络的基础方法归属于谷歌。根据该专...
神经网络为何非激活函数不可？ 12
转自 | AI科技评论 作者 |Vandit Jain编译|龚倩 编辑 |丛末激活函数是神经网络中一个至关重要的概念，决定了某个神经元是否被激活，判断该神经元获得的信息是否有用，并决定该保留还是该去掉此神经元。本文作者 Vandit Jain 对激活函数的相关知识进行了一个较为全面的总结，重点聚焦于以下几个方面：1. 激活函数是什么，它在网络中有什么作用？2. 为什么需要激活函数而不使用线性函数？...
2020年2月全国程序员工资统计，平均工资13716元，你被平均了吗？ 7
来自| CSDN 作者 | 有数可据https://blog.csdn.net/juwikuang/article/details/104162025作者通过爬取各招聘网站的数据，生成了如下统计，供大家参考。 趋势2020年2月，中国大陆程序员平均工资13716元，比上个月增加。具体趋势如图：各主要程序员城市工资变化情况如下： 各城市工资情况从表中可看出，北京，上海，深圳，杭州，广州四地的工资最高...
论文笔记 | CNN 是怎么学到图片绝对位置信息的 5
来自| 知乎作者丨Xinlong Wang来源丨https://zhuanlan.zhihu.com/p/99766566编辑 |深度学习这件小事仅作学术交流，如有侵权，请联系删文昨天读到一篇挺有意思的文章，已经被ICLR2020接收为Spotlight。这个工作解释了CNN是怎么学到图片内的绝对位置信息的。https://openreview.net/forum?id=rJeB36NKvBCNN...
目标检测中的特征冲突与不对齐问题 24
来自 | 知乎 作者 | 黄飘链接 | https://zhuanlan.zhihu.com/p/114700229编辑 | 深度学习这件小事本文仅供学术交流，如有侵权，请联系删除 前言昨天看到一篇商汤的刷榜文《1st Place Solutions for OpenImage2019 - Object Detection and Instance Segmentation》，里面的每个技巧我们都...
图像分割的U-Net系列方法 17
来自 | 知乎 作者丨taigw来源丨https://zhuanlan.zhihu.com/p/57530767仅作学术交流，如有侵权，请联系删文在图像分割任务特别是医学图像分割中，U-Net[1]无疑是最成功的方法之一，该方法在2015年MICCAI会议上提出，目前已达到四千多次引用。其采用的编码器（下采样）-解码器（上采样）结构和跳跃连接是一种非常经典的设计方法。目前已有许多新的卷积神经网络设...
论文不公开代码，应该被直接拒稿？ 9
转自 | 机器之心论文代码是否应该公开已是争论已久的问题，有从业者呼吁通过代码提交减少当下各类论文中的「水分」，也有研发人员表示「代码提交」类问题得因「研究」而异。不过单从我们最关心的各类顶会而言，似乎可以简单从三个角度去看待此问题：如果评审能够拿到底层代码或者数据，是否能更好地做评审工作？开放代码对作者有好处吗？对读者有好处吗？上周，图灵奖得主 Yann LeCun 公开质疑谷歌大脑的论文无法复...
在参加了39场Kaggle比赛之后，有人总结了一份图像分割炼丹的「奇技淫巧」 12
来自 | 机器之心一个经历了 39 场 Kaggle 比赛的团队在 reddit 上发帖表示，他们整理了一份结构化的图像分割技巧列表，涵盖数据增强、建模、损失函数、训练技巧等多个方面，不失为一份可以参考的图像分割技巧资料。图像分割是图像处理和计算机视觉的热点之一，是根据图像内容对指定区域进行标记的计算机视觉任务。它基于某些标准将输入图像划分为多个相同的类别，简言之就是「这张图片里有什么，其在图片中...
一文概览2D人体姿态估计 33
来自 | 知乎 作者| 谢一宾链接|https://zhuanlan.zhihu.com/p/140060196编辑 | 深度学习这件小事本文经作者授权转载，请勿二次转发News本文会不定期更新~欢迎大家关注，一起讨论~[2020/05/16] 更新完善可点击“阅读原文”直接跳转原文0. 前言本文主要讨论2D的人体姿态估计，内容主要包括：基本任务介绍、存在的主要困难、方法以及个人对这个问题的思考等...
-
2023-01-15
-
2023-01-14
-
2023-01-14
-
2023-01-14
-
2023-01-14
搜索当前分类