深度学习

深度学习资料挑的眼花啦？小夕帮你做选择！ 7

知行编程网人工智能前沿 2年前 (2022-01-03) 5 0

小夕还记得几年前刚入坑的时候，老师给的入门资料就是一堆论文！害的小夕差点放弃。。。如今深度学习应用的开发成本越来越低，学习资料越来越多，于是对初学者来说进入了另一个相反的困境——资料过多，让人眼花缭乱！哪怕是最最经典、顶尖的公开课。也是有好多门（斯坦福的、coursera的、MIT的、Berkeley的……）。更不必说眼花缭乱的纸质书籍，更更不用说铺天盖地的订阅号（比如夕小瑶的卖萌屋）如果你正...

AdaX：一个比Adam更优秀，带”长期记忆“的优化器

知行编程网人工智能前沿 2年前 (2022-01-19) 25 0

前言这篇文章简单介绍一个叫做AdaX的优化器，来自《AdaX: Adaptive Gradient Descent with Exponential Long Term Memory》。介绍这个优化器的原因是它再次印证了之前在《硬核推导Google AdaFactor：一个省显存的宝藏优化器》一文中提到的一个结论，两篇文章可以对比着阅读。 Adam & AdaX AdaX的更新格式是其...

论文审稿人可以下岗了？CMU都做出论文审稿机器人了！ 12

知行编程网人工智能前沿 2年前 (2022-02-02) 102 0

机器学习真是越来越火了，这从各大会议逐年增加的投稿量上就可见一斑：AAAI'21收到了9034篇投稿，NeurIPS'20收到了9467篇投稿，一篇投稿至少要经过3位审稿人同行评议，耗费的人力可想而知。那么问题来了：上哪找这么多有经验的审稿人来写评审意见呢？这时，机器学习投稿大头兼业界翘楚CMU的研究者发表了自己的看法：同行评议本质上不就是从输入一篇论文，输出评审意见的Seq2Seq吗？让N宝...

2018年图灵奖得主：三大深度学习创始人 5

知行编程网人工智能前沿 2年前 (2022-03-18) 71 0

今天，深度学习的三位创始人Yoshua Bengio, Yann LeCun, 和Geoffrey Hinton因其在深度学习理论及工程领域上的重大贡献，获得了2018年的图灵奖，共享100万美元奖金。图灵奖，通常被称为计算机领域的“诺贝尔奖”，为纪念著名的计算机科学先驱艾伦·图灵，由ACM于1966年设置。Bengio，Hinton和LeCun将于2019年6月15日在旧金山ACM年度颁奖...

如何匹配两段文本的语义？ 5

知行编程网人工智能前沿 2年前 (2022-01-06) 7 0

喵喵喵，好久不见啦。首先很抱歉大家期待的调参手册（下）迟迟没有出稿，最近两个月连着赶了4个DDL，整个人都不好了。最近几天终于有时间赶一下未完成的稿子了。在赶DDL的时候夹着写了这篇文章，就先发布这一篇吧～调参手册（下）不出意外的话最近也可以发布啦。本文由来一年前在知乎上关注过这么一个问题：如何判断两段文本说的是「同一件事情」？ - 知乎 https://www.zhihu.com/ques...

Google Cloud TPUs支持Pytorch框架啦！

知行编程网人工智能前沿 2年前 (2022-01-25) 24 0

在2019年PyTorch开发者大会上，Facebook，Google和Salesforce Research联合宣布启动PyTorch-TPU项目。项目的目标是在保持PyTorch的灵活性的同时让社区尽可能容易地利用云TPU提供的高性能计算。团队创建了PyTorch/XLA这个repo，它可以让使PyTorch连接到云TPU并使用TPU内核，同时Colab也支持在云TPU上使用PyTorch/X...

NAACL’21 | 来看如何让模型学会因为所以但是如果 19

知行编程网人工智能前沿 2年前 (2022-02-08) 27 0

有一些标准考试那是真的难，难到能分分钟教你做人。对于留学党来说，申请法学博士需要 LSAT 考试成绩、申请商学院需要 GMAT 考试成绩。这些标准考试到底有多难，大概考过的都懂8（嘤嘤嘤_(:з」∠)_）要想在这些考试中取得高分，需要有很强的理解和分析复杂文本的能力。而具体而言，这类复杂文本可以被称作论证文本，英文叫做 Argument。什么是 Argument 呢？最简单的形式，有前提（Pre...

深度学习人脸识别中的统一表示学习 9

知行编程网人工智能前沿 2年前 (2021-12-28) 18 0

论文名称： Towards Universal Representation Learning for Deep Face Recognition 论文地址： https://arxiv.org/abs/2002.11841 2.摘要复杂环境下的人脸识别是非常困难的。传统的方法要么使用从目标图像标注的变化数据来训练，要么引入没有标注的目标变化数据去适应训练数据。基于此，本论文提出了一个统一的表示...

一种自配置的医学目标检测方法

橙子每日Arxiv 2年前 (2022-01-15) 30 0

机器学习如何用于医学图像处理呢？今天橙子姐姐带大家看看深度学习用于肺部数据的检测。医学图像中对象的同时定位和分类，也称为医学对象检测，具有很高的临床相关性，因为诊断决策通常取决于对象的评级而不是例如。像素。对于这项任务，方法配置的繁琐和迭代过程构成了主要的研究瓶颈。最近，nnU-Net 成功地解决了图像分割任务的这一挑战。按照 nnU-Net 的议程，在这项工作中，我们将医疗对象检测的配置过程系...

再介绍一篇Contrastive Self-supervised Learning综述论文 23

知行编程网人工智能前沿 2年前 (2022-01-29) 49 0

之前已经介绍过三篇自监督学习的综述：《怎样缓解灾难性遗忘？持续学习最新综述三篇！》。这是最近2020年10月arXiv上的又一篇论文"A Survey On Contrastive Self-supervised Learning"。论文地址： https://arxiv.org/pdf/2011.00362.pdf Arxiv访问慢的小伙伴也可以在【夕小瑶的卖萌屋】订阅号后台回复关键词【122...