深度学习

当混合密集网络与高光谱分类相遇~

橙子每日Arxiv 2年前 (2022-01-06) 12 0

大家好，橙子姐姐又来啦~今天给大家介绍一种高光谱分类的新方法，下面我们一起看看吧！基于混合稠密网络的高光谱图像分类注意机制光谱信息与相应对象（复杂地貌）之间的非线性关系使得像素级分类对传统方法具有挑战性。为了处理高光谱图像分类 (HISC) 中的非线性问题，卷积神经网络 (CNN) 确实更合适。然而，固定核大小使得传统的CNN过于具体，既不灵活也不利于特征学习，从而影响分类精度。不同内核大小的...

重要的，是那些训练中被多次遗忘的样本 4

知行编程网人工智能前沿 2年前 (2022-01-24) 16 0

今天跟大家分享一篇很有意思的文章，是一篇探讨深度学习模型记忆&遗忘机制的文章，是一篇角度很新颖的题材，同时又有一定启发作用。这篇文章发表在深度学习顶会ICLR19，标题是《An empirical study of example forgetting during deep neural network learning》。这篇文章是我最近看到的最有意思的文章之一了，同时我跑了这篇文...

撑起百万亿参数模型想象力！英伟达发布新一代SuperPOD超算，AI算力新巅峰！ 14

知行编程网人工智能前沿 2年前 (2022-02-07) 50 0

周一，黄教主又很淡定的在自家厨房里开完了GTC发布会。众所周知，NLP领域的模型一个比一个大，自从百亿参数的Google T5出来后，大部分AI研究者只能望着手里的蹩脚算力兴叹。如今动辄就是千亿、万亿参数模型，目前比较流行的V100主机显然已经无法满足需求。而本周刚落幕的GTC发布会，则为如今的万亿模型想象力的时代提供了一份极其重要的保障，不仅使得造万亿模型都成为了可能，甚至打开了通往十万亿乃至...

测试集没标签，可以拿来测模型吗？ 10

知行编程网人工智能前沿 2年前 (2022-01-29) 121 0

背景正常情况下，我们可以用一个带标签的数据集来测试分类器的表现（称之为测试集）。然而，现实中，因为种种因素的制约（标注成本高、标注难度大等 Google：穷人不配搞机器学习），很多场景下难以求得一个规模大、标注正确率高、采样无偏的测试集。而采用人工评估的方式，往往耗时耗力，且方差极大，结果对机器学习模型的迭代速度产生了很大的制约。由此，本文提出了自动模型评估（AutoEval） ——目标是...

别再Prompt了！谷歌提出tuning新方法，强力释放GPT-3潜力！ 18

知行编程网人工智能前沿 2年前 (2022-02-16) 1,177 0

如果评选NLP圈的2020年度十大关键词，那么GPT-3（Language Models are Few shot Learners) 一定榜上有名。 GPT-3庞大的参数量，优异的性能至今仍让圈内圈外人都津津乐道，而OpenAI发布的OpenAI API，更是为自然语言处理技术的大规模可扩展商业应用提供了一个极有前景的方向。不过，作为NLP研究者，我认为GPT-3对前沿研究的最大贡献是，展现了 ...

不要再纠结卷积的公式啦！0公式深度解析全连接前馈网络与卷积神经网络 11

知行编程网人工智能前沿 2年前 (2022-01-03) 14 0

Hello~你们的小夕终于吐泡泡了～前几天小夕又加班赶project啦，拖了好几天，都快患上拖稿焦虑症了_(:з」∠)_ 关于卷积神经网，小夕就不从卷积讲啦。以前不止一个粉丝问我卷积神经网络中卷积的意义，甚至在知乎上被邀请回答一个“卷积神经网络为什么不叫互相关神经网络”的类似的奇怪问题，终于忍不住，还是赶紧把CNN写了吧（说的自己要去拯救世界了一样(//∇//) 我们还是从前面更简单的机器学习mo...

ACL2020 | 基于Knowledge Embedding的多跳知识图谱问答 6

知行编程网人工智能前沿 2年前 (2022-01-19) 28 0

一只小狐狸带你解锁炼丹术&NLP 秘籍背景什么是知识图谱问答？知识图谱（KG）是一个多关系图，其中包含数以百万计的实体，以及连接实体的关系。知识图谱问答（Question Answering over Knowledge Graph, KGQA）是利用知识图谱信息的一项研究领域。给定一个自然语言问题和一个知识图谱，通过分析问题和 KG 中包含的信息，KGQA 系统尝试给出正确的答案...

全栈深度学习第3期: 怎样科学管理实验数据？

知行编程网人工智能前沿 2年前 (2022-02-02) 15 0

一起追剧鸭简介 Berkeley全栈深度学习追剧计划是由夕小瑶的卖萌屋发起的优质公开课打卡项目，通过微信群为同期追剧的小伙伴提供交流平台。关于该计划的详请见这里。 1. Berkeley深度学习追剧群目前已有1000+小伙伴加入，公众号后台回复口令深度学习追剧入群。 2. 课程主页 https://course.fullstackdeeplearning.com 第3期内容本期是FSDL...

想不出深度学习创新点？让AI七剑客来帮你吧！ 8

知行编程网人工智能前沿 2年前 (2022-03-09) 6,542 0

21世纪是人工智能的风口，越来越多的人把深度学习当作未来就业的方向。但是随着AI的不断内卷，研究生毕业的要求也越来越高，很多的研究生因为想不出论文的创新点而无法毕业！找学长学姐帮忙，但是深度学习的专业性太强，学长学姐有时候也不一定能搞定，这时候会想“要是有人可以帮帮我好了”，那么，“AI七剑客”就是你的不二选择啦！一、关于AI七剑客顾名思义，我们是由七人组成的团队，成员来自于国内外顶尖学府的...

「小算法」回文数与数值合法性检验 6

知行编程网人工智能前沿 2年前 (2022-01-06) 2 0

回文数链接：https://leetcode.com/problems/palindrome-number/description/ 判断一个整数是否是回文数是leetcode上的一个简单算法题。回文数是指正序（从左向右）和倒序（从右向左）读都是一样的整数。例1: 输入：121 输出：true 例2: 输入：-121 输出：false 解释：从右往左读为121-。例3: 输入：10 输出：f...