ICLR最高分论文揭秘模型泛化,GNN是潜力股

ICLR最高分论文揭秘模型泛化,GNN是潜力股 19

知行编程网 人工智能前沿 2年前 (2022-01-30) 3 0

文 | Jerry Qiu 编 | 小轶 我们都知道,人类在很多任务上都可以很好地完成“外推”,例如: 啊不——我是说——例如,我们学会两位数的加减乘除后,就可以轻松将其推广至任意大整数的四则运算: 从数学的角度来讲,外推其实是与内插并列的一个概念。想必大家对多项式插值、样条插值等插值方法不陌生。通过已知的、离散的数据点,在范围内推求新数据点,即称为内插(Interpolation)。而如果我们在...

利用光学卫星图像探测云雪的多分辨率全卷积网络

利用光学卫星图像探测云雪的多分辨率全卷积网络

橙子 每日Arxiv 2年前 (2022-01-11) 20 0

今天和橙子姐姐一起看一下遇到云雨卫星图像如何处理吧~ 云和雪在可见光和近红外 (VNIR) 范围内具有相似的光谱特征,因此在高分辨率 VNIR 图像中难以相互区分。本文通过引入短波红外 (SWIR) 波段来解决这个问题,其中云具有高反射性,而雪具有吸收性。由于与 VNIR 相比,SWIR 通常具有较低的分辨率,因此本研究提出了一种多分辨率全卷积神经网络 (FCN),可以有效地检测 VNIR 图像中...

深度学习资料挑的眼花啦?小夕帮你做选择!

深度学习资料挑的眼花啦?小夕帮你做选择! 7

知行编程网 人工智能前沿 2年前 (2022-01-03) 5 0

小夕还记得几年前刚入坑的时候,老师给的入门资料就是一堆论文!害的小夕差点放弃。。。 如今深度学习应用的开发成本越来越低,学习资料越来越多,于是对初学者来说进入了另一个相反的困境——资料过多,让人眼花缭乱!哪怕是最最经典、顶尖的公开课。也是有好多门(斯坦福的、coursera的、MIT的、Berkeley的……)。更不必说眼花缭乱的纸质书籍,更更不用说铺天盖地的订阅号(比如夕小瑶的卖萌屋) 如果你正...

这篇论文提出了一个文本<->知识图谱的格式转换器...

这篇论文提出了一个文本<->知识图谱的格式转换器... 21

知行编程网 人工智能前沿 2年前 (2022-02-06) 67 0

Hello, 大家好,我是小花。今天给大家介绍一篇有野心的paper。为何如此说呢?因为该工作提出了一个知识的格式转换器,用于转换 无结构化的纯文本(Text)和结构化的知识图谱(KG) 。换句话说,给模型一打句子,它能够将其转换为一个图。图中的节点是句子中的关键信息,边表示不同节点的关系。反过来,给模型一个图,它能将其格式化为流畅的自然语言。 举个例子,就是实现下面句子和图之间的格式转换: Th...

深度学习并非万能:你需要避免这三个坑

深度学习并非万能:你需要避免这三个坑 4

知行编程网 人工智能前沿 2年前 (2022-02-28) 11 0

  【导读】本文是人工智能专家George Seif撰写的博文,介绍了在当前深度学习比较火热的情景下需要避免的三个坑。 Tweaking Neural Net Parameters   Three reasons that you should NOT use deep learning 深度学习在过去几年一直是人工智能领域最热门的话题。事实上,正是它激发了科学家、政府、大公司以及其他所有人对人工...

惊了,掌握了这个炼丹技巧的我开始突飞猛进

惊了,掌握了这个炼丹技巧的我开始突飞猛进 3

知行编程网 人工智能前沿 2年前 (2022-02-04) 34 0

从不拖稿的小夕今天在知乎上刷到一个问题: 哈?一向求真务实、高逼格讨论的知乎画风怎么突然就不一样了。 我以为回答区会有这张图: ▲如来神掌 结果竟然没有!知乎果然没有让我失望,还是一如既往的认真、严谨、有逼格。咳咳,作为一枚知乎算法圈的老司机小可爱,感觉自己有必要来添砖加瓦一下。 相信我,深刻理解数据的重要性与数据构造&迭代&使用技术,你会从算法小白突飞猛进到即将入门!(认真脸 首...

详解医学顶刊《柳叶刀》最新发表新型冠状病毒研究论文

详解医学顶刊《柳叶刀》最新发表新型冠状病毒研究论文 8

知行编程网 人工智能前沿 2年前 (2022-01-14) 9 0

前言新型冠状病毒(2019-nCoV)的突发恰逢春节,千家万户都对疫情十分关注。令人心痛的是,病毒带来的不止有病痛,还有来自各路媒体的大量谣言和不实解读。作为科研工作者的我们,希望能略尽绵薄之力,为大家整理学术界最新研究成果,并进行通俗易懂、严谨客观的翻译和解读。具体来说,我们对 2020年1月24日 发表在医学领域国际顶级期刊《柳叶刀》上的关于新型冠状病毒(2019-nCoV)的两篇论文(这也是...

恕我直言,你的实验结论可能严重依赖随机数种子!

恕我直言,你的实验结论可能严重依赖随机数种子! 17

知行编程网 人工智能前沿 2年前 (2022-02-15) 60 0

God does not play dice with the universe ...... But BERT Does ! 包括BERT在内的预训练模型已经是现今NLP工作的标配。但你有没有考虑过,这些工作的实验结论可能都是虚假的?在 Bertology 中,大家从 huggingface 上下载 Google 训好的模型,在精调中结合改进,并应用于下游任务。所有的工作都是基于一组特定的初始化...

动手做个DialoGPT:生成式多轮对话模型

动手做个DialoGPT:生成式多轮对话模型 3

知行编程网 人工智能前沿 2年前 (2022-01-24) 36 0

前段时间刷Arixv的时候,发现清华大学开源了一个大规模的中文闲聊语料库LCCC,从开源的文件上来看,这可能是目前开源的数量最大、质量最好的闲聊语料库了,而且还包含了部分多轮对话聊天,总的来说可玩性还是蛮强的。笔者也被它吸引到了,尝试着用它来训练了一个闲聊对话模型,结果看上去还是不错的,在此分享一下自己的经验。 论文名称: 《A Large-Scale Chinese Short-Text Con...

数据还是模型?人类知识在深度学习里还有用武之地吗?

数据还是模型?人类知识在深度学习里还有用武之地吗? 16

知行编程网 人工智能前沿 2年前 (2022-02-12) 3 0

近些年来,随着数据量越来越多,算力价格越来越便宜,根植于数据+算力的深度学习茁壮成长。在这种背景下,作为一种强有力的表示学习方法的深度学习让人们惊讶的发现,只要投喂足够多的数据,DNN 模型即可展现出强大的威力。看上去,模型似乎不再需要由人去教它如何看数据了(特征工程)。 从这之后,各个领域、各个任务都相继出现了不少大规模的预训练模型,它们从无监督的数据中学习到一些东西,然后再使用小规模任务数据去...

扫一扫二维码分享