深度学习

惊了，掌握了这个炼丹技巧的我开始突飞猛进 3

知行编程网人工智能前沿 2年前 (2022-02-04) 34 0

从不拖稿的小夕今天在知乎上刷到一个问题：哈？一向求真务实、高逼格讨论的知乎画风怎么突然就不一样了。我以为回答区会有这张图： ▲如来神掌结果竟然没有！知乎果然没有让我失望，还是一如既往的认真、严谨、有逼格。咳咳，作为一枚知乎算法圈的老司机小可爱，感觉自己有必要来添砖加瓦一下。相信我，深刻理解数据的重要性与数据构造&迭代&使用技术，你会从算法小白突飞猛进到即将入门！（认真脸首...

基于深度学习的本地菠菜识别分类系统深度学习模型通过从经过训练的数据集中进行研究，为图像处理提供了令人难以置信的结果。菠菜是一种叶菜，含有维生素和营养成分。在的研究中，使用了一种可以自动识别菠菜的深度学习方法，该方法的数据集共有 5 种菠菜，包含 3785 张图像。四个卷积神经网络 (CNN) 模型用于对的菠菜进行分类。这些模型为图像分类提供了更准确的结果。在应用这些模型之前，需要对图像数据进行一...

谷歌40人发表59页长文：为何真实场景中ML模型表现不好？ 6

知行编程网人工智能前沿 2年前 (2022-01-27) 3 0

大家好哇，我是上周那篇《NLP太卷了，我去研究蛋白质了》的漫画作者白鹡鸰~前不久，在卖萌屋NLP群里默默潜水的白鹡鸰被群友提到的一篇Google几天前放出的59页超长论文炸得飞了起来。来，大家来感受一下气势浩大的论文首页文章名字是Underspecification Presents Challenges for Credibility in Modern Machine Learning。论...

数据还是模型？人类知识在深度学习里还有用武之地吗？ 16

知行编程网人工智能前沿 2年前 (2022-02-12) 3 0

近些年来，随着数据量越来越多，算力价格越来越便宜，根植于数据+算力的深度学习茁壮成长。在这种背景下，作为一种强有力的表示学习方法的深度学习让人们惊讶的发现，只要投喂足够多的数据，DNN 模型即可展现出强大的威力。看上去，模型似乎不再需要由人去教它如何看数据了（特征工程）。从这之后，各个领域、各个任务都相继出现了不少大规模的预训练模型，它们从无监督的数据中学习到一些东西，然后再使用小规模任务数据去...

BP算法是从天上掉下来的吗？ 10

知行编程网人工智能前沿 2年前 (2021-12-29) 163 0

第二个标题：一般而特殊的前馈神经网络前馈神经网络在文章《逻辑回归到神经网络》（以下简写《LR到NN》）中，小夕为大家描述了一个从逻辑回归延伸到神经网络的过程。在《一般化机器学习与神经网络》中，小夕阐述了神经网络的一般性。这一篇会完全进入神经网络的状态，阐述神经网络的特殊性。其实在《LR到NN》中的这张简单的图，就是本文要讲的前馈神经网络（feed-forward neural netwo...

Google | 突破瓶颈，打造更强大的Transformer 4

知行编程网人工智能前沿 2年前 (2022-01-16) 18 0

一只小狐狸带你解锁炼丹术&NLP秘籍前言《Attention is All You Need》一文发布后，基于Multi-Head Attention的Transformer模型开始流行起来，而去年发布的BERT模型更是将Transformer模型的热度推上了又一个高峰。当然，技术的探索是无止境的，改进的工作也相继涌现：有改进预训练任务的，比如XLNET的PLM、ALBERT的SOP等...

Facebook刷新开放域问答SOTA：模型训模型！Reader当Teacher！ 7

知行编程网人工智能前沿 2年前 (2022-02-01) 60 0

一部问答系统发展史就是一部人工智能发展史。早在1950年的图灵测试就提出：如果人类无法通过问答将机器和人区分开，那么这个机器就可以被认为具有智能。问答系统和人工智能有着密不可分的关系。从基于规则和结构化数据的自动问答，到基于精细设计神经网络的文本问答，再到T5[1]将一切文本任务都转化为问答，我们足以看出自动问答系统在走向机器智能的过程中的重要性。当前主流的问答系统主要分为几类：FAQ检索型、闲...

震惊！深度学习新手上路葵花宝典问世江湖

知行编程网人工智能前沿 2年前 (2022-02-27) 4 0

这篇综述论文列举出了近年来深度学习的重要研究成果，从方法、架构，以及正则化、优化技术方面进行概述。它对于刚入门的深度学习新手是一份不错的参考资料，在形成基本学术界图景、指导文献查找等方面都能提供帮助。论文：Recent Advances in Deep Learning: An Overview 论文地址： https://arxiv.org/pdf/1807.08169v1.pdf 或 ...

文本分类问题不需要ResNet？小夕解析DPCNN设计原理（下） 12

知行编程网人工智能前沿 2年前 (2022-01-04) 71 0

哎呀呀，说好的不拖稿的又拖了两天T_T，小夕过一阵子分享给你们这两天的开心事哦。后台催稿调参系列的小伙伴们不要急，下一篇就是第二篇调参文啦。好啦，接着上一篇文章，直接搬来DPCNN、ShallowCNN、ResNet的对比图。从图中的a和c的对比可以看出，DPCNN与ResNet差异还是蛮大的。同时DPCNN的底层貌似保持了跟TextCNN一样的结构，这里作者将TextCNN的包含多尺寸卷积滤...

SIGIR20最佳论文：通往公平、公正的Learning to Rank！

知行编程网人工智能前沿 2年前 (2022-01-23) 3 0

SIGIR2020 的 best paper 终于出炉，这次获奖论文是 Controlling Fairness and Bias in Dynamic Learning-to-Rank，这是一篇排序学习（Learning to Rank，LTR）的论文。排序是匹配用户和内容（文章、视频、音乐）主要手段。在推荐和搜索场景中，目前的排序算法存在对用户和内容双方不公平的问题，针对此问题，本文提出...