深度学习

机器学习相关从业者如何兼顾理论与工程能力

知行编程网人工智能前沿 2年前 (2021-12-29) 3 0

理论与工程首先，小夕说一下自己目前对理论与工程的理解吧，这也是小夕当前研究理论和熟练工程时主要的出发点。（仅为个人思考，请勿当成真理理论注重的是学科中各个知识点的大一统，将各种散乱的算法、现象、技巧来归结到一张大网中。这样在新理论、新技术到来的时候，你可以很快的从这张大网中get到新理论、新技术的本质，并将这些创新纳入你的大网，并且可以反思这张网，归结出其中的规律或者疑问，以此为突破点来“...

如何让BERT拥有视觉感知能力？两种方式将视频信息注入BERT 35

知行编程网人工智能前沿 2年前 (2022-01-15) 6 0

一只小狐狸带你解锁NLP/ML/DL秘籍老板老板，听说BERT是个瞎子此话怎讲？它能理解语言，但是理解不了小夕的自拍！ video-BERT了解一下喵喵喵？ AI的三大核心板块（CV/Speech/NLP）近几年都相继取得了非常大的发展和进步。但是正所谓成也萧何，败也萧何，深度学习一直在能力泛化和鲁棒性问题上饱受诟病，通用AI之路遥遥无期。不过，近期得益于预训练模型的成功，似乎跨模态问题...

前言 CTR（click through rate）预估模型是广告推荐领域的核心问题。早期主要是使用LR（线性回归）+人工特征工程的机器学习方法，但是存在人工组合特征工程成本较高，不同任务难以复用的问题。后来随着FM因子分解机的出现，提出了使用二阶特征自动交叉的方法，缓解了人工组合特征的难题。之后2014年Facebook使用GBDT+LR方案，提出了树模型构建组合特征的思路。2015年后，由于深...

2018全球计算机与工程学科排名：清华第7，中国9个学科世界第一！ 6

知行编程网人工智能前沿 2年前 (2022-02-27) 2 0

日前，软科(前身是ARWU上海交大排名)正式发布了《2018软科世界一流学科排名》（ShanghaiRanking' s Global Ranking of Academic Subjects）。该榜单覆盖54个学科，涉及理学、工学、生命科学、医学和社会科学五大领域，共有来自83个国家和地区的1600余所高校，按照具体学科进行分类排名，形成多列纵队。中国共有202所高校上榜，上榜总次数1700次...

文本分类问题不需要ResNet？小夕解析DPCNN设计原理（上） 4

知行编程网人工智能前沿 2年前 (2022-01-04) 55 0

历史回顾回顾一下图像和文本的发展史，似乎这就是一场你追我赶的游戏。在上一阶段的斗争中，朴素贝叶斯、最大熵、条件随机场这些理论完备的统计机器学习模型使得文本分类、中文分词、NER等诸多自然语言处理问题取得了差强人意（释义：基本使人满意。顺带嘲讽一波误用该词的媒体们(￣∇￣)）的性能，而这些理论完备的模型却在图像分类这种基本的计算机视觉问题上都严重碰壁。如今深度学习，或者具体点说卷积神经网络（CN...

这篇顶会paper，讲述了疫情期间憋疯的你和我 11

知行编程网人工智能前沿 2年前 (2022-01-23) 1 0

2020年净忙着见证历史了。年初疫情爆发后，大家的生活模式也因为疫情发生了巨变。经历了史上最长假期，躺尸太久，到后来满脑子只想开学/复工。今年KDD会议上有一篇很有意思的工作，分析了新冠疫情对中国人民出行模式的影响。基于百度地图的海量出行数据，从以下五个角度，比较了2018、2019、2020年公众出行模式变化：出行方式出行距离访达时间出行目的地类型 “出发地-出行方式-目的地” 接下来...

惊了，掌握了这个炼丹技巧的我开始突飞猛进 3

知行编程网人工智能前沿 2年前 (2022-02-04) 34 0

从不拖稿的小夕今天在知乎上刷到一个问题：哈？一向求真务实、高逼格讨论的知乎画风怎么突然就不一样了。我以为回答区会有这张图： ▲如来神掌结果竟然没有！知乎果然没有让我失望，还是一如既往的认真、严谨、有逼格。咳咳，作为一枚知乎算法圈的老司机小可爱，感觉自己有必要来添砖加瓦一下。相信我，深刻理解数据的重要性与数据构造&迭代&使用技术，你会从算法小白突飞猛进到即将入门！（认真脸首...

当深度学习遇上实际应用——菠菜识别

橙子每日Arxiv 2年前 (2022-01-08) 16 0

基于深度学习的本地菠菜识别分类系统深度学习模型通过从经过训练的数据集中进行研究，为图像处理提供了令人难以置信的结果。菠菜是一种叶菜，含有维生素和营养成分。在的研究中，使用了一种可以自动识别菠菜的深度学习方法，该方法的数据集共有 5 种菠菜，包含 3785 张图像。四个卷积神经网络 (CNN) 模型用于对的菠菜进行分类。这些模型为图像分类提供了更准确的结果。在应用这些模型之前，需要对图像数据进行一...

谷歌40人发表59页长文：为何真实场景中ML模型表现不好？ 6

知行编程网人工智能前沿 2年前 (2022-01-27) 3 0

大家好哇，我是上周那篇《NLP太卷了，我去研究蛋白质了》的漫画作者白鹡鸰~前不久，在卖萌屋NLP群里默默潜水的白鹡鸰被群友提到的一篇Google几天前放出的59页超长论文炸得飞了起来。来，大家来感受一下气势浩大的论文首页文章名字是Underspecification Presents Challenges for Credibility in Modern Machine Learning。论...

数据还是模型？人类知识在深度学习里还有用武之地吗？ 16

知行编程网人工智能前沿 2年前 (2022-02-12) 3 0

近些年来，随着数据量越来越多，算力价格越来越便宜，根植于数据+算力的深度学习茁壮成长。在这种背景下，作为一种强有力的表示学习方法的深度学习让人们惊讶的发现，只要投喂足够多的数据，DNN 模型即可展现出强大的威力。看上去，模型似乎不再需要由人去教它如何看数据了（特征工程）。从这之后，各个领域、各个任务都相继出现了不少大规模的预训练模型，它们从无监督的数据中学习到一些东西，然后再使用小规模任务数据去...