「小公式」平均数与级数 13
喵喵喵，小夕最近准备复习一下数学和基础算法，所以可能会推送或者附带推送点数学和基础算法的小文章。说不定哪天就用（考）到了呢(￣∇￣) 注意哦，与头条位的文章推送不同，「小公式」和「小算法」中的标题之间可能并无逻辑关联，因此可以看作是罗列小知识点，说不定这些小知识点就能带来一些小灵感呢。 平均数 调和平均数 调和平均数（Harmonic Mean）是将数值个数除以数值倒数的总和，一组正数x1, x2...
深度前馈网络与Xavier初始化原理 21
基本的神经网络的知识（一般化模型、前向计算、反向传播及其本质、激活函数等）小夕已经介绍完毕，本文先讲一下深度前馈网络的BP过程，再基于此来重点讲解在前馈网络中用来初始化model参数的Xavier方法的原理。 前向过程很简单，每一层与下一层的连接边(即参数)构成了一个矩阵(即线性映射)，每一层的神经元构成一个激活函数阵列（即非线性映射），信号便从输入层开始反复的重复这两个过程直到输出层，也就...
百度提出新冠高风险小区预警算法，AAAI21收录！ 10
编：夕小瑶 几个月前，小屋推送了一期上帝视角看新型冠状病毒（COVID-19）对公众出行影响的顶会论文解读——《这篇顶会paper，讲述了疫情期间憋疯的你和我》，这篇有趣的paper来自百度地图团队，发表在KDD2020。 几个月后，新冠病毒仍在全球范围肆虐，并对人们的日常工作与生活产生了严重的影响。与此同时，社会责任感爆棚的百度研究人员再次发挥时空大数据优势，又发表一篇硬刚新冠疫情的最新研究成果...
从点到线：逻辑回归到条件随机场 9
开篇高能预警！本文前置知识： 1、理解特征函数/能量函数、配分函数的概念及其无向图表示，见《逻辑回归到受限玻尔兹曼机》和《解开玻尔兹曼机的封印》； 2、理解特征函数形式的逻辑回归模型，见《逻辑回归到最大熵模型》。 从逻辑回归出发，我们已经经过了朴素贝叶斯、浅层神经网络、最大熵等分类模型。显然，分类模型是不考虑时间的，仅仅计算当前的一堆特征对应的类别。因此，分类模型是“点状”的模型。 想一下，如果我...
推荐模型是怎样由窄变宽、越变越深的？ 4
当前，深度学习推荐模型已经成功应用于推荐、广告、搜索等领域，但在了解它之前，简单回顾传统推荐模型仍是有必要的，原因如下： 即使在深度学习空前流行的今天，协同过滤、逻辑回归、因子分解机等传统推荐模型仍然凭借其可解释性、硬件环境要求低、易于快速训练和部署等不可替代的优势，在实际系统中备受青睐。 传统推荐模型是深度学习推荐模型的基础，很多深度学习推荐模型，比如基于因子分解机支持的神经网络(FNN)、深度...
机器学习相关从业者如何兼顾理论与工程能力
理论与工程 首先，小夕说一下自己目前对理论与工程的理解吧，这也是小夕当前研究理论和熟练工程时主要的出发点。（仅为个人思考，请勿当成真理 理论注重的是学科中各个知识点的大一统，将各种散乱的算法、现象、技巧来归结到一张大网中。这样在新理论、新技术到来的时候，你可以很快的从这张大网中get到新理论、新技术的本质，并将这些创新纳入你的大网，并且可以反思这张网，归结出其中的规律或者疑问，以此为突破点来“...
谷歌40人发表59页长文：为何真实场景中ML模型表现不好？ 6
大家好哇，我是上周那篇《NLP太卷了，我去研究蛋白质了》的漫画作者白鹡鸰~前不久，在卖萌屋NLP群里默默潜水的白鹡鸰被群友提到的一篇Google几天前放出的59页超长论文炸得飞了起来。 来，大家来感受一下气势浩大的论文首页 文章名字是Underspecification Presents Challenges for Credibility in Modern Machine Learning。论...
数据还是模型？人类知识在深度学习里还有用武之地吗？ 16
近些年来，随着数据量越来越多，算力价格越来越便宜，根植于数据+算力的深度学习茁壮成长。在这种背景下，作为一种强有力的表示学习方法的深度学习让人们惊讶的发现，只要投喂足够多的数据，DNN 模型即可展现出强大的威力。看上去，模型似乎不再需要由人去教它如何看数据了（特征工程）。 从这之后，各个领域、各个任务都相继出现了不少大规模的预训练模型，它们从无监督的数据中学习到一些东西，然后再使用小规模任务数据去...
SIGIR20最佳论文：通往公平、公正的Learning to Rank！
SIGIR2020 的 best paper 终于出炉，这次获奖论文是 Controlling Fairness and Bias in Dynamic Learning-to-Rank，这是一篇 排序学习（Learning to Rank，LTR） 的论文。 排序是匹配用户和内容（文章、视频、音乐）主要手段。在推荐和搜索场景中，目前的排序算法存在对用户和内容双方不公平的问题，针对此问题，本文提出...
如何撰写一篇优秀的研究论文？这一份68页PPT告诉你 6
【导读】近期，Deepmind和纽约大学研究科学家一起作了一场关于如何撰写一篇优秀的研究论文的专题会议，从研究人员(通过写作来提高你自己的理解)，审稿人(避免被拒绝的常见陷阱)和读者(传达你的信息并使你的作品尽可能有影响力)的角度来探讨写作过程，值得研究人员细细品味。 资源获取方式： 点击 阅读原文 获取资源 或在输入关键词“DMNYU论文撰写指导”获取资源 微软首席研究员西蒙·佩顿·琼斯的7...
-
2023-01-15
-
2023-01-14
-
2023-01-14
-
2023-01-14
-
2023-01-14
推广返利