线性代数应该这样讲（一） 12
前言 小夕为什么要讲线性代数呢？因为有人已经做了机器学习一段时间了，竟然认为矩阵就是用来存储数据的。小夕表示非常震惊。 而深刻透彻的理解核函数、PCA、LSI、谱聚类等以空间映射为理论核心的机器学习理论时，靠大学里教的那一套线性代数，很有可能是悲剧的（小夕所在的本科学校，数学专业全国top5，还是大牛的老师教的线性代数，然而小夕依然觉得学了假线性代数，心塞） 因此，在对国内高等教育不信任的基础...
机器学习从理论到工程的第二步-开发环境与工具篇 11
在《第一步-编程语言篇》中，小夕为大家较为详细的介绍了做机器学习（及其相关应用方向）的编程语言的选择问题，这一篇便是小夕为大家推荐的各个编程语言的开发环境/工具。 习惯性扫盲开篇。鉴于可能有部分同学的软件开发经验稍有欠缺，因此首先讲讲基本概念。 代码编辑器： 代码编辑器就是写代码的地方啦，其实任何文本编辑器都可以作为代码编辑器，毕竟源代码是写成纯文本的形式的。 但是效果往往就是像上图一样简陋而...
打脸！一个线性变换就能媲美“最强句子embedding”？ 13
小编：前几周小屋刚推完《还在用[CLS]？从BERT得到最强句子Embedding的打开方式！》，苏神就来打脸了_(:з」∠)_ BERT-flow来自论文《On the Sentence Embeddings from Pre-trained Language Models》[1]，中了EMNLP 2020，主要是用flow模型校正了BERT出来的句向量的分布，从而使得计算出来的cos相似度更为...
机器学习前沿——函数估计方法 5
利用独立性的优势函数估计方法 论文链接： https://www.ijcai.org/proceedings/2021/0461.pdf 在强化学习中，优势函数 (advantage function) 普遍采用蒙特卡洛 (MC)、时间差分 (TD)，以及一种将前两者结合的优势函数估计算法（GAE) 等进行估计，而这些算法都存在方差较高的问题。因此，微软亚洲研究院的研究员们首次提出通过利...
怎样将Embedding融入传统机器学习框架？ 2
LR本身是一个经典的CTR模型，广泛应用于推荐/广告系统。输入的特征大多数是离散型/组合型。那么对于Embedding技术，如何在不使用深度学习模型的情况下（假设就是不能用DNN），融入到LR框架中呢？让我们来看看清华大学的博士石塔西大佬是如何解答的。 问题实战意义 其实这个问题可以再扩展一下，即，如何在传统机器学习算法（LR/GBDT）中使用Embedding信息。 这个问题并非空穴来风，而是有...
从逻辑回归到受限玻尔兹曼机 12
在那很久很久以前，可爱的小夕写了一篇将逻辑回归小题大做的文章，然后在另一篇文章中阐述了逻辑回归的本质，并且推广出了softmax函数。 从那之后，小夕又在一篇文章中阐述了逻辑回归与朴素贝叶斯的恩仇录，这两大祖先级人物将机器学习的国度划分为两大板块——生成式与判别式。 后来，朴素贝叶斯为了将自己的国度发扬光大，进化出了贝叶斯网以抗衡逻辑回归，一雪前耻。 然而，傲娇的逻辑回归怎能就此善罢甘...
线性代数应该这样讲(四)-奇异值分解与主成分分析 15
在《线性代数这样讲（二）》（以下简称「二」）中，小夕详细讲解了特征值与特征向量的意义，并且简单描述了一下矩阵的特征值分解的意义和原理。本文便基于对这几个重要概念的理解来进一步讲解SVD分解。 回顾一下，在「二」中，小夕讲过一个方阵W可以分解为它的特征向量矩阵eVec与特征值矩阵eVal相乘的形式，即用 eVec * eVal * eVec-1 来近似原方阵W。 那么问题来啦，如果我们的矩阵不是方阵...
NeurIPS 2020 | 没有乘法的神经网络，照样起飞？ 15
今天给大家介绍一篇1962年的论文《Computer Multiplication and Division Using Binary Logarithms》[1]，作者是John N. Mitchell，他在里边提出了一个相当有意思的算法：在二进制下，可以完全通过加法来近似完成两个数的相乘，最大误差不超过1/9。整个算法相当巧妙，更有意思的是它还有着非常简洁的编程实现，让人拍案叫绝。然而，笔者发...
百度提出新冠高风险小区预警算法，AAAI21收录！ 10
编：夕小瑶 几个月前，小屋推送了一期上帝视角看新型冠状病毒（COVID-19）对公众出行影响的顶会论文解读——《这篇顶会paper，讲述了疫情期间憋疯的你和我》，这篇有趣的paper来自百度地图团队，发表在KDD2020。 几个月后，新冠病毒仍在全球范围肆虐，并对人们的日常工作与生活产生了严重的影响。与此同时，社会责任感爆棚的百度研究人员再次发挥时空大数据优势，又发表一篇硬刚新冠疫情的最新研究成果...
-
2023-01-15
-
2023-01-14
-
2023-01-14
-
2023-01-14
-
2023-01-14
推广返利