观点 | 在工程领域中，机器学习的数学理论基础尤为重要 5
前 言 数学在机器学习中非常重要，但我们通常只是借助它理解具体算法的理论与实际运算过程。近日加州大学圣巴巴拉分校的 Paul J. Atzberger 回顾了机器学习中的经验风险与泛化误差边界，他认为在科学和工程领域中，我们需要从基本理论与数学出发高效使用现有方法，或开发新方法来整合特定领域与任务所需要的先验知识。 近期研究人员越来越多地关注将机器学习方法应用到科学、工程应用中。这主要是受自然语言...
再介绍一篇Contrastive Self-supervised Learning综述论文 23
之前已经介绍过三篇自监督学习的综述：《怎样缓解灾难性遗忘？持续学习最新综述三篇！》。这是最近2020年10月arXiv上的又一篇论文"A Survey On Contrastive Self-supervised Learning"。 论文地址： https://arxiv.org/pdf/2011.00362.pdf Arxiv访问慢的小伙伴也可以在【夕小瑶的卖萌屋】订阅号后台回复关键词【122...
入门必备|中文课程！台大李宏毅机器学习公开课2019版上线 6
来自 |机器之心作者 |思源，泽南台大教授李宏毅的机器学习课程经常被认为是中文开放课程中的首选。李教授的授课风格风趣幽默，通俗易懂，其课程内容中不仅有机器学习、深度学习的基础知识，也会介绍 ML 领域里的各种最新技术。近日，2019 版的课程资料与视频终于上线了！课程资料链接：http://speech.ee.ntu.edu.tw/~tlkagk/courses_ML19.html课程视频（Bil...
一般化机器学习与神经网络 16
0 前言 机器学习的初学者很容易被各种模型搞得晕头转向。如果扎进各种模型的细节无法自拔的话，可能很难发现一般化的框架。 如果你觉得神经网络是非常不同的机器学习模型，如果你觉得神经网络的各种新名词让你觉得这完全就是一片新天地，那么可能你已经陷入到这些细节里啦。所以小夕希望通过本文将这些同学拔出来，重新审视一下学过的东西。 1 一般化机器学习 至此，小夕已经或多或少的讲解了逻辑回归模型、朴素贝叶斯...
屠榜CV还不是这篇论文的终极目标，它更大的目标其实是…… 17
当 BERT 模型出来之后，Transformer 架构基本成为 NLP 任务的底色。诸如 Roberta、XLNet、ELECTRA、GPT3 等刷榜各类 NLP 任务的模型，无一不是基于 Transformer 框架。 无疑，Transformer 开启了 NLP 的统治时代，或者说，Transformer 已经成为 NLP 的 Back-bone Networks （基石网络）。 但是，隔壁...
线性代数应该这样讲(四)-奇异值分解与主成分分析 15
在《线性代数这样讲（二）》（以下简称「二」）中，小夕详细讲解了特征值与特征向量的意义，并且简单描述了一下矩阵的特征值分解的意义和原理。本文便基于对这几个重要概念的理解来进一步讲解SVD分解。 回顾一下，在「二」中，小夕讲过一个方阵W可以分解为它的特征向量矩阵eVec与特征值矩阵eVal相乘的形式，即用 eVec * eVal * eVec-1 来近似原方阵W。 那么问题来啦，如果我们的矩阵不是方阵...
【通俗易懂】10幅图解释机器学习中的基本概念 10
以下的几幅图是我认为在解释机器学习基本概念时最有启发性的条目列表。 1. Test and training error: 为什么低训练误差并不总是一件好的事情呢：以模型复杂度为变量的测试及训练错误函数。 2. Under and overfitting: 低度拟合或者过度拟合的例子。多项式曲线有各种各样的命令M，以红色曲线表示，由绿色曲线适应数据集后生成。 3. Occam’s ra...
NeurIPS 2020 | 没有乘法的神经网络，照样起飞？ 15
今天给大家介绍一篇1962年的论文《Computer Multiplication and Division Using Binary Logarithms》[1]，作者是John N. Mitchell，他在里边提出了一个相当有意思的算法：在二进制下，可以完全通过加法来近似完成两个数的相乘，最大误差不超过1/9。整个算法相当巧妙，更有意思的是它还有着非常简洁的编程实现，让人拍案叫绝。然而，笔者发...
Github 十个小时狂揽千赞：机器学习完整路线图 3
新智元推荐来源：专知(ID：Quan_Zhuanzhi)整理编辑：三石【新智元导读】昨天GitHub上一份机器学习完整路线引起了广泛关注，在短短的十个小时里已经收获了一千多个点赞。刚博士毕业的在一家AI创业公司工作的Giacomo回顾了自己三四年间学习机器学习的心路历程，毫无保留的分享出自己收藏的各种学习资源，工程，工具，awosome集合，教程以及各种实践经验。该项目旨在为机器学习入门提供完整而...
机器学习从理论到工程的第一步-编程语言篇 3
前言 在文章《机器学习从业者如何兼顾理论与工程》中，小夕对编程语言的选择进行了小小建议。鉴于有些同学对小夕建议的“主python，辅C++，备用matlab和java”疑问较大，小夕在此详细解释一下，也欢迎大家补充新观点哦。 为什么不是matlab？ 有同学问小夕，为什么将matlab作为备用语言而不是主力语言呢？matlab也很好用啊~ 其实这句话是没错的。小夕觉得，暂且不论matlab...
-
2023-01-15
-
2023-01-14
-
2023-01-14
-
2023-01-14
-
2023-01-14
推广返利