谈谈工业界落地能力最强的机器学习算法
尽管BERT为代表的预训练模型大肆流行，但是身处工业界才会知道它落地有多难，尤其是QPS动辄几百的在线推荐、搜索系统，哪怕在大厂也很难在线上系统见到它们。 今天就想反其道而行之，谈谈工业界搜索、推荐、广告这类核心场景中落地能力最强的算法（之一）：因子分解机（FM）。我不敢说它是最简单的（FM的确很简单），但是作为一个推荐算法调参工程师，掌握FM一定是性价比最高的。我推崇FM算法的原因，有以下三点：...
Facebook大公开：解决NLG模型落地难题！工业界的新一波春天？ 14
作为NLP领域的“三高”用户（高产、高能、高钞），FaceBook最近（2020年11月）又发表了一篇高水准文章，目前已被COLING-2020接收，号称解决了自然语言生成（NLG）落地的问题：Best Practices for Data-Efficient Modeling in NLG:How to Train Production-Ready Neural Models with Les...
训练效率低？GPU利用率上不去？快来看看别人家的tricks吧～ 11
前言 首先，如果你现在已经很熟悉tf.data+estimator了，可以把文章x掉了╮(￣▽￣””)╭ 但是！如果现在还是在进行session.run(..)的话！尤其是苦恼于GPU显存都塞满了利用率却上不去的童鞋，这篇文章或许可以给你打开新世界的大门噢(￣∇￣) 如果发现经过一系列改良后训练效率大大提高了，记得回来给小夕发小红包(￣∇￣) 不过，这并不是一篇怒贴一堆代码，言（三）简（言）意（两...
学会提问的BERT：端到端地从篇章中构建问答对 3
机器阅读理解任务，相比不少读者都有所了解了，简单来说就是从给定篇章中寻找给定问题的答案，即“篇章 + 问题 → 答案”这样的流程，笔者之前也写过一些关于阅读理解的文章，比如《基于CNN的阅读理解式问答模型：DGCNN》[1]等。至于问答对构建，则相当于是阅读理解的反任务，即“篇章 → 答案 + 问题”的流程，学术上一般直接叫“问题生成（Question Generation）”，因为大多数情况下，...
2018全球计算机与工程学科排名：清华第7，中国9个学科世界第一！ 6
日前，软科(前身是ARWU上海交大排名)正式发布了《2018软科世界一流学科排名》（ShanghaiRanking' s Global Ranking of Academic Subjects）。 该榜单覆盖54个学科，涉及理学、工学、生命科学、医学和社会科学五大领域，共有来自83个国家和地区的1600余所高校，按照具体学科进行分类排名，形成多列纵队。中国共有202所高校上榜，上榜总次数1700次...
深度学习人脸识别中的统一表示学习 9
论文名称： Towards Universal Representation Learning for Deep Face Recognition 论文地址： https://arxiv.org/abs/2002.11841 2.摘要 复杂环境下的人脸识别是非常困难的。传统的方法要么使用从目标图像标注的变化数据来训练，要么引入没有标注的目标变化数据去适应训练数据。基于此，本论文提出了一个统一的表示...
如何匹配两段文本的语义？ 5
喵喵喵，好久不见啦。首先很抱歉大家期待的调参手册（下）迟迟没有出稿，最近两个月连着赶了4个DDL，整个人都不好了。最近几天终于有时间赶一下未完成的稿子了。在赶DDL的时候夹着写了这篇文章，就先发布这一篇吧～调参手册（下）不出意外的话最近也可以发布啦。 本文由来 一年前在知乎上关注过这么一个问题： 如何判断两段文本说的是「同一件事情」？ - 知乎 https://www.zhihu.com/ques...
撑起百万亿参数模型想象力！英伟达发布新一代SuperPOD超算，AI算力新巅峰！ 14
周一，黄教主又很淡定的在自家厨房里开完了GTC发布会。 众所周知，NLP领域的模型一个比一个大，自从百亿参数的Google T5出来后，大部分AI研究者只能望着手里的蹩脚算力兴叹。如今动辄就是千亿、万亿参数模型，目前比较流行的V100主机显然已经无法满足需求。而本周刚落幕的GTC发布会，则为如今的万亿模型想象力的时代提供了一份极其重要的保障，不仅使得造万亿模型都成为了可能，甚至打开了通往十万亿乃至...
深入深出Sigmoid与Softmax的血缘关系 33
缘起逻辑回归 逻辑回归模型是用于二类分类的机器学习模型（不要说逻辑回归可以做多类分类啊喂，那是二类分类器的组合策略问题，而与逻辑回归分类器本身的构造没有半毛钱关系啊）。 我们知道，在逻辑回归中，用于预测样本类别的假设函数为 （小夕要讲大事，忽略偏置项参数和向量转置这种细节啦）,其中sigmoid函数的图像看起来是这样的： 因此，我们将的样本预测为正类别（记为类别1），将的样本预测为负类别（记为类别...
想不出深度学习创新点？让AI七剑客来帮你吧！ 8
21世纪是人工智能的风口，越来越多的人把深度学习当作未来就业的方向。但是随着AI的不断内卷，研究生毕业的要求也越来越高，很多的研究生因为想不出论文的创新点而无法毕业！ 找学长学姐帮忙，但是深度学习的专业性太强，学长学姐有时候也不一定能搞定，这时候会想“要是有人可以帮帮我好了”，那么，“AI七剑客”就是你的不二选择啦！ 一、关于AI七剑客 顾名思义，我们是由七人组成的团队，成员来自于国内外顶尖学府的...
-
2023-01-15
-
2023-01-14
-
2023-01-14
-
2023-01-14
-
2023-01-14
推广返利