Google | 突破瓶颈,打造更强大的Transformer

Google | 突破瓶颈,打造更强大的Transformer 4

知行编程网 人工智能前沿 2年前 (2022-01-16) 18 0

一只小狐狸带你解锁炼丹术&NLP秘籍 前言 《Attention is All You Need》一文发布后,基于Multi-Head Attention的Transformer模型开始流行起来,而去年发布的BERT模型更是将Transformer模型的热度推上了又一个高峰。当然,技术的探索是无止境的,改进的工作也相继涌现:有改进预训练任务的,比如XLNET的PLM、ALBERT的SOP等...

如何让BERT拥有视觉感知能力?两种方式将视频信息注入BERT

如何让BERT拥有视觉感知能力?两种方式将视频信息注入BERT 35

知行编程网 人工智能前沿 2年前 (2022-01-15) 6 0

一只小狐狸带你解锁NLP/ML/DL秘籍 老板老板,听说BERT是个瞎子 此话怎讲? 它能理解语言,但是理解不了小夕的自拍! video-BERT了解一下 喵喵喵? AI的三大核心板块(CV/Speech/NLP)近几年都相继取得了非常大的发展和进步。但是正所谓成也萧何,败也萧何,深度学习一直在能力泛化和鲁棒性问题上饱受诟病,通用AI之路遥遥无期。 不过,近期得益于预训练模型的成功,似乎跨模态问题...

一种自配置的医学目标检测方法

一种自配置的医学目标检测方法

橙子 每日Arxiv 2年前 (2022-01-15) 30 0

机器学习如何用于医学图像处理呢?今天橙子姐姐带大家看看深度学习用于肺部数据的检测。 医学图像中对象的同时定位和分类,也称为医学对象检测,具有很高的临床相关性,因为诊断决策通常取决于对象的评级而不是例如。像素。对于这项任务,方法配置的繁琐和迭代过程构成了主要的研究瓶颈。最近,nnU-Net 成功地解决了图像分割任务的这一挑战。按照 nnU-Net 的议程,在这项工作中,我们将医疗对象检测的配置过程系...

搜索引擎核心技术与算法 —— 词项词典与倒排索引优化

搜索引擎核心技术与算法 —— 词项词典与倒排索引优化 20

知行编程网 人工智能前沿 2年前 (2022-01-14) 12 0

一只小狐狸带你解锁NLP/ML/DL秘籍 老板~我会写倒排索引啦!我要把它放进咱们自研搜索引擎啦! 我呸!你这种demo级代码,都不够当单元测试的! 嘤嘤嘤,课本上就是这样讲的呀?! 来来,带你见识一下工业级搜索引擎里的倒排索引是怎么优化的! 前言 首先回顾一下构建倒排索引的几个主要步骤: (1) 收集待建索引的文档; (2) 对这些文档中的文本进行词条化; (3) 对第2步产生的词条进行语言学预...

详解医学顶刊《柳叶刀》最新发表新型冠状病毒研究论文

详解医学顶刊《柳叶刀》最新发表新型冠状病毒研究论文 8

知行编程网 人工智能前沿 2年前 (2022-01-14) 9 0

前言新型冠状病毒(2019-nCoV)的突发恰逢春节,千家万户都对疫情十分关注。令人心痛的是,病毒带来的不止有病痛,还有来自各路媒体的大量谣言和不实解读。作为科研工作者的我们,希望能略尽绵薄之力,为大家整理学术界最新研究成果,并进行通俗易懂、严谨客观的翻译和解读。具体来说,我们对 2020年1月24日 发表在医学领域国际顶级期刊《柳叶刀》上的关于新型冠状病毒(2019-nCoV)的两篇论文(这也是...

45个小众而实用的NLP开源字典和工具

45个小众而实用的NLP开源字典和工具 3

知行编程网 人工智能前沿 2年前 (2022-01-14) 42 0

一只小狐狸带你解锁NLP/ML/DL秘籍   前言 随着BERT、ERNIE、XLNet等预训练模型的流行,解决NLP问题时不用上预训练模型似乎总显得自己有点过时。但是这显然是不对的。 众所周知,无论训练还是推理,预训练模型都会消耗大量的算力,且高度依赖GPU计算资源。然而,有很多的NLP问题实际上仅仅靠字典+规则就可以做到够用,那么这时候强行上笨重的模型无异于高射炮打蚊子,性价比是非常低的。 于...

利用开放世界方案扩展一阶段检测

利用开放世界方案扩展一阶段检测 2

橙子 每日Arxiv 2年前 (2022-01-13) 29 0

在开放集的世界里如何进行目标检测呢?下面橙子姐姐带大家一起看看一项新的工作! 在许多应用中,例如自动驾驶、手动操作或机器人导航,物体检测方法必须能够检测到训练集中看不见的物体。开放世界检测 (OWD) 试图通过将检测性能推广到可见和不可见的类别来解决这个问题。最近的工作已经在生成与类别无关的建议方面取得了成功,本文称之为开放世界建议(OWP),但是当在检测模型中考虑这两个任务时,这是以分类任务的大...

基于光谱数据和全连接神经网络的高光谱图像分类

基于光谱数据和全连接神经网络的高光谱图像分类

橙子 每日Arxiv 2年前 (2022-01-12) 34 0

今天橙子姐姐带大家看看高光谱如何实现分类吧~ 可以观察到,通过使用深度学习方法,可以对一维和二维信号实现高分类性能。在此背景下,大多数研究人员尝试使用深度学习方法对高光谱图像进行分类,这些图像的分类成功率已超过 90%。 深度神经网络 (DNN) 实际上由两部分组成:i) 卷积神经网络 (CNN) 和 ii) 全连接神经网络 (FCNN)。 CNN 确定特征时,FCNN 用于分类。在高光谱图像的分...

多任务学习时转角遇到Bandit老虎机

多任务学习时转角遇到Bandit老虎机 3

知行编程网 人工智能前沿 2年前 (2022-01-11) 12 0

一个转角 事情是这样的,最近小夕在做NLP多任务学习相关的一些工作嘛,然后有一天,老大甩给小夕一篇paper NAACL2019 | AutoSeM: Automatic Task Selection and Mixing in Multi-Task Learning 诶?看起来很有意思的样子,辅助任务不用自己选啦?mix ratio不用手调了?上图上图!! 不过小夕最近大半年的时间里炼丹炼多了(...

搜索引擎核心技术与算法 —— 倒排索引初体验

搜索引擎核心技术与算法 —— 倒排索引初体验 6

知行编程网 人工智能前沿 2年前 (2022-01-11) 48 0

今天开启一个新篇章——智能搜索与NLP。本篇章将由羸弱菜鸡小Q和大家一同学习与智能搜索相关的知识和技术,希望能和大家一同学习与进步,冲鸭!! 这里首先区分两个概念:搜索和检索 检索:数据库时代的概念,及将数据存入数据库,有需要的时候进行查取。对结果的要求绝对精确;比如我要在图书馆里找到所有出现“白马”字样的图书,这里用到的就是检索。 搜索:互联网时代的概念,人们将信息资源放在网上,第三方将互联网的...

扫一扫二维码分享