人工智能前沿

一手AI资讯|计算机视觉|自然语言|机器学习|深度学习
使用pytorch时,训练集数据太多达到上千万张,Dataloader加载很慢怎么办?

使用pytorch时,训练集数据太多达到上千万张,Dataloader加载很慢怎么办?

知行编程网 1年前 (2022-08-10) 182 0

训练集全是16x16,32x32之类的小图,达到上千万张,训练时发现数据加载很慢很慢很慢!!!看了下CPU 内存 GPU使用情况,发现CPU使用率都跑到90%去了,GPU使用率却较低作者:MING YE 1)小图拼起来存放(降低读取次数)2)存bmp图(降低解码时间)3)1张32*32的图其实也就3K大,1000w也才不到29G,现在训练机器都是几百G的内存,直接载到内存里面,或者把把内存映射成磁...

在目标检测中如何解决小目标的问题?

在目标检测中如何解决小目标的问题? 8

知行编程网 1年前 (2022-08-10) 56 0

导读 本文介绍了一些小目标物体检测的方法和思路。 在深度学习目标检测中,特别是人脸检测中,由于分辨率低、图像模糊、信息少、噪声多,小目标和小人脸的检测一直是一个实用和常见的难点问题。然而,在过去几年的发展中,也出现了一些提高小目标检测性能的解决方案。本文将对这些方法进行分析、整理和总结。 图像金字塔和多尺度滑动窗口检测 一开始,在深学习方法成为流行之前,对于不同尺度的目标,通常是从原始图像开始,使...

PyPy为什么能让Python比C还快?一文了解内在机制

PyPy为什么能让Python比C还快?一文了解内在机制 4

知行编程网 1年前 (2022-08-10) 52 0

对于研究人员来说,迅速把想法代码化并查看其是否行得通至关重要。Python 是能够实现这一目标的出色语言,它能够让人们专注于想法本身,而不必过度为代码格式等无聊的事情困扰。 但是,Python 有一个致命的缺点:速度比 C、C ++ 等语言慢很多。那么,构建一个 Python 原型测试想法之后,如何将其转变为快速且高性能的工具?通常来说,人们还要再进行一步工作:将 Python 代码手动转换为 C...

注意力机制是如何学习到模型所应注意的区域的?

注意力机制是如何学习到模型所应注意的区域的? 2

知行编程网 1年前 (2022-08-10) 28 0

简单来说,注意力机制在没有标注的数据集中,仅凭着模型本身去学习所应注意的区域,这种方法的准确性靠谱吗? 作者:知乎用户 https://www.zhihu.com/question/444712435/answer/1755066079 我打算从一个非常 toy 的模型说明为何跑着跑着,会出现区域集中先考虑一个玩具模型考虑样本 ,权重  ,以及均值为零的噪声  ,我们的 toy model 如下:...

Github上这款目标检测神器震撼来袭,真香!

Github上这款目标检测神器震撼来袭,真香! 12

知行编程网 1年前 (2022-08-10) 73 0

‍‍‍‍‍超越YOLOv5,1.3M超轻量,高效易用,目标检测神器已开源在Github。 不论是通用目标检测,还是行人、车辆检测; 不论是超高精度,还是超轻量超快速; 不论是学术科研大神,还是入门萌新; 这个目标检测领域的神器都能快速上手!那就是刚刚全面升级的PaddleDetection2.0!它全面兼顾高性能算法、便捷开发、高效训练及完备部署,也因此受到广大开发者的喜爱,连续登录Github全...

CVPR 2021 | 自适应激活函数ACON: 统一ReLU和Swish的新范式

CVPR 2021 | 自适应激活函数ACON: 统一ReLU和Swish的新范式 17

知行编程网 1年前 (2022-08-10) 26 0

论文地址:https://arxiv.org/pdf/2009.04759.pdf 论文代码:https://github.com/nmaac/acon 本文提出一种新的激活函数ACON (activate or not),可以自适应地学习激活与否。 ReLU是最常见的激活函数,最近NAS搜到的Swish在各种SOTA网络结构中逐渐取代ReLU。有趣的是,我们发现虽然两者形式看起来很不一样,但Sw...

什么?Epoch 不仅过时,而且有害?

什么?Epoch 不仅过时,而且有害? 8

知行编程网 1年前 (2022-08-10) 18 0

有一天,一个调参侠在训练一个深度学习模型,要用到的两个数据集损失函数不同,数据集的大小还不是固定的,每天都在增加。 他有点发愁,这该怎么设置Epoch数呢? 在纠结的过程中,他突然想到:干嘛非得定一个Epoch数?只要对每个Batch进行独立同分布抽样 (IID Sampling)不就得了。 为了验证这个想法,调参侠去看了很多论文。发现越来越多的人介绍他们的训练方法时,只说进行了多少个Iterat...

CVPR2021|Anchor-free新玩法,一个head统一目标检测,实例分割,姿态估计三种任务

CVPR2021|Anchor-free新玩法,一个head统一目标检测,实例分割,姿态估计三种任务 15

知行编程网 1年前 (2022-08-10) 18 0

  本文介绍一篇被CVPR 2021接收的工作,本文将目标检测、实例分割、姿态估计这些任务概括为位置敏感的视觉识别,并提出了一个名为位置敏感网络(LSNet)的统一解决方案。 论文:https://arxiv.org/abs/2104.04899 代码:https://github.com/Duankaiwen/LSNet 文章认为,目标检测,实例分割和姿态估计本质上都是识别物体,只是表征物体的形...

为什么机器学习算法难以优化?一文详解算法优化内部机制

为什么机器学习算法难以优化?一文详解算法优化内部机制 14

知行编程网 1年前 (2022-08-10) 25 0

损失线性组合是正确的选择吗?这篇文章或许能够给你答案。 在机器学习中,损失的线性组合无处不在。虽然它们带有一些陷阱,但仍然被广泛用作标准方法。这些线性组合常常让算法难以调整。在本文中,作者提出了以下论点: 机器学习中的许多问题应该被视为多目标问题,但目前并非如此; 「1」中的问题导致这些机器学习算法的超参数难以调整; 检测这些问题何时发生几乎是不可能的,因此很难解决这些问题。 有一些方法可以轻微缓...

扫一扫二维码分享