HuggingFace

HuggingFace又出炼丹神器！稀疏矩阵运算进入平民化时代！ 3

知行编程网 人工智能前沿 2年前 (2022-01-25) 73 0

一提到模型加速，大家首先想到的就是蒸馏、（结构性）剪枝、量化（FP16），然而稀疏矩阵（sparse matrix）运算一直不被大家青睐。原因也很简单，一是手边没有现成的代码（懒），二是即使用了，速度也不一定有之前的稠密矩阵（dense matrix）快。 不过，框架的开发者们并没有停下他们的脚步，就在不久前，HuggingFace开心地宣布，他们可以支持稀疏矩阵运算啦！75%的sparsity换...