对比学习有多火?文本聚类都被刷爆了…

对比学习有多火?文本聚类都被刷爆了… 25

知行编程网 人工智能前沿 2年前 (2022-02-07) 256 0

对比学习的大火🔥 越来越旺了,已然从CV蔓延到NLP了。今天给大家介绍的正是一篇将对比学习应用到文本聚类上的工作,NAACL21新鲜出炉的paper——《Supporting Clustering with Contrastive Learning》。该工作在8个短文本聚类数据集上取得了显著提升(比如正确率提升3%~11%)。 所谓对比学习,重点在于对比,那对比的对象是谁? 答曰:增强的数据。假设...

对比学习,简单到只需要Dropout两下

对比学习,简单到只需要Dropout两下 21

知行编程网 人工智能前沿 2年前 (2022-02-07) 270 0

上周把 《对比学习有多火?文本聚类都被刷爆了...》分享到卖萌屋的群里后,遭到了群友们一波嫌弃安利。 小伙伴们表示,插入替换的数据增强方式已经Out了,SimCSE才是现在的靓仔。 snowfloating说:看完Danqi Chen组里的SimCSE,再看这篇感觉就没什么惊喜了。 苏神: 直接用dropout,居然work了。真见鬼了...... 奥多多奥多多:这篇有说法的。 抱着一颗好奇的心,...

扫一扫二维码分享