少样本学习

老板让我用少量样本 finetune 模型，我还有救吗？急急急，在线等！ 8

知行编程网 人工智能前沿 2年前 (2022-02-05) 95 0

今天介绍的是一篇 NAACL'21 新鲜出炉的工作！NAACL 上周四出的结果，这篇工作本周一上传 arxiv，周二被王苏小哥哥发现，周三拜读了一下，今天就来和大家分享啦！！ 给大家提个问题：如果训练样本只有几百条，这时候我们该怎么办呢？ 传统的 RNN 在这个样本大小下很难被训练好，自然地，我们会想到使用预训练模型，在其基础上进行 finetune。具体来讲，就是将预训练模型作为模型的底层，在上...