CNN

谷歌：CNN击败Transformer，有望成为预训练界新霸主！LeCun却沉默了... 15

知行编程网 人工智能前沿 2年前 (2022-02-08) 221 0

这几年，大家都说深度学习进入了预训练时代。作为一个入行不久的小白，我一直以为各类基于 Transformers 结构的预训练模型是 NLP 的巨大里程碑，CNN、RNN 老矣，只配作为手下败将。大家的文章似乎也是这样：把 BERT 作为 encoder 的归为一组来对比性能，把 CNN、RNN encoder 归为另一组，且总是要比基于 BERT 的差一些。 但是，我们有没有想过一个问题？当今所有...