FastBERT

ACL2020 | FastBERT：放飞BERT的推理速度 9

知行编程网 人工智能前沿 2年前 (2022-01-16) 39 0

一只小狐狸带你解锁 炼丹术&NLP 秘籍 FastBERT 自从BERT问世以来，大多数NLP任务的效果都有了一次质的飞跃。BERT Large在GLUE test上甚至提升了7个点之多。但BERT同时也开启了模型的“做大做深”之路，普通玩家根本训不起，高端玩家虽然训得起但也不一定用得起。 所以BERT之后的发展也比较清晰，一部分壕大佬们继续搞预训练提升效果，当你对BERT Large望而...