预训练

纵观对话预训练技术演变史：化繁为简的背后，什么在消亡？ 10

知行编程网 人工智能前沿 2年前 (2022-02-19) 129 0

最近，百度发布了对话生成预训练模型PLATO-XL，110亿的参数规模，也让它成为了对话领域目前最大的预训练模型。不到两年的时间，PLATO系列已走过三代。作为国内对话预训练技术的头部玩家，它的每一次升级，也拨动着对话技术爱好者的好奇心。 今天，我们将秉承客观公正的态度，对三代技术进行系统的对比，试图从它的演化历程中深入挖掘出开放域对话效果提升的秘密。文末最后，将会抛出灵魂拷问：化繁为简是否意味着...