炒股第一步,先开个股票账户

$神州泰岳(SZ300002)$   2020年由神州泰岳AI研究院与中科院深圳先进技术研究院合作推出的BERT-EMD相较于以前工作蒸馏BERT的方式,有效地解决了人工指定蒸馏学习层次对应关系的弊端,在GLUE Benckmark上,提出的知识蒸馏的方法不使用数据增强技术,6层模型有着12层BERT相当的结果,另外此方法不需要研究者手动指定层次映射关系,在GLUE Benckmark已超过其他蒸馏模型(如TinyBERT, BERT-PKD等)

恭喜解锁12个月手机L2专属领取资格,立即领取>>

追加内容

本文作者可以追加内容哦 !