“英特尔DNNL 1.2库提示Xe GPU中的Int8数据类型支持”
英特尔发布了dnnl 1.2版。 这是一个优化的库,用于比较cpu及其gpu,以实现高性能的深度学习操作。 新版本引入了gpu对int8的支持。 这表明它是xe体系结构的标准功能。
phoronix已经报道了dnnl 1.2的发表。 这个版本以前叫做mkl-dnn。 这家企业被用于深度神经互联网( dnn )的数学内核库) mkl )的变体。 根据该网站,这个版本的新功能是通过gpu支持int8。 (未找到修补程序证书。
考虑到性能是支持低精度数据类型的首要目的,dnnl只与通过硬件加速这些数据类型的平台进行比较,才能实现这一功能。
也就是说,英特尔以前不支持gpu上的int8。 因为迄今为止,集成显卡本身不支持数据类型。 这是因为,它提供了int8将支持英特尔即将推出的xe体系结构的证据。
英特尔宣布,使用xe hpc架构的ponte vecchio拥有矩阵引擎(类似nvidia的张量核),其int8加速度为3.2倍。 英特尔目前正在为此添加int8支持。 这强烈地表明,即使xe hpc体系结构没有成熟的矩阵引擎,dg1的xe lp体系结构也具有int8支持。
在常规优化中,dnnl 1.2包括对avx-512和cascade lake的dlboost的支持,在深度学习推理应用程序中经常采用,因此提高了int8操作的性能。 dnnl 1.2改善了avx-512之前的硬件和3d空之间的数据的int8性能。 一维后方卷积的性能也有所提高,同时引入了许多原语。
免责声明:雪球目录网免费收录各个行业的优秀中文网站,提供网站分类目录检索与关键字搜索等服务,本篇文章是在网络上转载的,本站不为其真实性负责,只为传播网络信息为目的,非商业用途,如有异议请及时联系btr2031@163.com,本站的工作人员将予以删除。