神经网络量化入门–Add和Concat
(本文首发于公众号)
好久没更新了,一方面是因为工作繁忙,另一方面主要是懒。
之前写过几篇关于神经网络量化的文章,主要是对 Google 量化论文以及白皮书的解读,但有一些细节的问题当时没有提及。这篇文章想补充其中一个问题:关于 ElementwiseAdd (简称 EltwiseAdd) 和 Concat 的量化。
EltwiseAdd量化
EltwiseAdd 的量化主要是在论文的附录里面提及的。过程不是太复杂,如果了解量化的基本原理的话,完全可以自己推导出来。
回忆一下量化的基本公式:
r
=
共有 0 条评论