量化公式概念
量化公式一般是这个形式:x1 = round(x*s+z)
反量化公式一般是这个形式:x2 = (x1-z)/s
公式变化形式多,但基本都是这样子的格式的
QAT时,要进行两步的,要经过量化和反量化,前向传播进行量化和反量化,反向传播梯度还是给的浮点数
对称量化和非对称量化,对称量化是指零点为0,非对称量化是指零点不一定为0
per_channel和per_layer,per_channel只针对权重weight而言,每个weight的channel都有单独的量化参数scale和零点z,由于计算复杂度和时间的原因,输入不会做per_channel。per_layer针对权重和输入,所有的channel共用同一对量化参数scale和零点z
绝对路径是指目录下的绝对位置,直接到达目标位置,通常是从盘符开始的路径。
完整的描述文件位置的路径就是绝对路径,以web站点根目录为参考基础的目录路径。绝对路径名的指定是从树型目录结构顶部的根目录开始到某个目录或文件的路径,由一系列连续的目录组成,中间用斜线分隔,直到要指定的目录或文件,路径中的最后一个名称即为要指向的目录或文件。之所以称为绝对,意指当所有网页引用同一个文件时,所使用的路径都是一样的。
Copyright 2015-2022 财富赢家网版权所有 联系邮箱:920 891 263@qq.com