FakeQuantWithMinMaxVarsPerChannel

Fake-quantize o tensor de 'entradas' do tipo float por meio de floats por canal

Fake-quantize o tensor `inputs` do tipo float por canal e uma das formas:` [d] `,` [b, d] `` [b, h, w, d] `via floats por canal` min` e `max` de forma` [d] `para tensor` outputs` da mesma forma que `entradas`.

Atributos

• `[min; max] `define a faixa de fixação para os dados de` entradas`.
• Os valores de `entradas` são quantizados no intervalo de quantização (` [0; 2 ^ num_bits - 1] `quando` narrow_range` é falso e `[1; 2 ^ num_bits - 1]` quando é verdadeiro) e então de-quantizado e a saída como flutuações em `[min; intervalo máximo] `.
• `num_bits` é a largura de bits da quantização; entre 2 e 16, inclusive.

Antes da quantização, os valores `min` e` max` são ajustados com a seguinte lógica. É sugerido ter `min <= 0 <= max`. Se `0` não estiver na faixa de valores, o comportamento pode ser inesperado:

• Se `0 <min <max`:` min_adj = 0` e `max_adj = max - min`.
• Se `min <max <0`:` min_adj = min - max` e `max_adj = 0`.
• Se `min <= 0 <= max`:` scale = (max - min) / (2 ^ num_bits - 1) `,` min_adj = scale * round (min / scale) `e` max_adj = max + min_adj - min `.

Esta operação tem um gradiente e, portanto, permite o treinamento dos valores `min` e` max`.