FakeQuantWithMinMaxVarsPerChannel

チャネルごとの float を介して float 型の「入力」テンソルを疑似量子化します。

チャンネルごとの float 型と次のいずれかの形状の `inputs` テンソルをチャンネルごとの float を介して疑似量子化します: `[d]`、`[b, d]` `[b, h, w, d]`形状 `[d]` の min` と `max` を `inputs` と同じ形状の `outputs` テンソルに変換します。

属性

• `[分; max]` は、`inputs` データのクランプ範囲を定義します。
• `inputs` 値は量子化範囲 (`narrow_range` が false の場合は `[0; 2^num_bits - 1]`、true の場合は `[1; 2^num_bits - 1]`) に量子化されてから逆量子化されます。 `[min; の浮動小数点数として出力します。最大]` 間隔。
• 「num_bits」は量子化のビット幅です。 2 から 16 まで (両端の値を含む)

量子化の前に、「min」と「max」の値は次のロジックで調整されます。 「min <= 0 <= max」にすることをお勧めします。 「0」が値の範囲内にない場合、予期しない動作が発生する可能性があります。

• `0 < min < max` の場合: `min_adj = 0` および `max_adj = max - min`。
• `min < max < 0` の場合: `min_adj = min - max` および `max_adj = 0`。
• `min <= 0 <= max` の場合: `scale = (max - min) / (2^num_bits - 1) `、`min_adj =scale *round(min /scale)`、および `max_adj = max + min_adj - min `。

この操作には勾配があるため、「最小」値と「最大」値のトレーニングが可能になります。