FakeQuantWithMinMaxVarsPerChannel

채널별 부동 소수점을 통해 부동 소수점 유형의 '입력' 텐서를 가짜 양자화합니다.

채널별 float 유형의 '입력' 텐서와 채널별 부동 소수점을 통해 `[d]`, `[b, d]` `[b, h, w, d]` 모양 중 하나를 가짜 양자화합니다. '[d]' 모양의 min'과 'max'를 '입력'과 같은 모양의 텐서를 '출력'합니다.

속성

• `[분; max]`는 `입력` 데이터의 클램핑 범위를 정의합니다.
• `입력` 값은 양자화 범위(`narrow_range`가 false인 경우 `[0; 2^num_bits - 1]`, true인 경우 `[1; 2^num_bits - 1]`)로 양자화된 다음 역양자화됩니다. `[min; 에서 부동 소수점으로 출력합니다. max]` 간격.
• `num_bits`는 양자화의 비트폭입니다. 2부터 16까지.

양자화 전에 'min' 및 'max' 값은 다음 논리로 조정됩니다. `min <= 0 <= max`를 사용하는 것이 좋습니다. '0'이 값 범위에 없으면 예상치 못한 동작이 발생할 수 있습니다.

• `0 < min < max`인 경우: `min_adj = 0` 및 `max_adj = max - min`.
• `min < max < 0`인 경우: `min_adj = min - max` 및 `max_adj = 0`.
• `min <= 0 <= max`인 경우: `scale = (max - min) / (2^num_bits - 1) `, `min_adj = scale * round(min / scale)` 및 `max_adj = max + min_adj - min `.

이 연산에는 기울기가 있으므로 '최소' 및 '최대' 값을 훈련할 수 있습니다.