FakeQuantWithMinMaxVars

Фальшивое квантование тензора «входов» типа float с помощью глобальных скаляров с плавающей запятой.

Поддельное квантование тензора «входов» типа float с помощью глобальных скаляров с плавающей запятой «min» и «max» до тензора «выходов» той же формы, что и «входы».

Атрибуты

• `[мин; max]` определяют диапазон ограничения для входных данных.
• Значения `inputs` квантуются в диапазон квантования ( `[0; 2^num_bits - 1]`, когда `narrow_range` имеет значение false, и `[1; 2^num_bits - 1]`, когда оно истинно), а затем деквантуются. и выводить как числа с плавающей запятой в `[min; max]` интервал.
• `num_bits` — разрядность квантования; от 2 до 16 включительно.

Перед квантованием значения min и max корректируются с помощью следующей логики. Предлагается иметь `min <= 0 <= max`. Если `0` не находится в диапазоне значений, поведение может быть неожиданным:

• Если `0 < min < max`: `min_adj = 0` и `max_adj = max - min`.
• Если `min < max < 0`: `min_adj = min - max` и `max_adj = 0`.
• Если `min <= 0 <= max`: `scale = (max - min) / (2^num_bits - 1) `, `min_adj = масштаб * round(min/scale)` и `max_adj = max + min_adj - min `.

Эта операция имеет градиент и, таким образом, позволяет обучать значения «min» и «max».