fluxo tensor:: ops:: Desquantizar

#include <array_ops.h>

Desquantize o tensor de 'entrada' em um Tensor flutuante.

Resumo

[min_range, max_range] são valores flutuantes escalares que especificam o intervalo para os dados de 'entrada'. O atributo 'mode' controla exatamente quais cálculos são usados ​​para converter os valores flutuantes em seus equivalentes quantizados.

No modo 'MIN_COMBINED', cada valor do tensor passará pelo seguinte:

if T == qint8: in[i] += (range(T) + 1)/ 2.0
out[i] = min_range + (in[i]* (max_range - min_range) / range(T))
aqui range(T) = numeric_limits ::max() - numeric_limits ::min() range(T) = numeric_limits ::max() - numeric_limits ::min() range(T) = numeric_limits ::max() - numeric_limits ::min()

Exemplo de modo MIN_COMBINED

Se a entrada vier de QuantizedRelu6 , o tipo de saída será quint8 (intervalo de 0 a 255), mas o intervalo possível de QuantizedRelu6 será de 0 a 6. Os valores min_range e max_range são, portanto, 0,0 e 6,0. Dequantize em quint8 pegará cada valor, converterá em float e multiplicará por 6/255. Observe que se quantizedtype for qint8, a operação adicionará adicionalmente cada valor por 128 antes da conversão.

Se o modo for 'MIN_FIRST', esta abordagem será usada:

num_discrete_values = 1 << (# of bits in T)
range_adjust = num_discrete_values / (num_discrete_values - 1)
range = (range_max - range_min) * range_adjust
range_scale = range / num_discrete_values
const double offset_input = static_cast(input) - lowest_quantized;
result = range_min + ((input - numeric_limits::min()) * range_scale)

Exemplo de modo ESCALADO

O modo SCALED corresponde à abordagem de quantização usada em QuantizeAndDequantize{V2|V3} .

Se o modo for SCALED , não usamos toda a faixa do tipo de saída, optando por omitir o valor mais baixo possível para simetria (por exemplo, a faixa de saída é -127 a 127, não -128 a 127 para quantização de 8 bits com sinal), então 0,0 mapeia para 0.

Primeiro encontramos o intervalo de valores em nosso tensor. O intervalo que usamos é sempre centrado em 0, então encontramos m tal que

  m = max(abs(input_min), abs(input_max))

Nosso intervalo de tensores de entrada é então [-m, m] .

A seguir, escolhemos nossos intervalos de quantização de ponto fixo, [min_fixed, max_fixed] . Se T estiver assinado, isso é

  num_bits = sizeof(T) * 8
  [min_fixed, max_fixed] =
      [-(1 << (num_bits - 1) - 1), (1 << (num_bits - 1)) - 1]

Caso contrário, se T não tiver sinal, o intervalo do ponto fixo é

  [min_fixed, max_fixed] = [0, (1 << num_bits) - 1]

A partir disso calculamos nosso fator de escala, s:

  s = (2 * m) / (max_fixed - min_fixed)

Agora podemos desquantizar os elementos do nosso tensor:

result = input * s

Argumentos:

  • escopo: um objeto Escopo
  • min_range: O valor escalar mínimo possivelmente produzido para a entrada.
  • max_range: O valor escalar máximo possivelmente produzido para a entrada.

Retorna:

  • Output : o tensor de saída.

Construtores e Destruidores

Dequantize (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range)
Dequantize (const :: tensorflow::Scope & scope, :: tensorflow::Input input, :: tensorflow::Input min_range, :: tensorflow::Input max_range, const Dequantize::Attrs & attrs)

Atributos públicos

operation
output

Funções públicas

node () const
::tensorflow::Node *
operator::tensorflow::Input () const
operator::tensorflow::Output () const

Funções estáticas públicas

Mode (StringPiece x)

Estruturas

tensorflow:: ops:: Desquantize:: Attrs

Configuradores de atributos opcionais para Dequantize .

Atributos públicos

operação

Operation operation

saída

::tensorflow::Output output

Funções públicas

Desquantizar

 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range
)

Desquantizar

 Dequantize(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input input,
  ::tensorflow::Input min_range,
  ::tensorflow::Input max_range,
  const Dequantize::Attrs & attrs
)

::tensorflow::Node * node() const 

operador::tensorflow::Input

 operator::tensorflow::Input() const 

operador::tensorflow::Saída

 operator::tensorflow::Output() const 

Funções estáticas públicas

Modo

Attrs Mode(
  StringPiece x
)