Realice un punto híbrido cuantificado de Tensor flotante `lhs` y Tensor cuantificado `rhs`.
Dado `lhs` flotante y `rhs` cuantificado, realiza internamente la cuantificación en `lhs`, y luego realiza un punto cuantificado en lhs y `rhs` cuantificados. La cuantificación interna en `lhs` es una cuantificación a qint8, rango dinámico, por lote (por eje a lo largo del eje 0), asimétrica y no de rango estrecho (el rango es [-128, 127]). `lhs` y `rhs` deben ser tensores 2D y lhs.dim_size(1) debe coincidir con rhs.dim_size(0). `rhs` debe ser Tensor cuantificado, donde su valor de datos se cuantifica mediante la fórmula: quantized_data = clip(original_data / scale + zero_point, quantization_min_val, quantization_max_val).
Clases anidadas
clase | UniformQuantizedDotHybrid.Options | Atributos opcionales para UniformQuantizedDotHybrid |
Métodos públicos
Salida <V> | como salida () Devuelve el identificador simbólico de un tensor. |
estático <V extiende Número, T extiende Número, U> UniformQuantizedDotHybrid <V> | crear ( Alcance alcance, Operando <T> lhs, Operando <U> rhs, Operando <Flotante> rhsScales, Operando <Integer> rhsZeroPoints, Class<V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Opciones... opciones) Método de fábrica para crear una clase que envuelve una nueva operación UniformQuantizedDotHybrid. |
Salida <V> | salida () El tensor 2D de salida de Tout, cuya forma es (lhs.dim_size(0), rhs.dim_size(1)). |
estático UniformQuantizedDotHybrid.Options | rhsQuantizationAxis (rhsQuantizationAxis largo) |
Métodos Heredados
Métodos públicos
salida pública <V> como salida ()
Devuelve el identificador simbólico de un tensor.
Las entradas de las operaciones de TensorFlow son salidas de otra operación de TensorFlow. Este método se utiliza para obtener un identificador simbólico que representa el cálculo de la entrada.
public static UniformQuantizedDotHybrid <V> create ( Scope scope, Operand <T> lhs, Operand <U> rhs, Operand <Float> rhsScales, Operand <Integer> rhsZeroPoints, Class<V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Options.. . opciones)
Método de fábrica para crear una clase que envuelve una nueva operación UniformQuantizedDotHybrid.
Parámetros
alcance | alcance actual |
---|---|
izq. | Debe ser un tensor 2D de Tlhs. |
derecho | Debe ser un tensor 2D de Trhs. |
rhsEscalas | Los valores flotantes utilizados como escala al cuantificar los datos originales que representa rhs. Debe ser un tensor escalar (cuantificación por tensor) o un tensor 1D de tamaño (rhs.dim_size(1),) (cuantificación por canal). |
rhsZeroPuntos | Los valores int32 utilizados como punto_cero al cuantificar los datos originales que representa rhs. Misma condición de forma que rhs_scales. |
Revendedor | El tipo de Tensor de salida. |
rhsQuantizationMinVal | El valor mínimo de los datos cuantificados almacenados en rhs. Por ejemplo, si Trhs es qint8, debe establecerse en -127 si se cuantifica en rango estrecho o -128 en caso contrario. |
rhsQuantizationMaxVal | El valor máximo de los datos cuantificados almacenados en rhs. Por ejemplo, si Trhs es qint8, debe establecerse en 127. |
opciones | lleva valores de atributos opcionales |
Devoluciones
- una nueva instancia de UniformQuantizedDotHybrid
salida pública <V> salida ()
El tensor 2D de salida de Tout, cuya forma es (lhs.dim_size(0), rhs.dim_size(1)). Los datos de salida son los mismos datos de salida originales (no cuantificados).
público estático UniformQuantizedDotHybrid.Options rhsQuantizationAxis (Largo rhsQuantizationAxis)
Parámetros
rhsQuantizationAxis | Indica el índice de dimensión del tensor donde se aplica la cuantificación por eje para los cortes a lo largo de esa dimensión. Si se establece en -1 (predeterminado), indica cuantización por tensor. Para punto op rhs, solo se admite la cuantificación por tensor o la cuantificación por canal a lo largo de la dimensión 1. Por lo tanto, este atributo debe establecerse en -1 o 1. Se rechazan otros valores. |
---|