부동 텐서 'lhs'와 양자화 텐서 'rhs'의 하이브리드 양자화 도트를 수행합니다.
float 'lhs'와 양자화된 'rhs'가 주어지면 내부적으로 'lhs'에 대해 양자화를 수행한 다음 양자화된 lhs 및 'rhs'에 대해 양자화된 점을 수행합니다. 'lhs'의 내부 양자화는 qint8, 동적 범위, 배치당(축 0을 따른 축당), 비대칭 및 좁은 범위가 아닌(범위는 [-128, 127]) 양자화입니다. `lhs` 및 `rhs`는 2D 텐서여야 하며 lhs.dim_size(1)는 rhs.dim_size(0)와 일치해야 합니다. `rhs`는 양자화된 Tensor여야 합니다. 여기서 해당 데이터 값은 다음 공식을 사용하여 양자화됩니다: 퀀타이즈_데이터 = 클립(원래_데이터 / 스케일 + 제로_포인트, 퀀타이즈_최소_발, 퀀타이즈_최대_발).
중첩 클래스
수업 | 균일QuantizedDotHybrid.Options | UniformQuantizedDotHybrid 의 선택적 속성 |
공개 방법
출력 <V> | 출력 () 텐서의 기호 핸들을 반환합니다. |
static <V는 Number를 확장하고, T는 Number를 확장하고, U> 균일QuantizedDotHybrid <V> | |
출력 <V> | 출력 () 모양이 (lhs.dim_size(0), rhs.dim_size(1))인 Tout의 출력 2D 텐서입니다. |
정적 UniformQuantizedDotHybrid.Options | rhsQuantizationAxis (긴 rhsQuantizationAxis) |
상속된 메서드
공개 방법
공개 출력 <V> asOutput ()
텐서의 기호 핸들을 반환합니다.
TensorFlow 작업에 대한 입력은 다른 TensorFlow 작업의 출력입니다. 이 메서드는 입력 계산을 나타내는 기호 핸들을 얻는 데 사용됩니다.
public staticUniformQuantizedDotHybrid <V> create ( Scope 범위, Operand <T> lhs, Operand <U> rhs, Operand <Float> rhsScales, Operand <Integer> rhsZeroPoints, Class<V> Tout, Long rhsQuantizationMinVal, Long rhsQuantizationMaxVal, Options.. . 옵션)
새로운UniformQuantizedDotHybrid 작업을 래핑하는 클래스를 생성하는 팩토리 메서드입니다.
매개변수
범위 | 현재 범위 |
---|---|
ㅋㅋㅋ | Tlhs의 2D 텐서여야 합니다. |
rhs | Trhs의 2D 텐서여야 합니다. |
rhsScale | rhs가 나타내는 원본 데이터를 양자화할 때 스케일로 사용되는 부동 소수점 값입니다. 스칼라 텐서(텐서별 양자화) 또는 크기의 1D 텐서(rhs.dim_size(1),)(채널별 양자화)여야 합니다. |
rhsZeroPoints | rhs가 나타내는 원본 데이터를 양자화할 때 zero_point로 사용되는 int32 값입니다. rhs_scales와 동일한 모양 조건. |
암표 장수 | 출력 텐서의 유형입니다. |
rhs양자화MinVal | rhs에 저장된 양자화된 데이터의 최소값입니다. 예를 들어, Trhs가 qint8인 경우 좁은 범위가 양자화되면 -127로 설정되어야 하고, 그렇지 않으면 -128로 설정되어야 합니다. |
rhsQuantizationMaxVal | rhs에 저장된 양자화된 데이터의 최대값입니다. 예를 들어, Trhs가 qint8인 경우 127로 설정해야 합니다. |
옵션 | 선택적 속성 값을 전달합니다. |
보고
- 균일한 QuantizedDotHybrid의 새로운 인스턴스
공개 출력 <V> 출력 ()
모양이 (lhs.dim_size(0), rhs.dim_size(1))인 Tout의 출력 2D 텐서입니다. 출력 데이터는 원래의 출력 데이터 자체입니다(양자화되지 않음).
공개 정적 균일 QuantizedDotHybrid.Options rhsQuantizationAxis (Long rhsQuantizationAxis)
매개변수
rhs양자화축 | 해당 차원에 따른 조각에 축당 양자화가 적용되는 텐서의 차원 인덱스를 나타냅니다. -1(기본값)로 설정하면 텐서별 양자화를 나타냅니다. 도트 연산의 경우 차원 1에 따른 텐서별 양자화 또는 채널별 양자화만 지원됩니다. 따라서 이 속성은 -1 또는 1로 설정되어야 합니다. 다른 값은 거부됩니다. |
---|