Quantize

مثال على وضع MIN_COMBINED

افترض أن الإدخال من النوع float وله نطاق محتمل يبلغ [0.0، 6.0] ونوع الإخراج هو quint8 ([0، 255]). يجب تحديد قيم min_range وmax_range على أنها 0.0 و6.0. سيؤدي القياس الكمي من التعويم إلى quint8 إلى مضاعفة كل قيمة من المدخلات بمقدار 255/6 وإحالتها إلى quint8.

إذا كان نوع الإخراج هو qint8 ([-128، 127])، فستعمل العملية أيضًا على طرح كل قيمة بمقدار 128 قبل الإرسال، بحيث يتماشى نطاق القيم مع نطاق qint8.

إذا كان الوضع هو "MIN_FIRST"، فسيتم استخدام هذا الأسلوب:

num_discrete_values = 1 << (# of bits in T)
 range_adjust = num_discrete_values / (num_discrete_values - 1)
 range = (range_max - range_min) * range_adjust
 range_scale = num_discrete_values / range
 quantized = round(input * range_scale) - round(range_min * range_scale) +
   numeric_limits<T>::min()
 quantized = max(quantized, numeric_limits<T>::min())
 quantized = min(quantized, numeric_limits<T>::max())
 

مثال على وضع مقياس الحجم

يتطابق وضع `SCALED` مع أسلوب التكميم المستخدم في `QuantizeAndDequantize{V2|V3}`.

إذا كان الوضع `SCALED`، فسيتم إجراء القياس الكمي عن طريق ضرب كل قيمة إدخال في عامل القياس. يتم تحديد عامل القياس من `min_range` و`max_range` ليكون أكبر حجم ممكن بحيث يمكن تمثيل النطاق من `min_range` إلى `max_range` ضمن قيم من النوع T.

const int min_T = std::numeric_limits<T>::min();
   const int max_T = std::numeric_limits<T>::max();
   const float max_float = std::numeric_limits<float>::max();
 
   const float scale_factor_from_min_side =
       (min_T * min_range > 0) ? min_T / min_range : max_float;
   const float scale_factor_from_max_side =
       (max_T * max_range > 0) ? max_T / max_range : max_float;
 
   const float scale_factor = std::min(scale_factor_from_min_side,
                                       scale_factor_from_max_side);
 

min_range = min_T / scale_factor;
       max_range = max_T / scale_factor;
 

لذلك سنقوم بقياس قيم المدخلات في النطاق (-10، 9.921875) إلى (-128، 127).

يمكن الآن قياس موتر الإدخال عن طريق قص القيم إلى النطاق "min_range" إلى "max_range"، ثم الضرب في عامل القياس كما يلي:

result = round(min(max_range, max(min_range, input)) * scale_factor)
 

سمة النطاق الضيق (منطقي).

إذا كان هذا صحيحا، فإننا لا نستخدم الحد الأدنى من القيمة الكمية. على سبيل المثال، بالنسبة للإخراج الكمي int8، فإنه سيقتصر على النطاق -127..127 بدلاً من النطاق الكامل -128..127. يتم توفير ذلك للتوافق مع بعض الواجهات الخلفية للاستدلال. (ينطبق فقط على وضع SCALED)

سمة المحور (int).

يمكن لسمة "المحور" الاختيارية تحديد فهرس البعد لموتر الإدخال، بحيث سيتم حساب نطاقات التكميم وتطبيقها بشكل منفصل على كل شريحة من الموتر على طول هذا البعد. وهذا مفيد للتكميم لكل قناة.

إذا تم تحديد المحور، min_range وmax_range

إذا كان `المحور`=لا شيء، فسيتم إجراء التكميم لكل موتر كالمعتاد.

سمة ضمان_الحد الأدنى_للنطاق (العائم).

يضمن أن الحد الأدنى لنطاق التكميم هو هذه القيمة على الأقل. القيمة الافتراضية القديمة لهذا هي 0.01، ولكن يُقترح بشدة تعيينها على 0 للاستخدامات الجديدة.