QuantizeDownAndShrinkRange

কোয়ান্টাইজড 'ইনপুট' টেনসরকে নিম্ন-নির্ভুলতা 'আউটপুটে' রূপান্তর করুন, ব্যবহার করে

নিম্ন বিট গভীরতার ব্যবহার সর্বাধিক করার জন্য মানগুলির প্রকৃত বন্টন এবং সেই অনুযায়ী আউটপুট ন্যূনতম এবং সর্বোচ্চ পরিসীমা সামঞ্জস্য করা।

[input_min, input_max] হল স্কেলার ফ্লোট যা 'ইনপুট' ডেটার ফ্লোট ব্যাখ্যার জন্য পরিসীমা নির্দিষ্ট করে। উদাহরণস্বরূপ, যদি input_min হয় -1.0f এবং input_max হয় 1.0f, এবং আমরা quint16 কোয়ান্টাইজড ডেটা নিয়ে কাজ করছি, তাহলে 16-বিট ডেটার একটি 0 মানকে -1.0f হিসাবে ব্যাখ্যা করা উচিত এবং একটি 65535 মানে 1.0f।

এই অপারেটর ডেটাতে পাওয়া প্রকৃত ন্যূনতম এবং সর্বোচ্চ মানগুলি গণনা করে একটি কম বিট গভীরতা সহ একটি আউটপুটে যতটা সম্ভব নির্ভুলতা চাপানোর চেষ্টা করে। উদাহরণস্বরূপ, হতে পারে সেই quint16 ইনপুটটির কোনো মান 16,384-এর কম নয় এবং 49,152-এর চেয়ে বেশি নয়। তার মানে আসলে মাত্র অর্ধেক পরিসর প্রয়োজন, সমস্ত ফ্লোট ব্যাখ্যা -0.5f এবং 0.5f এর মধ্যে, তাই আমরা যদি ডেটাকে একটি কুইন্ট8 আউটপুটে সংকুচিত করতে চাই, আমরা তাত্ত্বিক -1.0f থেকে 1.0 এর পরিবর্তে সেই পরিসরটি ব্যবহার করতে পারি f যেটি ইনপুট মিন এবং সর্বোচ্চ দ্বারা প্রস্তাবিত।

অনুশীলনে, এটি QuantizedMatMul-এর মতো ক্রিয়াকলাপ থেকে আউটপুট নেওয়ার জন্য সবচেয়ে কার্যকর যা তাদের ইনপুটগুলির চেয়ে উচ্চতর বিট-গভীর আউটপুট তৈরি করতে পারে এবং বড় সম্ভাব্য আউটপুট রেঞ্জ থাকতে পারে, তবে বাস্তবে ইনপুট মানগুলির একটি বন্টন রয়েছে যা শুধুমাত্র একটি ছোট ভগ্নাংশ ব্যবহার করে। সম্ভাব্য পরিসীমা। এই অপারেটরে সেই আউটপুটটি খাওয়ানোর মাধ্যমে, আমরা ন্যূনতম নির্ভুলতার ক্ষতি সহ এটিকে 32 বিট থেকে 8-এ কমাতে পারি।