AllToAll

सार्वजनिक अंतिम कक्षा AllToAll

टीपीयू प्रतिकृतियों में डेटा का आदान-प्रदान करने का एक ऑप।

प्रत्येक प्रतिकृति पर, इनपुट को 'स्प्लिट_डाइमेंशन' के साथ 'स्प्लिट_काउंट' ब्लॉक में विभाजित किया जाता है और ग्रुप_असाइनमेंट दिए गए अन्य प्रतिकृतियों को भेजा जाता है। अन्य प्रतिकृतियों से `स्प्लिट_काउंट` - 1 ब्लॉक प्राप्त करने के बाद, हम ब्लॉक को आउटपुट के रूप में `concat_dimension` के साथ जोड़ते हैं।

उदाहरण के लिए, मान लीजिए कि 2 टीपीयू प्रतिकृतियां हैं: प्रतिकृति 0 इनपुट प्राप्त करती है: `[[ए, बी]]` प्रतिकृति 1 इनपुट प्राप्त करती है: `[[सी, डी]]`

समूह_असाइनमेंट=`[[0, 1]]` concat_dimension=0 स्प्लिट_डिमेंशन=1 स्प्लिट_काउंट=2

प्रतिकृति 0 का आउटपुट: `[[ए], [सी]]` प्रतिकृति 1 का आउटपुट: `[[बी], [डी]]`

स्थिरांक

डोरी OP_NAME इस ऑप का नाम, जैसा कि TensorFlow कोर इंजन द्वारा जाना जाता है

सार्वजनिक तरीके

आउटपुट <T>
आउटपुट के रूप में ()
टेंसर का प्रतीकात्मक हैंडल लौटाता है।
स्थिर <T TType > AllToAll <T> का विस्तार करता है
बनाएं ( स्कोप स्कोप, ऑपरेंड <T> इनपुट, ऑपरेंड <TInt32> ग्रुपअसाइनमेंट, लॉन्ग कॉनकैटडिमेंशन, लॉन्ग स्प्लिटडिमेंशन, लॉन्ग स्प्लिटकाउंट)
एक नए AllToAll ऑपरेशन को लपेटकर एक क्लास बनाने की फ़ैक्टरी विधि।
आउटपुट <T>
आउटपुट ()
विनिमय परिणाम.

विरासत में मिली विधियाँ

स्थिरांक

सार्वजनिक स्थैतिक अंतिम स्ट्रिंग OP_NAME

इस ऑप का नाम, जैसा कि TensorFlow कोर इंजन द्वारा जाना जाता है

स्थिर मान: "सभी के लिए"

सार्वजनिक तरीके

सार्वजनिक आउटपुट <T> asOutput ()

टेंसर का प्रतीकात्मक हैंडल लौटाता है।

TensorFlow संचालन के इनपुट किसी अन्य TensorFlow ऑपरेशन के आउटपुट हैं। इस पद्धति का उपयोग एक प्रतीकात्मक हैंडल प्राप्त करने के लिए किया जाता है जो इनपुट की गणना का प्रतिनिधित्व करता है।

सार्वजनिक स्थैतिक AllToAll <T> बनाएं ( स्कोप स्कोप, ऑपरेंड <T> इनपुट, ऑपरेंड <TInt32> ग्रुपअसाइनमेंट, लॉन्ग कॉनकैटडिमेंशन, लॉन्ग स्प्लिटडिमेंशन, लॉन्ग स्प्लिटकाउंट)

एक नए AllToAll ऑपरेशन को लपेटकर एक क्लास बनाने की फ़ैक्टरी विधि।

पैरामीटर
दायरा वर्तमान दायरा
इनपुट योग के लिए स्थानीय इनपुट.
समूह कार्य [num_groups, num_replications_per_group] आकार वाला एक int32 टेंसर। `group_assignment[i]` ith उपसमूह में प्रतिकृति आईडी का प्रतिनिधित्व करता है।
concatआयाम संयोजित करने के लिए आयाम संख्या.
विभाजन आयाम विभाजित करने के लिए आयाम संख्या.
स्प्लिटकाउंट विभाजनों की संख्या, यह संख्या उप-समूह आकार के बराबर होनी चाहिए(group_assignment.get_shape()[1])
रिटर्न
  • AllToAll का एक नया उदाहरण

सार्वजनिक आउटपुट <T> आउटपुट ()

विनिमय परिणाम.