बल्कइन्फरर टीएफएक्स घटक बिना लेबल वाले डेटा पर बैच अनुमान लगाता है। उत्पन्न InferenceResult ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) में मूल विशेषताएं और भविष्यवाणी परिणाम शामिल हैं।
बल्कइन्फररर उपभोग करता है:
- सेव्डमॉडल प्रारूप में एक प्रशिक्षित मॉडल।
- बिना लेबल वाले tf.उदाहरण जिनमें विशेषताएं शामिल हैं।
- (वैकल्पिक) मूल्यांकनकर्ता घटक से सत्यापन परिणाम।
बल्कइंफ़रर उत्सर्जित करता है:
बल्कइन्फररर घटक का उपयोग करना
एक बल्कइन्फरर टीएफएक्स घटक का उपयोग बिना लेबल वाले tf.Examples पर बैच अनुमान लगाने के लिए किया जाता है। इसे आम तौर पर एक मान्य मॉडल के साथ अनुमान लगाने के लिए एक मूल्यांकनकर्ता घटक के बाद, या निर्यातित मॉडल पर सीधे अनुमान लगाने के लिए एक ट्रेनर घटक के बाद तैनात किया जाता है।
यह वर्तमान में इन-मेमोरी मॉडल अनुमान और रिमोट अनुमान निष्पादित करता है। रिमोट अनुमान के लिए मॉडल को क्लाउड एआई प्लेटफॉर्म पर होस्ट करना आवश्यक है।
विशिष्ट कोड इस तरह दिखता है:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
अधिक विवरण बल्कइन्फररर एपीआई संदर्भ में उपलब्ध हैं।