Komponent BulkInferrer TFX wykonuje wnioskowanie wsadowe na danych bez etykiet. Wygenerowany wynik InferenceResult( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) zawiera oryginalne funkcje i wyniki przewidywań.
BulkInferrer zużywa:
- Wyszkolony model w formacie SavedModel .
- Bez etykiety tf. Przykłady zawierające funkcje.
- (Opcjonalnie) Wynik walidacji z komponentu Evaluator .
BulkInferrer emituje:
Korzystanie ze składnika BulkInferrer
Komponent BulkInferrer TFX służy do wykonywania wnioskowania wsadowego na nieoznakowanych plikach tf.Examples. Zwykle jest wdrażany po komponencie ewaluacyjnym w celu przeprowadzenia wnioskowania na podstawie zweryfikowanego modelu lub po komponencie Trainer w celu bezpośredniego wnioskowania na temat wyeksportowanego modelu.
Obecnie wykonuje wnioskowanie o modelu w pamięci i wnioskowanie zdalne. Zdalne wnioskowanie wymaga, aby model był hostowany na platformie Cloud AI.
Typowy kod wygląda następująco:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Więcej szczegółów można znaleźć w dokumentacji interfejsu API BulkInferrer .