Il componente BulkInferrer TFX esegue l'inferenza batch su dati senza etichetta. L'InferenceResult generato ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) contiene le funzionalità originali e i risultati della previsione.
BulkInferrer consuma:
- Un modello addestrato in formato SavedModel .
- tf.Esempi senza etichetta che contengono funzionalità.
- (Facoltativo) Risultato della convalida dal componente Evaluator .
BulkInferrer emette:
Utilizzo del componente BulkInferrer
Un componente BulkInferrer TFX viene utilizzato per eseguire l'inferenza batch su tf.Examples senza etichetta. In genere viene distribuito dopo un componente Evaluator per eseguire l'inferenza con un modello convalidato o dopo un componente Trainer per eseguire direttamente l'inferenza sul modello esportato.
Attualmente esegue l'inferenza del modello in memoria e l'inferenza remota. L'inferenza remota richiede che il modello sia ospitato su Cloud AI Platform.
Il codice tipico è simile al seguente:
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Maggiori dettagli sono disponibili nel riferimento API BulkInferrer .