Le composant BulkInferrer TFX effectue une inférence par lots sur des données non étiquetées. L'InferenceResult généré ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) contient les fonctionnalités d'origine et les résultats de prédiction.
BulkInferrer consomme :
- Un modèle entraîné au format SavedModel .
- TF sans étiquette. Exemples contenant des fonctionnalités.
- (Facultatif) Résultat de validation du composant Évaluateur .
BulkInferrer émet :
Utilisation du composant BulkInferrer
Un composant BulkInferrer TFX est utilisé pour effectuer une inférence par lots sur des tf.Examples non étiquetés. Il est généralement déployé après un composant Evaluator pour effectuer une inférence avec un modèle validé, ou après un composant Trainer pour effectuer directement une inférence sur un modèle exporté.
Il effectue actuellement une inférence de modèle en mémoire et une inférence à distance. L'inférence à distance nécessite que le modèle soit hébergé sur Cloud AI Platform.
Le code typique ressemble à ceci :
bulk_inferrer = BulkInferrer(
examples=examples_gen.outputs['examples'],
model=trainer.outputs['model'],
model_blessing=evaluator.outputs['blessing'],
data_spec=bulk_inferrer_pb2.DataSpec(),
model_spec=bulk_inferrer_pb2.ModelSpec()
)
Plus de détails sont disponibles dans la référence de l'API BulkInferrer .