Thành phần đường ống BulkInferrer TFX

Thành phần BulkInferrer TFX thực hiện suy luận hàng loạt trên dữ liệu chưa được gắn nhãn. InferenceResult được tạo ( tensorflow_served.apis.prediction_log_pb2.PredictionLog ) chứa các tính năng ban đầu và kết quả dự đoán.

BulkInferrer tiêu thụ:

• Một mô hình được đào tạo ở định dạng SavingModel .
• Các tf.Examples không được gắn nhãn có chứa các tính năng.
• (Tùy chọn) Kết quả xác thực từ thành phần Người đánh giá .

BulkInferrer phát ra:

• Suy luậnKết quả

Sử dụng Thành phần BulkInferrer

Thành phần TFX BulkInferrer được sử dụng để thực hiện suy luận hàng loạt trên các tf.Examples không được gắn nhãn. Nó thường được triển khai sau thành phần Người đánh giá để thực hiện suy luận với một mô hình đã được xác thực hoặc sau thành phần Huấn luyện viên để thực hiện suy luận trực tiếp trên mô hình đã xuất.

Nó hiện đang thực hiện suy luận mô hình trong bộ nhớ và suy luận từ xa. Suy luận từ xa yêu cầu mô hình phải được lưu trữ trên Nền tảng Cloud AI.

Mã điển hình trông như thế này:

bulk_inferrer = BulkInferrer(
    examples=examples_gen.outputs['examples'],
    model=trainer.outputs['model'],
    model_blessing=evaluator.outputs['blessing'],
    data_spec=bulk_inferrer_pb2.DataSpec(),
    model_spec=bulk_inferrer_pb2.ModelSpec()
)

Thông tin chi tiết hơn có sẵn trong tài liệu tham khảo API BulkInferrer .