텐서플로:: 피복재:: AspiredVersionsManager:: 옵션
#include <aspired_versions_manager.h>
구성 옵션과에 의해 사용되는 플러그 객체 AspiredVersionsManager .
요약
공개 속성 | |
---|---|
aspired_version_policy | std::unique_ptr< AspiredVersionPolicy > AspiredVersionPolicy은 관리자에 사용할. null이 아니어야 합니다. |
env = Env::Default() | Env * 스레드 풀에서 스레드를 시작하거나 잠자기 위해 사용할 환경입니다. |
flush_filesystem_caches = false | bool |
load_retry_interval_micros = 1LL * 60 * 1000 * 1000 | int64 각 제공 가능한 로드 재시도 사이의 간격(마이크로초)입니다. |
manage_state_interval_micros = 100 * 1000 | int64 servable의 상태를 관리하는 스레드의 주기(마이크로초)입니다. |
max_num_load_retries = 5 | uint32 첫 번째 실패 후 포기하기 전에 서블릿 로드를 재시도하는 최대 횟수입니다. |
num_load_threads = 0 | uint32 servable을 로드하는 데 사용되는 스레드 풀의 스레드 수입니다. |
num_unload_threads = 0 | uint32 servable을 언로드하는 데 사용되는 스레드 풀의 스레드 수입니다. |
pre_load_hook | PreLoadHook servable이 로드되기 직전에 호출될 콜백입니다. |
resource_tracker | std::unique_ptr< ResourceTracker > 제공 가능한 리소스를 관리하는 동안 사용할 리소스 추적기. |
servable_event_bus = nullptr | EventBus< ServableState > * EventBus는 제공 가능한 상태 변경 사항을 게시합니다. |
공개 속성
spired_version_policy
std::unique_ptr< AspiredVersionPolicy > tensorflow::serving::AspiredVersionsManager::Options::aspired_version_policy
AspiredVersionPolicy은 관리자에 사용할. null이 아니어야 합니다.
환경
Env * tensorflow::serving::AspiredVersionsManager::Options::env = Env::Default()
스레드 풀에서 스레드를 시작하거나 잠자기 위해 사용할 환경입니다.
플러시_파일시스템_캐시
bool tensorflow::serving::AspiredVersionsManager::Options::flush_filesystem_caches = false
load_retry_interval_micros
int64 tensorflow::serving::AspiredVersionsManager::Options::load_retry_interval_micros = 1LL * 60 * 1000 * 1000
각 제공 가능한 로드 재시도 사이의 간격(마이크로초)입니다.
음수로 설정하면 기다리지 않습니다. 기본값: 1분.
관리_상태_간격_마이크로
int64 tensorflow::serving::AspiredVersionsManager::Options::manage_state_interval_micros = 100 * 1000
servable의 상태를 관리하는 스레드의 주기(마이크로초)입니다.
기본값: 100밀리초. 이 값이 0보다 작거나 같으면 이 스레드를 전혀 실행하지 않습니다.
max_num_load_retries
uint32 tensorflow::serving::AspiredVersionsManager::Options::max_num_load_retries = 5
첫 번째 실패 후 포기하기 전에 서블릿 로드를 재시도하는 최대 횟수입니다.
num_load_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_load_threads = 0
servable을 로드하는 데 사용되는 스레드 풀의 스레드 수입니다.
0으로 설정하면 스레드 풀을 사용하지 않고 관리자의 기본 작업 루프에서 서빙 가능한 로드가 직렬로 수행됩니다.
num_unload_threads
uint32 tensorflow::serving::AspiredVersionsManager::Options::num_unload_threads = 0
servable을 언로드하는 데 사용되는 스레드 풀의 스레드 수입니다.
0으로 설정하면 스레드 풀을 사용하지 않고 관리자의 기본 작업 루프에서 서빙 가능한 언로드가 순차적으로 수행됩니다.
pre_load_hook
PreLoadHook tensorflow::serving::AspiredVersionsManager::Options::pre_load_hook
servable이 로드되기 직전에 호출될 콜백입니다.
이것은 로드를 시작하는 동일한 관리자 로드 스레드에서 호출됩니다.
resource_tracker
std::unique_ptr< ResourceTracker > tensorflow::serving::AspiredVersionsManager::Options::resource_tracker
제공 가능한 리소스를 관리하는 동안 사용할 리소스 추적기.
선택 과목. nullptr로 남겨두면 제공 가능한 리소스 사용량을 검증하지 않습니다.
servable_event_bus
EventBus< ServableState > * tensorflow::serving::AspiredVersionsManager::Options::servable_event_bus = nullptr
EventBus는 제공 가능한 상태 변경 사항을 게시합니다.
이것은 선택 사항이며 설정하지 않으면 게시하지 않습니다.