tensorflow :: ops :: SparseApplyProximalAdagrad

bookmark_border Mantenha tudo organizado com as coleções Salve e categorize o conteúdo com base nas suas preferências.

Entradas de atualização esparsas em '* var' e '* acum' de acordo com o algoritmo FOBOS.

Resumo

Isso é para linhas para as quais temos grad, atualizamos var e acum da seguinte forma: $$accum += grad * grad$$ $$prox_v = var$$ $$prox_v -= lr * grad * (1 / sqrt(accum))$$ $$var = sign(prox_v)/(1+lr*l2) * max{|prox_v|-lr*l1,0}$$

Argumentos:

• escopo: um objeto Scope
• var: deve ser de uma variável ().
• acum: deve ser de uma variável ().
• lr: Taxa de aprendizagem. Deve ser um escalar.
• l1: regularização de L1. Deve ser um escalar.
• l2: regularização de L2. Deve ser um escalar.
• grad: O gradiente.
• índices: Um vetor de índices na primeira dimensão de var e de acum.

Atributos opcionais (consulte Attrs ):

• use_locking: Se True, a atualização dos tensores var e Accum será protegida por um bloqueio; caso contrário, o comportamento é indefinido, mas pode exibir menos contenção.

Retorna:

• Output : igual a "var".

Atributos públicos

Operation operation

::tensorflow::Output out

 SparseApplyProximalAdagrad(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input accum,
  ::tensorflow::Input lr,
  ::tensorflow::Input l1,
  ::tensorflow::Input l2,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices
)

 SparseApplyProximalAdagrad(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input accum,
  ::tensorflow::Input lr,
  ::tensorflow::Input l1,
  ::tensorflow::Input l2,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  const SparseApplyProximalAdagrad::Attrs & attrs
)

::tensorflow::Node * node() const 

 operator::tensorflow::Input() const 

 operator::tensorflow::Output() const 

Attrs UseLocking(
  bool x
)