LSTMBlockCell

يحسب الانتشار الأمامي لخلية LSTM لخطوة زمنية واحدة.

يستخدم هذا التنفيذ مصفوفة وزن واحدة ومتجه انحياز واحد، كما يوجد اتصال ثقب الباب الاختياري.

تنفذ عملية النواة هذه المعادلات الرياضية التالية:

xh = [x, h_prev]
 [i, f, ci, o] = xh * w + b
 f = f + forget_bias
 
 if not use_peephole:
   wci = wcf = wco = 0
 
 i = sigmoid(cs_prev * wci + i)
 f = sigmoid(cs_prev * wcf + f)
 ci = tanh(ci)
 
 cs = ci .* i + cs_prev .* f
 cs = clip(cs, cell_clip)
 
 o = sigmoid(cs * wco + o)
 co = tanh(cs)
 h = co .* o