深層学習

RNN と LSTM の解析ノート

深層学習数学統計

RNN の勾配消失を微分形式を使って簡単に解析的に概算し， LSTM や GRU がいかにしてこの問題を解消するかを見る．ついでに residual net も．