RNNの特性は次の通りです。 勾配消失問題はニューラルネットワーク全般的な問題です。 ネットワークが深くなるにつれて、損失関数の勾配が消失する問題です。 一方で、重み衝突問題はRNN(時間を取り扱うネットワーク)特有の問題です。内容は、過去の ...