実現したいこと
タイトルの通りです。
畳み込みフィルタは更新するべきかどうか知りたいです。
発生している問題・分からないこと
CNN(Convolution neural network)の(主に誤差逆伝播法などを使った)パラメータ更新についてです。
参考書やインターネットで私が調べた限り、パラメータ更新を行うのはConvolution層からではなく全結合層からという内容しかありませんでした。全結合層では入力データと同じ数(例えばMNIST手書き数字データセットなら784、畳み込み層で処理を行った後ならそれ以下)の要素数を持った重みパラメータの勾配を求めて更新を行いますが、この重みパラメータって初期値は入力データに依存しませんよね?(もし重みパラメータの初期値がランダムではなく特定の値に設定したほうがいいということも知っていたらそれも教えてください)
Convolution層で使用するフィルタの初期値も入力データに依存しないと思うのですが、このフィルタの更新を行うという過程は、私が読んだ参考書などには載っていませんでした。
結局のところ、畳み込みフィルタ(Convolution層でストライド走法で入力データにかけるフィルタ)も更新を行わなければいけないのでしょうか?
該当のソースコード
特になし
試したこと・調べたこと
上記の詳細・結果
全結合層でパラメータの更新を行うことしか書かれていなかった。
補足
特になし
0 コメント