ディープラーニングのフレームワーク MkFn
ディープラーニングのフレームワークの自作をしています。
Qiitaに紹介の記事を書いていますので、まずそちらを読まれることをおすすめします。
ディープラーニングのフレームワークの自作
このサイトでは補足の説明の資料を上げていますが、今後少しずつ充実させていく予定です。
以下の説明の資料があります。
ディープラーニングの基礎
最急降下法、誤差逆伝播、確率的勾配降下法などディープラーニングの基礎的な説明をしています。
LSTMの例
LSTMの定義をC#のコードで記述する例です。
LSTMの逆伝播の式の導出
LSTMのメモリセルのデルタの逆伝播の式を微分や数式の簡約化を使って導出する例です。
順伝播の式から逆伝播の式の生成
順伝播の式から逆伝播の方程式の生成する方法について説明しています。
この部分がMkFnで最も重要でかつ複雑な部分になります。
ソースコードの生成
CUDAやC++のソースコードを生成する方法について説明しています。
この部分は現在まだデバッグ中です。