![先行研究：連続時間ニューラルネットモデル
5
飛び越えて伝播
ResNet [He+, 2016]
連続化
ランダムネスの導入
Neural ODE [Chen+, 2018, NeurIPS]
Neural SDE [Liu+, 2019+]
?(??)
??
??+1 = ?? + ?(??)
???
??
= ?(?, ??)
???
??
= ? ?, ?? + ??
+
? ネットワーク構造を
常微分方程式 (ODE) で記述できる．
? ODEのソルバーを使うことで
計算量?メモリの削減が可能．
? ネットワーク構造を
確率微分方程式 (SDE) で記述できる．
? SDEのソルバーを使うことで
計算量?メモリの削減が可能．
問題点：標準Brown運動では金融時系列の複雑性を再現するのに不十分．
本研究：ノイズを非整数階Brown運動へ一般化した．](https://image.slidesharecdn.com/sigfinhayashiv2-220314105906/85/Sigfin-Neural-Fractional-SDE-NET-5-320.jpg)
Sigfin Neural Fractional SDE NET
- 1. Neural Fractional SDE-Netによる 金融時系列生成 1 2022.3.12 第28回 人工知能学会 金融情報学研究会（SIG-FIN） 林晃平1*，中川慧2 1 東京大学大学院数理科学研究科 2 野村アセットマネジメント株式会社
- 2. 発表内容 ? 研究背景 - ニューラルネットワークによる金融時系列生成 - 連続時間ニューラルネットモデル（ODE-Net, SDE-Net） ? 提案手法： - 時系列データの長記憶性，非整数階Brown運動 - Neural Fractional SDE-Netの導入 ? 生成結果（人工データ，実データ） ? まとめと展望 2
- 3. 発表内容 ? 研究背景 - ニューラルネットワークによる金融時系列生成 - 連続時間ニューラルネットモデル（ODE-Net, SDE-Net） ? 提案手法： - 時系列データの長記憶性，非整数階Brown運動 - Neural Fractional SDE-Netの導入 ? 生成結果（人工データ，実データ） ? まとめと展望 3
- 4. ニューラルネットワークによる金融時系列生成 目的：株価や為替などの金融時系列データを人工的に生成． 4 金融時系列の特徴： ? パスは1本のみ． ? 離散データ． ? 観測値は不規則にサンプリングされる． （金融データの観測は営業日のみ．） ? ランダムネスを持つ． ? 複雑性 -> 予測の困難さ （長期記憶性，短期間でのラフさ，etc.） 深層学習の活用： ? ニューラルネットワーク（NN）は関数を表現できる：?? = ?NN ?, ?0 ． ? 時系列の背後にある構造（漸化式）を学習し，予測や生成を行いたい． 図：金融時系列の例 NNで金融時系列を生成する際の問題点： 不規則にサンプリングされ，ランダムネス?複雑性を持つ． -> 時間一様かつ決定論的なモデルでは学習が困難な場合がある．
- 5. 先行研究：連続時間ニューラルネットモデル 5 飛び越えて伝播 ResNet [He+, 2016] 連続化 ランダムネスの導入 Neural ODE [Chen+, 2018, NeurIPS] Neural SDE [Liu+, 2019+] ?(??) ?? ??+1 = ?? + ?(??) ??? ?? = ?(?, ??) ??? ?? = ? ?, ?? + ?? + ? ネットワーク構造を 常微分方程式 (ODE) で記述できる． ? ODEのソルバーを使うことで 計算量?メモリの削減が可能． ? ネットワーク構造を 確率微分方程式 (SDE) で記述できる． ? SDEのソルバーを使うことで 計算量?メモリの削減が可能． 問題点：標準Brown運動では金融時系列の複雑性を再現するのに不十分． 本研究：ノイズを非整数階Brown運動へ一般化した．
- 6. 発表内容 ? 研究背景 - ニューラルネットワークによる金融時系列生成 - 連続時間ニューラルネットモデル（ODE-Net, SDE-Net） ? 提案手法： - 時系列データの長記憶性，非整数階Brown運動 - Neural Fractional SDE-Netの導入 ? 生成結果（人工データ，実データ） ? まとめと展望 6
- 7. 時系列の長期記憶性と非整数階Brown運動 定義：? ∈ 0,1 ：Hurst指数． Var(?? ? ? ?? ? ) = ? ? ? 2? を満たす平均ゼロの連続ガウス過程 ?? ? ?≥0を非整数階Brown運動（fractional Brownian motion, fBm）という． ? ? = 1/2のとき標準Brown運動となる． ? ? ≠ 1/2のときセミマルチンゲールでない．Hurst指数が小さいほどパスの正則性は低い． ? 数理ファイナンスと関連：裁定取引の存在，パスのラフさ． ? ? > 1/2のとき，fBmの増分は長期記憶性を持つ． ここで，確率過程{??}?≥0に対し，その増分??,? = ?? ? ??が長期記憶性を持つとは次が成り立つこと： ? ?∈? Cov ?0,?, ? ??1 ?,?? = ∞, ?? > 0. ? 金融データや自然言語などの時系列に対し長期記憶性が観測されている． ? SDE-Netの拡張としてfBm (H>1/2) で駆動されるニューラルネット (fSDE-Net) を考え，長期記憶性を持 つパスを生成する． 7 H=0.25 H=0.5 H=0.75 図：非整数階Brown運動 (fBm) のサンプルパスの例
- 8. Neural Fractional SDE-Netの導入 ? 前提：時系列データ? = {??}?∈ 0,? が次の確率微分方程式に従うと仮定． ??? = ? ?, ?? ?? + ? ?, ?? ??? ? , ? > 1/2. 輸送項?，拡散項?はパラメータ?のニューラルネットワークで与える． ? ネットワーク設計：Multi-layer perceptron (MLP) ??+1 = tanh ???? + ?? , ? = 1, … ? ? 数値計算スキーム：陽的Euler法 ?(?+1)/? ? = ??/? ? + ? ??/? ? 1 ? + ? ??/? ? (?(?+1)/? ? ? ??/? ? ) を解き，?? ? = ? ?? /? ? , 0 ≤ ? ≤ ?と定義する． ? fSDE-Netにより時系列 ? ?? ? ?≥0 を生成し，対数尤度を最大化するように パラメータ?を最適化． ? ? = 1 ? ? ?=0 ? log ??(?, log(??+1/??)) . ここで，??は対数リターンlog( ? ??+1 ? / ? ?? ? )の確率密度関数． 8 主定理：? > 1/2と仮定する．上記のfSDE-Netの生成器は一意解を持ち，更に 陽的Euler法により数値的に解くことができる．
- 9. 発表内容 ? 研究背景 - ニューラルネットワークによる金融時系列生成 - 連続時間ニューラルネットモデル（ODE-Net, SDE-Net） ? 提案手法： - 時系列データの長記憶性，非整数階Brown運動 - Neural Fractional SDE-Netの導入 ? 生成結果（人工データ，実データ） ? まとめと展望 9
- 10. 数値実験 実験設定：次の2種類のデータに対し，fSDE-Netによる生成を行う． ? 人工データ：fractional Ornstein-Uhlenbeck（fOU）過程 ??? = ????? + ???? ? ただし，? = ?0.05, ? = 0.1, ? = 0.9とする． ? = 0.9のfSDE-Netで生成を行う． ? 実データ：S&P500指数の終値（2000.1-2021.11）． R/S統計量によるこの観測区間でのHurst指数の推定値は0.591(>0.5)． ? = 0.6のfSDE-Netで生成を行う． 10 fOU SPX
- 11. 実験結果 ? RNN，SDE-Netで生成したデータとの比較を表に示す（太字は最良値）． ? Hurst指数についてはfSDE-Netが最良となった． ? 決定係数の低さは予測の難しさを示している． 11 Original SDE-Net fSDE-Net 図：生成したfOUのサンプルパスの例
- 12. まとめ ? 複雑性を持つ金融時系列を生成するため，金融市場のデータと関連の深 い非整数階Brown運動（fBm）を用いた生成モデルを提案した． ? ? > 1/2の場合について，数値解法の精度保障を行った． ? fSDE-Netによる生成データは，Hurst指数で評価したときの長期記憶性を うまく再現していた． 展望 ? 短期間観測ではパスがラフであり，? < 1/2の場合が重要． ? ?1 > 1/2, ?2 < 1/2として，多次元モデルへの拡張： ??? = ? ?? ?? + ?1 ?? ??? ?1 + ?2 ?? ??? ?2 ? 多資産の場合に対応するため，次元削減．(cf. 潜在空間モデル) ご清聴ありがとうございました． 12