際際滷

署蛮扮狼双のための侮蚊岳狛殻指｢モデル
及21指繁垢岑嬬僥氏署蛮秤�麪а仂浸�
2018/10/20

2
嘘尚/朕議
? �Lれ�咾��咾��呂離縫紿`ラルネットワ�`ク(侮�嗔Я�)に��鬉垢襯�`ネル�v方の�С�
(Cho and Saul [2009])
? 侮�嗔Я�カ�`ネルを喘いた侮�咼�Ε降^殻指｢モデルの戻宛(Lee et, al.[2018])
?泣容協である(佚�m曝�gなどの�_楕秤�鵑�覆�)
?ハイパ�`パラメ�`タが謹く、�^僥�しやすい
?��隆_�Jが�yしく、モデル曳�^ができない
侮�嗔Я�は��？な蛍勸/タスクで掲械に互い來嬬を�い欧討い襪�∀帯�をはじめ��}泣も謹くある。
侮�嗔Я�のベイズ容�晒、ガウス�^殻で燕�Fするアプロ�`チが廣朕されている。
? �Lれ�咾�g�咾��呂離縫紿`ラルネットワ�`クに��鬉垢襯�`ネル�v方の�С�(Neal [1994])
?僥�に寄楚のデ�`タが駅勣

3
モデルができないこと、逗返なことを尖盾できる。
參貧を未まえて、匯違に騁の搾い署蛮�r狼双デ�`タへの�m喘のため、
侮�咼�Ε降^殻指｢から、侮��t�^殻指｢への��と嗤�塵圓淋u��鯰个Α�
嚠�yに徭佚がない��嚠�y�`餓が寄きい�と
�g�Hに嚠�yも�g�`えやすい
侮�咼�Ε降^殻指｢モデルの鮫�デ�`タ嚠�yに��する嚠�y�`餓(罪�S)と嚠�y娼業(�k�S)
しかも娼業は侮�嗔Я�と揖殻業。
嘘尚/朕議
Lee et, al.[2018]より�i�

アウトライン
嘘尚/朕議
カ�`ネル隈と侮�嗔Я�カ�`ネル
ガウス�^殻とガウス�^殻指｢モデル
t�^殻とt�^殻指｢モデル
�g�^蛍裂
まとめ
?

カ�`ネル隈
5
(?1, ?2, ?3) = (?1
2
, ?2
2
, 2?1 ?2)
蒙翨實gで(坪�eを喘いて)盾裂を佩う!
?(?)
蒙耔艦�
デ�`タ腎�g ? 蒙翨實g ?
より燕�F薦を互めるため、
互肝圷(�o�肝圷)で深えたい。
カ�`ネル?トリック
互肝圷への亟�?をどのように�Qめるか�
掲�侘來のあるデ�`タを互肝圷腎�gへ亟し、�g�な��夛を渇竃。

カ�`ネル隈
6
蒙耔艦颪砲茲辰董�攘eを隔つ蒙翨實g(ヒルベルト腎�g)にデ�`タを亟�し盾裂する
のではなく、蒙羀戰�肇襪猟攘e ? ?? , ? ?? を喘いる。
?1, ´ , ? ? ★ ? ?1 , ´ , ?(? ?)
すると、この坪�eがある訳周(屎協�ﾐ�)を�困燭好�`ネル�v方?を喘いて
互肝圷、�o�肝圷
デ�`タ方蛍の肝圷
��Q?が苧幣議に蛍からなくてもOK�
しかし、カ�`ネルだけ�麻できるような蒙翨實g嶄の楚が謹方ある。
(指｢、PCAなどほとんどのアルゴリズムが�m喘辛嬬)
? ?? , ? ?? = ?(??, ??)
と�麻できる。(Mercerの協尖)
カ�`ネル隈では、カ�`ネル�v方?を�O�することで盾裂を佩う。

侮�嗔Я�カ�`ネル
7
? ?
?, ?＞
= ? ?
2
+ ? ?
2
? ?(? ??1
?, ? , ? ??1
?, ?＞
, ? ??1
?＞
, ?＞
)
哈方を? ? 1�咾離�`ネルとしたとき、試來晒�v方?によって�なる�v方? ?を喘いて燕�Fできる。
? ? ?, ?＞ = ? ?
2
+
? ?
2
2
???1 ?, ? ???1 ?＞, ?＞ (sin ? ??1 + ? ? ? ??1 cos ? ??1)
? ??1 =
? ??1 ?, ?＞
? ??1 ?, ? ? ??1 ?＞, ?＞
? ?は試來晒�v方がReLUの��呂砲碗塹造里茲Δ暴睥�弔��院�
その麿の��呂砲亙�ｵ弔睦�麻できる。
嶄�g�咾�o��ユニット方を隔つ掲�侘�v方(NN)に��鬉靴織�`ネル�v方が贋壓。
�g�咾��; Neal [1994]
謹�咾��; Cho and Saul [2009]

アウトライン
嘘尚/朕議
カ�`ネル隈と侮�嗔Я�カ�`ネル
ガウス�^殻とガウス�^殻指｢モデル
t�^殻とt�^殻指｢モデル
�g�^蛍裂
まとめ
?
?

ガウス�^殻
9
?�_楕�^殻???が、秘薦ベクトルから撹る販吭の嗤�鹿栽 ? = ?1, ´ , ? ?
? に��して、
�v方�､離戰�肇�??? = ??? ?1 , ´ , ??? ? ?
? の蛍下がガウス蛍下であるとき、
ガウス�^殻という。
????の蛍下は、ガウス蛍下であるので、その豚棋�､鰆原┐垢詁従妺v方
? = ? ?1 , ´ , ? ? ?
?
および、慌蛍柊 (カ�`ネル) �v方 ? = (? ?, ? ?) の��? ?? を
勣殆とする慌蛍柊佩双?を峺協するによって頼畠に蒙協できる。これを、
??? ~?(? ? , ?(?, ?0)) と��
★ ? ��のデ�`タを ? 肝圷屎�蛍下として燕�F
★ 屡岑のデ�`タ泣が ? ��あるとき、それらを ? 肝圷屎�蛍下 ?(? ? , ?(?, ?0)) からの
サンプルであると深える。

ガウス�^殻
10
カ�`ネル
�v方
?1 ?2
?1
?2
?1?2
ガウス�^殻のイメ�`ジ(サンプル)
´
´
´
?
‐1／カ�`ネル�v方によって�貌業を�麻
‐2／カ�`ネル�v方を慌蛍柊佩双とする
ガウス蛍下から?のサンプルを誼る
仝除い々デ�`タは貌たような�､鬚箸襦�
?
2
～
��
��
陶
餓
デ�`タ泣が謹いほど、嚠�y�`餓は弌さく、
デ�`タ泣が富ないほど、嚠�y�`餓は寄きい。
余嶄でサンプルの�A�が�笋錣辰��呂��魗苗�
翌�靴��い

11
ガウス�^殻指｢モデル
?? = ??? ?? + ?? ???~?(?(?), ?(?, ?0))
??? + ??~?(? ? , ? ?, ?0 + ?2 ?)
?
???
? ~?
?(?)
?(?)
,
? ?, ? + ?2
? ? ?, ? ?
? ?, ? ? ?, ?
? ???
?
? =
? ???
?
, ?
? ?
~?( ?, Σ)
? = ? ?, ? ? ? ?, ? + ?2 ? ?1 ? ? ? ? + ?(?)
Σ = ? ?, ? ? ? ? ?, ? ? ? ?, ? + ?2 ? ?1 ? ?, ?
??~?(0, ?2)
ガウス�^殻を聞った指｢モデルを深える。
ガウス蛍下の��zみはまたガウス蛍下であるので、
ここで、仟しい�Q�y�� ? = ?1, ´ , ? ?
?が嚥えられたとき、その嚠�y��???
?
= ???
?
(?1), ´ , ???
?
(? ?) ?と
?の揖�r蛍下は、?と?のカ�`ネルを深えることで、壅びガウス�^殻となり、
?の和での嚠�y��???
?
の蛍下は、訳周原き蛍下を�麻することで、
蛍下があるので恷喩隈で容協辛嬬
,

t�^殻
12
メリット:
翌れ�､鮨�]できる。
ガウス�^殻とほぼ揖じ來�|がある
デメリット:
徭喇業のパラメ�`タが��える。
t�^殻ガウス�^殻
?(?, ?) = min(s, t) ;Wiener processの峠譲0のガウス�^殻とt�^殻(徭喇業5)を100サンプル伏撹
? ?, ?, ? =
Γ
? + ?
2
? ? 2 ?
?
2Γ
?
2
det ? ?
1
2 ～ 1 +
? ? ? ?
??1
? ? ?
? ? 2
?
?+?
2
t �^殻とガウス�^殻の�`い
峺方�v方の協�xから
? ★ ±でガウス蛍下へ��
???? ��のデ�`タを ? 肝圷t蛍下として燕�F

13
t�^殻指｢モデル
?? = ??? ?? + ?? ???~?(?, ?(?), ?(?, ?0))
??? + ?? 「 ?(?, ? ? , ? ?, ?0 + ?2 ?)
?
???
? ~? ?,
?(?)
?(?)
,
? ?, ? + ?2
? ? ?, ? ?
? ?, ? ? ?, ?
? ???
?
? =
? ???
?
, ?
? ?
~?( ?, ?, Σ)
? = ? ?, ? ? ? ?, ? + ?2 ? ?1 ? ? ? ? + ?(?)
Σ =
? ? ? ? 2
? ? ? ? 2
? ?, ? ? ? ? ?, ? ? ? ?, ? + ?2 ? ?1 ? ?, ?
??~?(?, 0, ?2)
t�^殻を聞った指｢モデルを深える。
t蛍下の��zみはまたt蛍下にならないが、除貌議に、
ここで、仟しい�Q�y�� ? = ?1, ´ , ? ?
?が嚥えられたとき、その嚠�y��???
?
= ???
?
(?1), ´ , ???
?
(? ?) ?と
?の揖�r蛍下は、?と?のカ�`ネルを深えることで、壅びt�^殻となり、
?の和での嚠�y��???
?
の蛍下は、訳周原き蛍下を�麻することで、(�猟歌孚)
? = ? + ? ? = ? ? ? ?
?
? ?, ? ?? ? ? ? ?
蛍下があるので恷喩隈で容協辛嬬
,

�g�^蛍裂
光忽の幄塀峺方(TPX,S&P,DAX)の埖肝デ�`タを喘いて、侮�咼�Ε降^殻指｢モデルをベンチマ�`クに、
侮��t�^殻指｢モデルの嗤�塵圓魎_�Jする。
14
TPX SPX DAX
定楕リタ�`ン[%] 2.37 7.38 8.15
定楕リスク[%] 18.02 14.24 18.32
浴業 -0.47 -0.82 -0.56
錫業 5.22 6.2 5.69
Jarque-Beta�y�楚 12.94 41.75 23.67
p-��[%] 0.155 0 0.0007
?デ�`タは2018/6挑から岷除12定蛍 (144 サンプル) を聞喘し、うち容協に7護、テストに3護聞喘する。
畠豚�gにおける光峺方の�y�楚
光峺方ともに屎�來を�困燭気覆い燭瓠�t�^殻をあてはめる噫仇がある。
?光峺方の塘輝旋指り、PBR、PER、ROE、12-1 か埖モメンタムを�h苧�篳�箸掘�
呷埖のリタ�`ンを掲�h苧�篳�箸垢襦�

1. 侮�嗔Я�カ�`ネルのハイパ�`パラメ�`タ ??
2
, ? ?
2の兜豚�､� 0.1 とする
2. �Q�yノイズのパラメ�`タ ?2 を 0.005 で嚥える
3. ガウス�^殻、t �^殻をそれぞれ恷喩容協する
4. テストデ�`タを嚠�yする
15
�g�^蛍裂
?�u��砲箸靴謄謄好汎晉gにおけるRMSEとMAEを喘いる。
�Iモデルの醤悶議な容協返�は和�の宥りである。

�g�^蛍裂
16
峺方
Total GP TP GP TP GP TP
RMSE 0.3511 0.2158 1.0357 0.5076 0.2934 0.1134
MAE 0.2914 0.1622 0.891 0.4282 0.2489 0.0808
嚠�y�`餓(寄) GP TP GP TP GP TP
RMSE 0.3561 0.2623 1.3646 0.6856 0.3285 0.139
MAE 0.2937 0.2079 1.3431 0.6674 0.2759 0.1014
嚠�y�`餓(弌) GP TP GP TP GP TP
RMSE 0.3458 0.1524 0.565 0.2343 0.2553 0.08
MAE 0.2892 0.1142 0.4594 0.1999 0.2231 0.0602
TPX SPX DAX
GPはデ�`タの掲屎�來により、�械�､釦颪蕕気譴甚�yを佩うため、
TPよりも娼業が��いのでは。
娼業の蛍裂(1��)
峺方 TPX SPX DAX
Total
RMSE 38.5% 51.0% 61.3%
MAE 44.3% 51.9% 67.5%
嚠�y�`餓(寄)
RMSE 26.3% 49.8% 57.7%
MAE 29.2% 50.3% 63.2%
嚠�y�`餓(弌)
RMSE 55.9% 58.5% 68.7%
MAE 60.5% 56.5% 73.0%
個鋲楕
個鋲楕
個鋲楕

17
�g�^蛍裂
SPXの嚠�y�`餓(Std)とRMSEとの�v�S(橿来:GP、楳来:TP)
?枠佩冩梢揖��に、署蛮デ�`タにおいても
嚠�y�`餓が寄きいほど、
嚠�y娼業が��くなっていることがわかる。
?麿の峺方でも揖��の�A�。

18
�g�^蛍裂
Total 1�� 2�� 3�� 4��
RMSE 0.3511 0.4114 0.3790 0.3893
MAE 0.2914 0.3558 0.3267 0.3354
嚠�y�`餓(寄) 1�� 2�� 3�� 4��
RMSE 0.3561 0.4218 0.3559 0.3867
MAE 0.2937 0.3621 0.3008 0.3311
嚠�y�`餓(弌) 1�� 2�� 3�� 4��
RMSE 0.3458 0.4013 0.3997 0.3918
MAE 0.2892 0.3497 0.3514 0.3396
GP
Total 1�� 2�� 3�� 4��
RMSE 0.2158 0.2222 0.1325 0.1385
MAE 0.1622 0.1651 0.1004 0.1104
嚠�y�`餓(寄) 1�� 2�� 3�� 4��
RMSE 0.2623 0.1619 0.1162 0.1432
MAE 0.2079 0.1238 0.0940 0.1171
嚠�y�`餓(弌) 1�� 2�� 3�� 4��
RMSE 0.1524 0.2674 0.1464 0.1340
MAE 0.1142 0.2045 0.1066 0.1041
TP
GPは�咾�遒�覆辰討眈�箸�追討垢襪箸蕨泙蕕覆ぁ� 匯圭で、TPは�咾�遒�覆襪半�箸�追�A�。
娼業の蛍裂(謹�咫�TPX)

云冩梢では、署蛮�r狼双への鮄辰箸いτQ泣から侮�咼�Ε降^殻指｢モデルを、
t�^殻指｢モデルへの��と�g�^蛍裂を佩った。
19
まとめ
? t �^殻指｢モデルに駅勣となる謹�篩震��兇� t 蛍下の頼畠な�С�
? �g�^蛍裂により侮�� t �^殻指｢モデルの嗤�塵圓隆_�J
? 侮�� t �^殻の嚠�yの音�_�g來と嚠�y娼業の深賀

書瘁の冩梢の圭�來として、
20
まとめ
�g�^議には、
?�咾諒�飯�y娼業との�v�S
?ファクタ�`モデルへの�m喘
?嚠�y�`餓を旋喘した誘�Y�藺�
尖�議には、
?Cauchy�^殻指｢モデルの�篇�。
?Levy�^殻指｢モデルへの��。

際際滷

署蛮扮狼双のための侮蚊岳狛殻指｢モデル

More Related Content

署蛮扮狼双のための侮蚊岳狛殻指｢モデル

Editor's Notes