![トレーニングデータをクラス別に分割
> # トレーニングデータ読込
> train <- read.csv("train.csv")
> # トレーニングデータをクラス別に分割
> for (i in 0:9){
+
assign(paste("train", i, sep=""), subset(train, train$label==i)[-1])
+ }](https://image.slidesharecdn.com/tokyor36lt-140222032532-phpapp02/85/TokyoR-36-LT-R-6-320.jpg)
![1.532557e-16
特異値分解
? クラスごとに相関行列の固有値と固有ベクトルを求める
> # クラス0のデータ行列を特異値分解
> svd0 <- svd(t(train0))
> # 固有ベクトルが正規直交基底を成していることを確認
> svd0$u[,1] %*% svd0$u[,1]
[,1]
[1,]
1
> svd0$u[,1] %*% svd0$u[,2]
[,1]
[1,] 1.532557e-16
> # 固有ベクトルが行ベクトルになるように転置してCSV出力
> write.csv(t(svd0$u), file = "svd0.csv", row.names=F)](https://image.slidesharecdn.com/tokyor36lt-140222032532-phpapp02/85/TokyoR-36-LT-R-7-320.jpg)
TokyoR 第36回LT Rで部分空間法
- 1. Rで部分空間法 2014/2/22(土) TokyoR #36 LT @Prunus1350
- 3. 搁でやってみる
- 5. 使用するデータ ? データマイニングコンペティションサイトKaggleのDigit Recognizer ? 28 × 28 のマス目に 0~255 の諧調で 書かれた手書き文字を「0」から 「9」のクラスに識別する。
- 6. トレーニングデータをクラス別に分割 > # トレーニングデータ読込 > train <- read.csv("train.csv") > # トレーニングデータをクラス別に分割 > for (i in 0:9){ + assign(paste("train", i, sep=""), subset(train, train$label==i)[-1]) + }
- 7. 1.532557e-16 特異値分解 ? クラスごとに相関行列の固有値と固有ベクトルを求める > # クラス0のデータ行列を特異値分解 > svd0 <- svd(t(train0)) > # 固有ベクトルが正規直交基底を成していることを確認 > svd0$u[,1] %*% svd0$u[,1] [,1] [1,] 1 > svd0$u[,1] %*% svd0$u[,2] [,1] [1,] 1.532557e-16 > # 固有ベクトルが行ベクトルになるように転置してCSV出力 > write.csv(t(svd0$u), file = "svd0.csv", row.names=F)
- 11. 各クラスの部分空間の次元を決める ? ? 番目のクラスに属する入力ベクトルをクラス ? の部分空間に正射影し たときの長さの期待値がクラス間で同程度になるように、各クラスの 部分空間の次元を決める。 ? 具体的な方法としては、各部分空間に共通なパラメータ ? を導入し、 大きい方から並べた固有値の累積値が ? を超えたときの次元数をその 部分空間の次元とする。 ? クラス 0 の固有値を大きい順にプロットしたもの ? データのバラつきのほとんどは低次元空間に収 まっていることが分かる
- 12. こうなった。。。 クラス 次元数 0 2 1 784 2 8 3 8 4 58 5 77 6 9 7 31 8 8 9 27 ? クラス 1 は全次元足し合わせても ? データ、バラついて無さ過ぎ… ? に達せず
- 13. テストデータの識別をしてみる ? 識別規則は、入力ベクトル ? を各クラスの部分空間に射影し、射影後 のベクトルの長さが一番長いクラスに所属すると判定するというもの。 ? 射影後のベクトルの長さは、クラス ? の射影行列 使用して ? ? ? ? ? となる。 ? ? ? ? ：クラス ? の部分空間の次元 ? ?? ：クラス ? の部分空間の? 番目の固有ベクトル ? 識別クラス = arg max ? ? ? ?? ? ? = 0, ? , 9 ?? = ?? ?=1 ? ?? ? ?? ? を
- 15. ご清聴ありがとうございました。