機械学習の社会実装では、予測精度が高くても、機械学習がブラックボックであるために使うことができないということがよく起きます。
このスライドでは機械学習が不得意な予測結果の根拠を示すために考案されたLIMEの論文を解説します。
Ribeiro, Marco Tulio, Sameer Singh, and Carlos Guestrin. "" Why should i trust you?" Explaining the predictions of any classifier." Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining. 2016.
ゼロから始める深層強化学習(NLP2018講演資料)/ Introduction of Deep Reinforcement LearningPreferred Networks
?
Introduction of Deep Reinforcement Learning, which was presented at domestic NLP conference.
言語処理学会第24回年次大会(NLP2018) での講演資料です。
http://www.anlp.jp/nlp2018/#tutorial
This document discusses methods for automated machine learning (AutoML) and optimization of hyperparameters. It focuses on accelerating the Nelder-Mead method for hyperparameter optimization using predictive parallel evaluation. Specifically, it proposes using a Gaussian process to model the objective function and perform predictive evaluations in parallel to reduce the number of actual function evaluations needed by the Nelder-Mead method. The results show this approach reduces evaluations by 49-63% compared to baseline methods.
機械学習の社会実装では、予測精度が高くても、機械学習がブラックボックであるために使うことができないということがよく起きます。
このスライドでは機械学習が不得意な予測結果の根拠を示すために考案されたLIMEの論文を解説します。
Ribeiro, Marco Tulio, Sameer Singh, and Carlos Guestrin. "" Why should i trust you?" Explaining the predictions of any classifier." Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining. 2016.
ゼロから始める深層強化学習(NLP2018講演資料)/ Introduction of Deep Reinforcement LearningPreferred Networks
?
Introduction of Deep Reinforcement Learning, which was presented at domestic NLP conference.
言語処理学会第24回年次大会(NLP2018) での講演資料です。
http://www.anlp.jp/nlp2018/#tutorial
This document discusses methods for automated machine learning (AutoML) and optimization of hyperparameters. It focuses on accelerating the Nelder-Mead method for hyperparameter optimization using predictive parallel evaluation. Specifically, it proposes using a Gaussian process to model the objective function and perform predictive evaluations in parallel to reduce the number of actual function evaluations needed by the Nelder-Mead method. The results show this approach reduces evaluations by 49-63% compared to baseline methods.
Latent factor models for Collaborative Filteringsscdotopen
?
The document discusses latent factor models for collaborative filtering. It describes how latent factor models (1) map both users and items to a latent factor space to characterize them, (2) approximate ratings as the dot product of user and item vectors, and (3) can be used to predict unknown ratings. It also covers techniques like stochastic gradient descent and alternating least squares for training latent factor models on explicit and implicit feedback data.
JP Chaosmap 2015-2016
Japanese Digital Advertising Landscape, in 2015-2016.
※本資料は作者の所属企業や、所属企業の取引関係を示すものではありません
※皆様の幅広いビジネスシーンに使って頂くべく公開しておりますので加筆、再利用などは自由にして頂いて構いませんが、あくまで本家はLUMAscapeであることをご理解頂き、ご活用くださいますようお願い申し上げます
狠狠撸s of the paper http://arxiv.org/abs/1505.04637
source code is available at https://github.com/albahnsen/CostSensitiveClassification/blob/master/costcla/models/cost_tree.py#L15
Abstract:
Several real-world classification problems are example-dependent cost-sensitive in nature, where the costs due to misclassification vary between examples and not only within classes. However, standard classification methods do not take these costs into account, and assume a constant cost of misclassification errors. In previous works, some methods that take into account the financial costs into the training of different algorithms have been proposed, with the example-dependent cost-sensitive decision tree algorithm being the one that gives the highest savings. In this paper we propose a new framework of ensembles of example-dependent cost-sensitive decision-trees. The framework consists in creating different example-dependent cost-sensitive decision trees on random subsamples of the training set, and then combining them using three different combination approaches. Moreover, we propose two new cost-sensitive combination approaches; cost-sensitive weighted voting and cost-sensitive stacking, the latter being based on the cost-sensitive logistic regression method. Finally, using five different databases, from four real-world applications: credit card fraud detection, churn modeling, credit scoring and direct marketing, we evaluate the proposed method against state-of-the-art example-dependent cost-sensitive techniques, namely, cost-proportionate sampling, Bayes minimum risk and cost-sensitive decision trees. The results show that the proposed algorithms have better results for all databases, in the sense of higher savings.
34. Aliceが好む映画はどれ?
タイトル ジャンル 監督 主演俳優 年
アバター SF J. キャメロン S. ワーシントン 2009
ジュラシック?パーク SF S. スピルバーグ S. ニール 1993
ターミネータ― SF J. キャメロン A. シュワルツェネッガー 1984
ハリー?ポッター ファン
タジー
C. コロンバス D. ラドクリフ 2001
マイノリティ?リポート SF S. スピルバーグ T. クルーズ 2002
ロード?オブ?
ザ?リング
ファン
タジー
P. ジャクソン E. ウッド 2001
映画データベース
35. Aliceが好む映画はどれ?
タイトル ジャンル 監督 主演俳優 年
アバター SF J. キャメロン S. ワーシントン 2009
ジュラシック?パーク SF S. スピルバーグ S. ニール 1993
ターミネータ― SF J. キャメロン A. シュワルツェネッガー 1984
ハリー?ポッター ファン
タジー
C. コロンバス D. ラドクリフ 2001
マイノリティ?リポート SF S. スピルバーグ T. クルーズ 2002
ロード?オブ?
ザ?リング
ファン
タジー
P. ジャクソン E. ウッド 2001
映画データベース
Aliceのユーザプロファイル
タイトル ジャンル 監督 主演俳優 年
- SF J. キャメロン - -
アイテムの特徴と
ユーザプロファイルとのマッチング
39. アイテムの特徴ベクトル表現
酸味
苦味
0 1
1
a
b c
def
g
h i
j
k
記号 名前 酸味 苦味
a エメラルドマウンテン 0.6 0.5
b キリマンジャロ 0.6 0.6
c グァテマラ 0.8 0.6
d ケニア 1 0.4
e コナ 0.8 0.4
f ジャワ 0.2 0.4
g トラジャ 0.4 0.6
h ブラジル 0.4 0.3
i ブルーマウンテン 0.6 0.3
j マンデリン 0.4 0.8
k モカ 0.9 0.3
コーヒーデータベース
特徴空間
j = (0.4, 0.8)
2次元空間の場合
?つのアイテムを?つのベクトルで表現
45. Support Vector Machine (SVM) による予測
45
a
c
def
g
i
好きなコーヒー
嫌いなコーヒー
特徴空間上で,好きなアイテムと嫌いなアイテムを
最もよく分離する識別平?を?つける
46. Support Vector Machine (SVM) による予測
46
a
c
def
g
i
好きなコーヒー
嫌いなコーヒー
識別平?からどちら側に配置されるかにより,
未評価アイテムへの嗜好を予測
最適な識別平?
b
h
j
k
コーヒーb, jは
嫌うだろう
コーヒーkは
好むだろう
好きな領域
嫌いな領域
71. コンテキスト適応推薦方式 [Adomavicius+ 11]
71
データ
U × I × C × R
コンテキスト適応
データ
U × I × R
推薦システム
U × I → R
コンテキスト適応
推薦候補
i1, i2, i3, ...
データ
U × I × C × R
データ
U × I × C × R
推薦システム
U × I → R
コンテキスト統合
推薦システム
U × I × C → R
コンテキスト適応
推薦候補
i1, i2, i3, ...
コンテキスト適応
推薦候補
i1, i2, i3, ...
推薦候補
i1, i2, i3, ...
コンテキスト
事前フィルタリング
コンテキスト
事後フィルタリング
コンテキスト
統合モデリング
c
u
c
u
c
u
73. 協調型位置情報推薦 [Ye+ 11]
73
位置情報
友人リンク
? 位置d, eに訪れた?は,位置fにも訪れています
? 友?のBobは,位置bにも訪れています
? 興味のある地域の近くでは,位置cがお薦めです
Carolの推薦例
Alice Bob Carol Dave
ee
aa
bb
dd
cc
f
チェックイン
ユーザ
80. 発?性を考慮した協調フィルタリング
[Hijikata+ 09]
80
aa bb cc
Alice 5 ? ?
Bob 3 1 2
Carol 4 3 4
ユーザ-アイテム評価値?列
既知 ? 1 / 未知 ? 0
aa bb cc
Alice 1 0 ?
Bob 1 0 0
Carol 0 1 1
ユーザ-アイテム既知/未知?列
知らないかつ好みのアイテムを予測
85. 参考?献
? G. Adomavicius, B. Mobasher, F. Ricci, and A. Tuzhilin. Context-aware recommender systems. AI Magazine,
32(3), 2011.
? S. Berkovsky and J. Freyne, “Group-based recipe recommendations: analysis of data aggregation strategies,”
in Proceedings of the fourth ACM conference on Recommender systems, 2010, pp. 111–118.
? H. Gao, J. Tang, X. Hu, and H. Liu, “Exploring temporal effects for location recommendation on location-based
social networks,” in Proceedings of the seventh ACM conference on Recommender systems, 2013, pp. 93–100.
? M. Ge, C. Delgado-Battenfeld, and D. Jannach, “Beyond accuracy: evaluating recommender systems by
coverage and serendipity,” in Proceedings of the fourth ACM conference on Recommender systems, 2010, pp.
257–260.
? Y. Hijikata, T. Shimizu, and S. Nishida, “Discovery-oriented collaborative filtering for improving user
satisfaction,” in Proceedings of the 14th international conference on Intelligent user interfaces, 2009, pp. 67–
76.
? J. L. Herlocker, J. A. Konstan, L. G. Terveen, and J. T. Riedl, “Evaluating collaborative filtering recommender
systems,” ACM Trans. Inf. Syst., vol. 22, no. 1, pp. 5–53, 2004.
? G. Linden, B. Smith, and J. York, “Amazon.com Recommendations: Item-to-Item Collaborative Filtering,” IEEE
Internet Computing, 2003.
? T. Murakami, K. Mori, and R. Orihara, “Metrics for evaluating the serendipity of recommendation lists,” New
Front. Artif. Intell. Lect. Notes Comput. Sci., vol. 4914/2008, pp. 40–46, 2008.
? P. Pu and L. Chen, “A User-Centric Evaluation Framework for Recommender Systems,” in Proceedings of the
fifth ACM conference on Recommender systems, 2011, pp. 157–164.
? P. Resnick and H. R. Varian, “Recommender systems,” Commun. ACM, vol. 40, no. 3, pp. 56–58, 1997.
? M. Ye, P. Yin, W. C. Lee, and D. L. Lee, “Exploiting geographical influence for collaborative point-of-interest
recommendation,” in Proceedings of the 34th international ACM SIGIR conference on Research and
development in Information, 2011, pp. 325–334.
? 奥健太 & 服部?夫: セレンディピティ指向情報推薦のためのフュージョンベース推薦システム, 知能と情報(日本知能情
報ファジィ学会誌)- 特集:WebインテリジェンスとインタラクションII -, Vol.25, No.1, pp.524-539, 2013.
85