際際滷

際際滷Share a Scribd company logo
1
拍~圻IT藺墹仂針
http://akibalab.info/
勸弥匯
2015.8.8 奨脅OSC
Apache Sparkでつぶやきビッグデ`タ
クロ`ンをつくってみた
1. 徭失B初 勸弥匯
2
Github:
https://github.com/AKB428
Twitter:
https://twitter.com/n428dev
Qiita:
http://qiita.com/AKB428
Hatena:
http://akb428.hatenablog.com/
Junichi Noda Larry Wall
3
◎これが恬りたい
2014 7埖22晩 NHK
Sparkについて
? HadoopのMapReduceとはeアプロ`チ(DAG)でのK双蛍柊鹿I尖を佩う
? インメモリ`I尖
? 2015定6埖11晩に 1.4.0 がリリ`ス。
https://spark.apache.org/releases/spark-release-1-4-0.html
? 1.4.0でSparkRが弖紗(R冱ZでSparkを旋喘できる
? APIを旋喘できる冱ZはScala, Java, Python
4
SparkR
5
? Twitterストリ`ムからデ`タを函誼する。
? Twitter Streaming APIを聞う。
? 400の碧キ`ワ`ドが峺協辛嬬。
? Spark Streamingでリアルタイム鹿を佩う。
6
7
? 晩云Z猟嫗をgZにわけて蛍盾して鹿
? 晩云Zを蛍盾するため侘B殆盾裂ライブラリ
kuromojiを聞う。
? アニメ恬瞳など粉にないgZはユ`ザ`看
(CSV)を喘吭。
侘B殆盾裂ライブラリの駅勣來について
8
ユ`ザ`看の駅勣來について
9
10
鮫中デモ岷除5蛍を扱崋
(F1)2015定3豚 TVアニメ http://tv-anime.xyz/5/
(F1)ラブライブ http://tv-anime.biz/5/
(F2)ラブライブ http://lovelive-net.com/5/
(F2)拍~圻 http://akiba-net.com/5/
(F2)v|TV桑M http://telev.net/5/
F1=ユ`ザ`看に鞠hしてあるgZのみ鹿
F2=ユ`ザ`看翌のgZも鹿
11
12
鮫中デモ岷除60蛍を扱崋
(F1)2015定3豚 TVアニメ http://tv-anime.xyz/60/
(F1)ラブライブ http://tv-anime.biz/60/
(F2)ラブライブ http://lovelive-net.com/60/
(F2)拍~圻 http://akiba-net.com/60/
(F2)v|TV桑M http://telev.net/60/
F1=ユ`ザ`看に鞠hしてあるgZのみ鹿
F2=ユ`ザ`看翌のgZも鹿
2015定7埖22晩
7埖22晩 ラブライブ 文匹砲 Q伏晩
13
14
2015定7埖22晩
^肇のキャプチャ 書豚(2015/歪豚)のアニメ
15
デモ坤螢灰瓮鵐Twitterボット
https://twitter.com/Akihabaara_itso
https://twitter.com/AuctionMadoka
16
gHの喇
17
18
奨脅OSC喘 つぶやきビックデ`タ
碧ハッシュタグ 仝#osckansai々
http://2045.tokyo/5/
http://2045.tokyo/60/
☆URLの坪否は8/8輝晩のみ
奨脅OSC喘になります
8/8 ?12:00
19
8/8 12:24?
20
8/8 13:20
21
8/8 15:10
22
8/8 15:20
23
8/8 15:40
24
8/8 16:10
25
26
溺徨寄伏挫きおっさんしかいない???
┫瑤譯
貌たような湖じでIT狼のイベントの輝晩に
SNSの腹り貧がりを議にy燕幣する
ことがgにできます。
頁掲肝指參週のOSCや麿のITイベント、オ
タク狼イベントでイベント婢幣の匣唱モニ
タなどに燕幣して嗤浸醵辰靴討ださい。
齢OSSです。
27
Mikasaインスト`ルについて
インスト`ルマニュアル
https://gist.github.com/AKB428/c30bc6a979e05fa3a022
? TwitterAPIとAmazonAPIのアカウントがあれば1rgでセット
アップ頼阻。
? AmazonAPIアカウントはリコメンドしない栽は音勣。
? TwitterAPIのアカウント函誼も10蛍殻業で辛嬬。
Mikasa OL
https://github.com/AKB428/mikasa_ol
Mikasa RS
https://github.com/AKB428/mikasa_rs
28
Sparkについて?恷除の秤
? 2015定6埖15晩 IBMが_k宀と冩梢宀を3500繁SparkvBプロ
ジェクトに誘秘 http://japan.zdnet.com/article/35065964/
? 2015定 6埖15?17晩 Spark summit 2015 _岸 (サンフランシスコ)
? NTTデ`タ芙が協豚議に茶氏をg仏
? 忽坪のサ`ビスg箭は富ない
? 2寄Hadoopディストリビュ`ション CDHとHDPにはSparkが喜
d
? Spark1.4からはUIでモニタリングも佩えるようになった。
http://qiita.com/AKB428/items/71900eecdf2350e1e45f
29
歌深猟彌B初-1
仝Scala剃哈きレシピ々
? 麿冱ZUY宀でScalaが兜伉宀の圭におXめ、秤
鵑睾造靴、Playフレ`ムワ`クやSBTのh苧も
N源。
30
歌深猟彌B初-2
仝Learning Spark々
? Sparkのコ`ディングはこれをiめば尖盾辛嬬。
? 哂Z兜伉宀でもかなりiみやすい云なのでおX
め。書定晩云Z晒されるらしい。
31
32
ご賠ありがとうございました

More Related Content

Apache sparkて?つふ?やきヒ?ック?テ?`タ クロ`ンをつくってみた