DeNAの機械学習・深層学習活用した体験提供の挑戦

Copyright (C) 2016 DeNA Co.,Ltd. All Rights Reserved.
Experience Design 2016 SPRING
- Data × Design -
DeNAの
機械学習・深層学習活用した
体験提供の挑戦
株式会社ディー・エヌ・エー
濱田晃一

2
AGENDA
◆DeNAのサービス
◆講師紹介
◆最後に
◆深層学習の進展
◆深層学習活用した体験提供
◆機械学習活用した体験提供の挑戦
◆機械学習活用したサービス開発
◆はじめに
◆機械学習活用した体験提供

3
AGENDA
◆講師紹介
◆最後に
◆はじめに

4
講師
2010年6月
Mobageプラットフォーム全体の
データマイニング・機械学習活用したサービス開発・洗練
2011年4月～
濱田晃一 (@hamadakoichi)
・執筆：Mobageを支える技術
DeNA入社
ソーシャルゲームのデータマイニングチーム立上げ
Analytics Architect
DeNA全サービスの
データマイニング・機械学習活用したサービス開発・洗練
2014年10月～
・DeNA全サービスを対象とした大規模機械学習活用したサービス開発
・博士 : 量子統計場の理論 (理論物理)
・TokyoWebmining 主催者
- 機械学習の実活用コミュニティ。登録人数 1400人超。
- 6年継続、累積53回開催
- 体験設計から、分散学習アルゴリズムの設計・実装まで

5
AGENDA
◆講師紹介
◆最後に
◆はじめに

6
個性
感性創作
に寄りそう
ユーザーひとりひとりの感性・創作
体験提供

7
何の数値？

8
3.8倍

9
※注意) DeNA実績: 表示位置等、同一表示条件での比較数値。
同一条件表示での
インストール数
ユーザーひとりひとりに体験最適化
効果数値例
３.８倍

10
興味にあったゲームに出会い楽しめるレコメンド
行動・反応から興味を学習。使えば使うほど推薦内容が洗練されていく
自分の興味にあい楽しみ継続利用する確率が高いゲーム
・各ユーザごとに、各レコメンド表示に
対する反応から興味を強化学習
自分がはまっているゲーム
User Reaction Log
Personalized Data
for Each User
Impression
Game Play Install
user_id, recdata
・ゲームプレイ特徴、ゲームインストー
ル特徴、インストール後継プレイ特徴、
の条件付き確率構造を学習
・各ユーザーごとに、プレイ特徴に応じ
た、各ゲームの継続利用確率を算出
分散処理: 機械学習
Click
Install
プレイ・継続特徴学習
リアクション学習
Play Continuity
after install

11
ゲーム
(Mobage)
ニュース
(Mobage)
友達
（Mobage）
アニメ・マンガ・ゲーム・声優・ラノベ情報
（ハッカドール）
マンガ
（マンガボックス）
健康情報
（KenCoM）
提供例

12
個性
感性
に寄りそう
ユーザーひとりひとりの感性
体験提供

13
感性
どのサングラスが
スタイル・テイストが似たアイテムか？

14
感性

15
感性

16
感性に関する体験提供の挑戦例
スタイル・テイストが似ている商品にたくさん出会える
ファッションを楽しむ自由度を上げる
商品スタイル・テイスト類似商品
・距離算出に適した空間を構成できる構造追加した、Convolutional Neural Networkの学習
・商品に関係しない領域に引きずられず、スタイル・テイストが似ている商品を算出
「商品を着用したモデル画像」「商品画像」区別なく、類似商品算出
ファッションのスタイル・テイストが似ているものを算出

17
実際のアプリ画面動画
スタイル・テイストが似ている商品をたどれる
「商品を着用したモデル画像」「商品画像」区別なく
類似スタイル・テイストの商品をたどれる

18
個性
創作
に寄りそう
ユーザーひとりひとりの創作
体験提供

19
創作
本物のアバターアイテムはどれか？

20
創作

21
創作
本物アイテム

22
創作
深層学習により生成されたアイテム本物アイテム

23
創作に関する体験提供の挑戦例
アバターアイテム画像の構造を学習
世界に存在しない新たなアバターアイテム画像を生成する
Deep
Generative 
Model
学習
アバターアイテム
生成
新たなアバターアイテム

24
アバターアイテムの合成生成
ユーザーひとりひとりが世界に１つしかない自分だけのアバター生成
アイテム１アイテム2合成生成されたアイテム

25
新たな価値ある体験提供の
ポテンシャルを持っている
機械学習

26
本日は
実際の機械学習活用した
体験提供の挑戦
に関し、お話しします

27
AGENDA
◆講師紹介
◆最後に
◆はじめに

28

広告
Eコマースゲーム
コミュニケーション
スポーツ
エンターテインメント
オートモーティブキュレーション
ヘルスケア
DeNAの事業ポートフォリオ
29

30
50億超/Day
（2TB/Day）
数千万人月間利用ユーザー
ユーザ行動

１日50億超の行動情報
統計的有意な結果を
多くのユーザー体験へ還元
数千万人
１日50億超アクション
31

統計的有意
機械学習の
結果の統計的有意性
数千万人
32

統計的有意多くの人へ還元
機械学習の
結果の統計的有意性
多くのユーザー体験へ
還元できる
数千万人
33

AGENDA
◆講師紹介
◆最後に
◆はじめに

個性
感性創作
に寄りそう
体験提供

提供
Social Graph
Data Mining
Machine Learning
ClusteringPatternMining
Classification Regression Recommendation
of Fun
Social
Experience
TimeSeriesAnalysis StatisticalAnalysis
Detailed Actions
Social Communications
Changes of Status
NaturalLanguageProcessing ..etc
Personality ..etc
活動・ソーシャル情報の活用により
ひとりひとりそれぞれの興味・つながりにあった
より適切な情報・サービスの提供
37

提供
Social Graph
Data Mining
Machine Learning
ClusteringPatternMining
Classification Regression Recommendation
of Fun
Social
Experience
TimeSeriesAnalysis StatisticalAnalysis
Detailed Actions
Social Communications
Changes of Status
NaturalLanguageProcessing ..etc
Personality ..etc
活動・ソーシャル情報の活用により
ひとりひとりそれぞれの興味・つながりにあった
より適切な情報・サービスの提供
自ら探さなくてもそれらを得ることができる世界を実現したい
38

ユーザーひとりひとりにあった体験提供例
39
ゲーム
(Mobage)
ニュース
(Mobage)
友達
（Mobage）
マンガ
健康情報
（KenCoM）

ユーザーひとりひとりにあった体験提供例
40
ゲーム
(Mobage)
ニュース
(Mobage)
友達
（Mobage）
マンガ
健康情報
（KenCoM）

体験提供例
日々サービスを利用しているだけで
ユーザひとりひとりが
41

興味にあったゲームに出会え
親しい人と一緒に楽しめる情報・機会の提供
体験提供例
42

親しい人と一緒に楽しめる情報・機会の提供
体験提供例
数千万人ひとりひとりに対し学習・算出し
サービス提供する
43

体験提供例
各ユーザーに対し興味・サービス横断で親しいユーザを学習・算出
サービスを使えば使うほど内容が洗練されていく
興味のあるゲームに出会う親しい人と一緒に楽しむ
友達を増やし一緒にゲーム・
ココミュニティを楽しむ
（個別の学習、及び、ユーザ状況に応じたアルゴリズム自体の組合せ・選択）
44

45
体験提供例

46
親しい仲間と複数ゲームを楽しめる
体験提供例

47
User
体験提供例

48
User
興味興味興味
体験提供例

49
User
興味興味
User
興味
体験提供例

50
User
興味
親しさ
興味
User
興味
体験提供例

51
User
興味
親しさ
興味
User
興味興味
体験提供例

Social
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
興味にあったゲームに出会え、親しい仲間と複数ゲームを楽しめる
52
PF
Friend
Game
Friend
体験提供例

Social
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
興味にあったゲームを
楽しめる
Interests
興味にあった
ゲームに出会う機会提供する
（興味軸でのゲームとの出会い）
PF
Friend
Game
Friend
体験提供例
53

Social
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
楽しめる
Interests
興味にあった
54
PF
Friend
Game
Friend
体験提供例

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
親しいユーザと
一緒に楽しめる
楽しめる
Interests
興味にあった
親しいユーザが楽しんでいる
ゲームに出会う機会を提供する
（親しいユーザ軸でのゲームとの出会い）
55
Familiarities
体験提供例

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
楽しめる
Interests Familiarities
興味にあった
56
体験提供例

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
楽しめる
興味にあった
57
体験提供例

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
楽しめる
興味にあった
58
体験提供例

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
楽しめる
興味にあった
59
親しいユーザが
増える
興味があうユーザと
出会い・親しくなれる
機会を提供する（友
達推薦・コミュニケー
ション推薦、等）
体験提供例

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
楽しめる
興味にあった
60
増える
体験提供例

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
楽しめる
Interests
興味にあった
増える
Familiarities
61
体験提供例

Social
PF
Friend
Game
Friend
Game
Communication
FriendCommunication
PF
Communication
PF
Activity
Game
Activity
Game
Impression
Game
Click
Game
Install
User
Impression
User
Click
AttentionActivity
楽しめる
Interests
興味にあった
増える
Familiarities
体験提供例

64
興味にあったゲームに出会い楽しむ
提供体験例

パーソナルレコメンデーション例
・各ユーザごとに、各レコメンドに対す
る反応から興味を学習（強化学習）
User Reaction Log
Personalized Data
for Each User
Impression
Game Play Install
user_id, recdata
Click
Install
プレイ・継続特徴学習、利用継続確率
Play Continuity
after install
65

解決した課題
66

解決する課題
既存の全員一様の表示では、ゲーム枠・表示数を追加しても
インストール数は伸びていない
デモグラセグメントごとに
全員一様のゲームを
40game以上
表示ゲーム数を増やしても
インストール数は
全く伸びなかった
67

解決する課題
ユーザーがインストールしないゲームを表示し続け
他ゲームでのインストール機会を失っている
68

解決する課題
ユーザーがインストールしないゲームを表示し続け
他ゲームでのインストール機会を失っている
ユーザそれぞれが興味ないゲームは
何度みてもやっぱり興味ない
69

課題解決
・ユーザーがインストールしないゲームを表
示し続け、他ゲームでのインストール機会
を失っている
行動学習リアクション学習
課題
行動特徴・リアクション特徴の学習による Personal Recommendation
ユーザごとにInstall・利用継続確率最大のゲームを理由をつけ推薦する
・全員一様のゲーム表示では、枠どうしで
奪いあうだけで、全体インストール数は増
加していない
Personal Recommendation
・ユーザーごとに表示ゲームのリアク
ション学習(強化学習)。キューザごと
により興味あり、リアクションしやすい
ゲームを表示
・ユーザごとに各行動履歴から、各
ゲームの開始・利用継続の確率の確
率を算出。
※各ゲームがなぜ推薦されているか
の理由も合わせて表示
解決
70

Bayesian Network
複数の事象の発生確率のネットワーク
⇒ ある事象が起こったとき、発生確率・期待値が最大となる事象を算出できる
Aが起こったら、Bが起こる確率：P(B|A)
例：
　SG Play⇒SG Install：
　　事象A　　　　　　　　事象B
　　・怪盗 Play　　 ⇒ バルキリーズInstall
　　・ラグナ Play　　 ⇒ アヴァロン Install
　 SG Play⇒SG Install & 利用継続：
　　・ガンロワ Play　⇒ GCC Install & 利用継続
　　・ Play　　⇒ GCC Install & 利用継続
A
B
C
D
E
F
G
H
I
J
K
…
P(E|A)
P(F|A)
P(H|E)
※入門資料：Personal Recommendation と Bayesian Network
http://www.slideshare.net/hamadakoichi/ss-4113135
http://www.slideshare.net/hamadakoichi/ss-4552939・Bayesian Network入門　　　　　：
・Personal Recommendation入門：
確率ネットワーク： Bayesian Network
71

処理概要
各ユーザ行動とインストール・利用継続の Bayesian Networkとリアクション強化学習
インストール・利用継続期待値が最大化となるゲームを推薦する
①全ユーザのアクション履歴から、
　「各アクションとGame Yを Installし利用継続、確率ネットワーク」を算出
②個々のユーザのアクション
imp
③Reaction学習からの興味算出Probability
= ProbabilityByAction x ProbabilityByReaction
例：行動特徴からのInstall 確率算出による算出
Probabilityの高い順に表示
user Title Ac-on
12345678 Game A プレイ 30
12345678 Game B プレイ 10
12345678 News Topic X 閲覧 30
user Title Interest
12345678 ガンロワ 0.8
12345678 バハムー
ト
0.2
A
B
C
D
E
F
G
H
I
J
Game Install Y
…
P(E|A)
P(F|A)
P(H|E)
Y1
Y2
72

パーソナルレコメンデーション例
・各ユーザごとに、各レコメンドに対す
る反応から興味を学習（強化学習）
User Reaction Log
Personalized Data
for Each User
Impression
Game Play Install
user_id, recdata
Click
Install
プレイ・継続特徴学習、利用継続確率
Play Continuity
after install
73

28.2
25.8
16.4
11.7
6.7
5.1 4.94 4.82
3.57
3.08
0.0
5.0
10.0
15.0
20.0
25.0
30.0
2010
(NEC)
2011
(Xerox)
2012
(AlexNet)
2013
(Clarifai)
2014
(GoogleNet)
Human Arxiv
2015/2/6
(PReLU-Net)
Arxiv
2015/3/2
(BN-
IncepNon)
2015
(ResNet)
Arxiv
2016/2/23
(IncepNon-
ResNet)
ILSVRC top-5 Classiﬁca7on Error on ImageNet
深層学習の認識能力は人を超えている
Deep Learning の進展
ImageNet Large Scale Visual Recognition Challenge(ILSVRC)
画像認識の世界コンテスト、画像を1,000物体カテゴリに判別
2015年2月に Deep Neural Network が人の判別精度を超えた
http://www.image-net.org/challenges/LSVRC/

150層をこえる深い Neural Network
Deep Learning の進展
http://research.microsoft.com/en-us/um/people/kahe/ilsvrc15/ilsvrc2015_deep_residual_learning_kaiminghe.pdf
76

認識だけではなく
知能的なタスクも解かれ始めている

認識だけではなく
知能的なタスクも解かれ始めている
新たな体験提供の可能性が
拡がっている

画像の見出し文生成
Image Caption Generation with Visual Attention(Xu+2015)
Kelvin Xu, Jimmy Ba, Ryan Kiros, Kyunghyun Cho, Aaron
Courville, Ruslan Salakhutdinov, Richard Zemel, Yoshua
Bengio.
Show, Attend and Tell: Neural Image Caption Generation with
Visual Attention.
arXiv:1502.03044. In ICML 2015.

画像とテキストの表現ベクトル空間の学習
画像とテキストの演算
Semantic Embeddings with Multimodal Neural LM(Kiros+2014)
Ryan Kiros, Ruslan Salakhutdinov, Richard S.
Zemel.
Unifying Visual Semantic Embeddings with
Multimodal Neural Language Models.
arXiv:1411.2539. In TACL 2015.
80

Generating Images from Captions with Attention(Mansimov+2015)
Elman Mansimov, Emilio Parisotto, Jimmy Lei Ba,
Ruslan Salakhutdinov.
Generating Images from Captions with Attention.
arXiv:1511.02793. In ICLR 2016.
見出し文からの画像生成
81

画像に対する質問応答
Image Question Answering （Ma+2015, Noh+2015)
Lin Ma, Zhengdong Lu, Hang Li.
Learning to Answer Questions From Image Using
Convolutional Neural Network.
arXiv:1506.00333. In AAAI 2016.
Hyeonwoo Noh, Paul Hongsuck Seo, Bohyung Han.
Image Question Answering using Convolutional Neural Network with
Dynamic Parameter Prediction. arXiv:1511.05756. In CVPR 2016. 82

画像に対する質問応答
Image Question Answering with Attention（Ren+2015,Chen+2015)
Zichao Yang, Xiaodong He, Jianfeng Gao, Li Deng, Alex
Smola. Stacked Attention Networks for Image Question
Answering. arXiv:1511.02274.
Kan Chen, Jiang
Wang, Liang-Chieh
Chen, Haoyuan Gao,
Wei Xu, Ram
Nevatia.
ABC-CNN: An
Attention Based
Convolutional Neural
Network for Visual
Question Answering.
arXiv:1511.05960.
83

複数文に対する質問応答
End-To-End Memory Networks(Sukhbaatar+2015)
Sainbayar Sukhbaatar, Arthur Szlam,
Jason Weston, Rob Fergus.
End-To-End Memory Networks.
arXiv:1503.08895. In NIPS 2015.
84

文の表現ベクトル空間の学習・キャラクター性変換
Skip Thought Vector/Neural Story Teller(Kryros+2015)
R. Kiros, Y. Zhu, R. Salakhutdinov, R. S. Zemel, A. Torralba, R. Urtasun, S. Fidler.
Skip-Thought Vectors.
arXiv:1506.06726. In NIPS 2015.
画像からロマンティックノベル風の文章生成
Captions
Skip Thought
(ST) Vectors
RNN
Decoder
- Mean of ST vectors from COCOS
+ Mean of ST vectors from Romance Novels
output
Romantic
Novels
https://medium.com/@samim/generating-stories-about-images-d163ba41e4ed
Neural Story Teller: https://github.com/ryankiros/neural-storyteller
85

対話
Neural Conversational Model(Vinyals+2015)
Oriol Vinyals, Quoc Le.
A Neural Conversational Model.
arXiv:1506.05869. In ICML2015.
86

対話
Attention with Intention for Neural Conversation Model(Yao+2015)
Kaisheng Yao, Geoffrey Zweig, Baolin Peng.
Attention with Intention for a Neural Network
Conversation Model.
arXiv:1510.08565. In NIPS2015.
87

画像スタイル変換
A Neural Algorithm of Artistic Style (Gatys+2015)
Leon A. Gatys, Alexander S. Ecker, Matthias Bethge.
A Neural Algorithm of Artistic Style.
arXiv:1508.06576. In NIPS 2015.
88

画像スタイル変換
Chuan Li, Michael Wand.
Combining Markov Random Fields and Convolutional Neural Networks for Image Synthesis.
arXiv:1601.04589.
MRF and CNN for Image Synthesis(Li+2016)
89

Two-Bit Doodles into Fine Artworks(Champandard 2016)
Alex J. Champandard.
Semantic Style Transfer and Turning Two-Bit Doodles into Fine
Artworks.
arXiv:1603.01768.
スタイル・レイアウトの学習、指定レイアウトでのスタイル画像生成
オリジナル画像
指定レイアウト
オリジナル画像のレイアウト
指定レイアウトで
オリジナル画像風の画像生成
90

Learning to Generate Chairs, Tables and Cars(Dosovitskiy+2014)
3Dモデルの表現ベクトル空間学習・演算・画像生成
Alexey Dosovitskiy, Jost Tobias Springenberg, Maxim Tatarchenko, Thomas Brox.
Learning to Generate Chairs, Tables and Cars with Convolutional Networks.
arXiv:1411.5928. In CVPR 2015

Deep Convolutional Inverse Graphics Network(Kulkarni+2015)
3Dモデルの表現ベクトル空間学習・演算・画像生成
Tejas D. Kulkarni, Will Whitney, Pushmeet Kohli, Joshua B. Tenenbaum.
Deep Convolutional Inverse Graphics Network.
arXiv:1503.03167. In NIPS2015.
92

自然画像の表現ベクトル空間学習・演算・画像生成
Deep Convolutional GAN (Radford+2015)
自然画像のクリアな画像生成画像演算
Alec Radford, Luke Metz, Soumith Chintala.
Unsupervised Representation Learning with Deep Convolutional
Generative Adversarial Networks.
arXiv:1511.06434. In ICLR 2016.
93

Autoencoding beyond pixels (Larsen+2015)
Anders Boesen Lindbo Larsen, Søren Kaae Sønderby, Hugo Larochelle,
Ole Winther.
Autoencoding beyond pixels using a learned similarity metric.
arXiv:1512.09300. In ICML 2016.
自然画像の表現ベクトル空間学習・演算・画像生成
94

Laplacian Pyramid of GAN(Denton+2015)
Emily Denton, Soumith
Chintala, Arthur Szlam,
Rob Fergus.
Deep Generative
Image Models using a
Laplacian Pyramid of
Adversarial Networks.
arXiv:1506.05751. In
NIPS2015.
学習生成
低解像度高解像度元画像生成画像サンプル
40%の生成画像に関して、人が本物画像と見間違う
解像度ごとの画像生成による大きな画像生成
95

Style and Structure Adversarial Networks(Wang+2016)
Xiaolong Wang, Abhinav Gupta.
Generative Image Modeling using Style and Structure Adversarial Networks.
arXiv:1603.05631.
画像の構造・スタイルの生成
96

個性
感性
に寄りそう
ユーザーひとりひとりの感性
体験提供

101
ユーザーひとりひとりが
好きなスタイル・テイストの商品に出会え
ファッションを楽しめる
体験提供例
深層学習による
ファッション画像の表現ベクトル空間の学習

102

ショップをめぐり、好きなスタイル・テイストのアイテムを見つけた
でも自分はもう少し袖口は春らしい雰囲気がいい
103

好きなスタイル・テイストのアイテムを見つけた
でも価格的に手を出せない
104

膨大なアイテムの中から
スタイル・テイストの似ているものをたどれる
105

自分が好きなアイテムに出会え、手に入れ、身につけられ
膨大なアイテムの中から
スタイル・テイストの似ているものをたどれる
106

ファッションのスタイル・テイストの類似商品算出
107

108

・商品に関係しない領域に引きずられず、スタイル・テイストが似ている商品をたどれる
「商品を着用したモデル画像」「商品画像」区別なく、類似商品算出
109

ファッションのスタイル・テイストが似ている
商品をたどれる

「商品を着用したモデル画像」「商品画像」区別なく
類似スタイル・テイストの商品をたどれる

マンガボックス
1,000万人以上が使う無料のマンガ雑誌アプリ

114
好きなイラスト画風のマンガに出会い楽しむ
体験提供例
マンガ・イラストの表現ベクトル空間の学習

− 劇画 −作品
類似画像スタイル・テイスト作品　：類似度: 高 ← → 類似度: 低作品

− 少女漫画 −作品

− 癒やし −作品作品

− BL −作品作品

作品

個性
創作
に寄りそう
ユーザーひとりひとりの創作
体験提供

123
自分にあった世界に一つだけのアバターを作る
体験提供例
アバターアイテムの表現ベクトル空間の学習・演算・生成

アバターアイテムの表現ベクトル空間を学習
124

Deep
Generative
Model
学習
125

Deep
Generative
Model
学習
生成
アバターアイテム新たなアバターアイテム
世界に存在しない新たなアバターアイテム画像を生成する

127

アイテム１アイテム2
128

アイテム１アイテム2合成生成されたアイテム
129

130

対話
131

対話
ユーザーひとりひとりが楽しめる話をできる
体験提供例
132

対話
体験提供例
長い文脈・過去の対話記憶を踏まえた返答
ひとりひとりの興味にあった話題
各種個性をもったキャラクターたち
133

対話
体験提供例
自然言語処理に強みをもつ
Preferred Infrastructure社
と共同開発
長い文脈・過去の対話記憶を踏まえた返答
ひとりひとりの興味にあった話題
各種個性をもったキャラクターたち
134

雑談生成例
Mobage上での公開コミュニケーションを活用した生成
2.7億の質問/応答データを用いた学習・生成例
サッカーの話題野球の話題⼈⽣の話題
135

137
機械学習活用し

138
機械学習活用し
楽しんでもらえるサービスをつくる

139
提供したいのは
新たな価値ある体験・サービス

140
機械学習はあくまで手段
だが、新たな価値提供の大きな源泉となる

141
機械学習を活用し
体験提供・サービスとしてよいものをつくる

142
実際にどのくらい価値があるのかは提供してみないとわからない
わからないことはやってみる。挑戦する

143

144
機械学習活用した
サービス開発

145
体験提供

146
分析
解決価値・効果高い課題設定を行う
新たな価値提供の余地・効果が高い、対象領域・ユーザクラスタ・特徴を明らかにする
・効果高い課題設定
・高影響要素解明
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
体験提供

147
ユーザ体験設計・サービス設計
新たな提供体験・価値を考える
どのような新たな体験提供ができるか、どのような価値があるか、考え抜く
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
体験提供
2. ユーザ体験設計
Service
Front End
3. サービス設計

148
どのような新たな体験提供ができるか、どのような価値があるか、考え抜く
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
体験提供
Service
Front End
機械学習は新たな体験提供の大きな源泉となる

149
体験提供
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析 2. ユーザ体験設計
Service
Front End

150
体験提供
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析 2. ユーザ体験設計
Service
Front End

151
洗練サイクル設計・ログ設計・連携データ設計
洗練サイクルを設計する
ユーザが日々利用しているだけで、体験洗練されていくサイクルを設計する
体験提供
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
Feedback Log
Personalized Data
For each user
Service
Front End
4. 洗練サイクル設計
6. ログ設計
5. 連携データ設計

152
洗練サイクル設計・ログ設計・連携データ設計
洗練サイクルを設計する
ユーザが日々利用しているだけで、体験洗練されていくサイクルを設計する
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
体験提供
Feedback Log
Personalized Data
For each user
Service
Front End
6. ログ設計
学習アルゴリズム、学習に必要なログ、連携データ、等、一連のサイクルをつくる
Distributed
Applications
YARN
HDFS
GPU

153
分散アルゴリズム設計
学習方法の分散アルゴリズムを設計する
大規模データでもスケールする学習アルゴリズム設計する
体験提供
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
Feedback Log
6. ログ設計
Personalized Data
For each user
Service
Front End
7.分散アルゴリズム設計
Distributed
Applications
YARN
HDFS
GPU

154
分散アルゴリズム設計
学習方法の分散アルゴリズムを設計する
大規模データでもスケールする学習アルゴリズム設計する
体験提供
学習アルゴリズムを、分散可能なアルゴリズムに再構成する
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
Feedback Log
6. ログ設計
Personalized Data
For each user
Service
Front End
Distributed
Applications
YARN
HDFS
GPU

155
分散アルゴリズム実装
体験提供
体験・サービス提供に適した形で実装・チューニングしていく
サービスに適した形で分散アルゴリズム実装する
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
Feedback Log
6. ログ設計
Personalized Data
For each user
Service
Front End
8.分散実装
Distributed
Applications
YARN
HDFS
GPU

156
体験提供
サービスに適した形で分散アルゴリズム実装する
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
Feedback Log
6. ログ設計
Personalized Data
For each user
Service
Front End
8.分散実装
各種アルゴリズムチューニングのトライを多く行いたい。必要なものは自分でつくる
Distributed
Applications
YARN
HDFS
GPU

157
体験提供
結果を分析し、体験・サービス・学習サイクルともに洗練していく
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
Feedback Log
6. ログ設計
Personalized Data
For each user
Service
Front End
8.分散実装
Distributed
Applications
YARN
HDFS
GPU

158
機械学習活用したサービス開発
新たな価値ある体験・サービス提供を考え、作り、挑戦し続ける
Activity 1
Activity N, …
F1
F2
E1
E1
F3
F4
F5
1. 分析
体験提供
Feedback Log
6. ログ設計
Personalized Data
For each user
Service
Front End
8.分散実装
Distributed
Applications
YARN
HDFS
GPU

159
AGENDA
◆講師紹介
◆最後に
◆はじめに

160
個性
感性創作
に寄りそう

161
個性
感性創作

162
個性
感性創作
機械学習・深層学習活用した体験提供

163
個性
感性創作
新たな価値提供のポテンシャルを持っている

164
個性
感性創作
DeNAも新たな挑戦を続けます

165
個性
感性創作
何か一緒に挑戦できたら嬉しいです
DeNAも新たな挑戦を続けます

166
AGENDA
◆講師紹介
◆最後に
◆はじめに

DeNAの機械学習・深層学習活用した 体験提供の挑戦

More Related Content