comparison presen/sample.markdown @ 6:edc72425caab

add abstract
author Nozomi Teruya <e125769@ie.u-ryukyu.ac.jp>
date Wed, 17 Feb 2016 11:25:52 +0900
parents
children ef17e4dc6216
comparison
equal deleted inserted replaced
5:1f36a64a3868 6:edc72425caab
1 title: 分散フレームワークAliceのPC画面配信システムへの応用
2 author: 照屋のぞみ 河野真治
3 profile:琉球大学 工学部 情報工学科
4
5 # 研究目的(1/3)
6 * 当研究室が開発している並列分散フレームワークAliceではスケーラブルな分散プログラムを信頼性高く記述できる環境を実現する。
7 * ここで言う信頼性とは定められた環境下で安定して仕様に従った動作を行うことを指す。  
8 * Aliceでは当研究室が提案しているデータを Data Segment、タスクを Code Segment という単位で分割して記述するプログラミング手法を採用している。
9
10 # 研究目的(2/3)
11 * Aliceでは、処理をComputationとMetaComputationに階層化し、コアな仕様と複雑な例外処理に分離する。
12 * 分散環境構築などの複雑な処理はAliceがMeta Computationとして提供する
13 * 仕様を大きく変更することなくプログラムの挙動が変えられる
14 * 変更前の信頼性を保ったまま拡張可能にする
15
16 # 研究目的(3/3)
17 * 本研究では、 Alice上に実用的な分散アプリケーションが制作できることを示すために画面配信システムTreeVNCを構築する。
18 * 構築するにあたり必要となった機能を洗い出しAliceのMeta Computationとして実装した。
19 * もとのTreeVNCとの比較を行うことでMetaComputationの役割と有効性を示す。
20
21
22 # Data Segment と Code Segment
23 * Aliceではデータを **Data Segment(DS)** 、タスクを **Code Segment(CS)** という単位に分割して依存関係を記述することでプログラミングを行う。
24 * CSはInput DS(入力されるDS)とOutput DS(出力されるDS)を持つ。
25 * CSはkeyで指定されたDSが揃うと実行されるという性質を持つ。
26 ![opt](./images/dsandcs.svg){:width="60%"}
27
28 # CodeSegmentの依存関係
29 * データの依存関係にないCSは並列実行される
30 * データの依存関係がある場合は Input DS が揃うと順に実行される
31 * DSはCSに専有されるためロックの記述を必要としない
32 ![opt](./images/dsandcs2.svg){:width="60%"}
33
34 # Data Segment と CodeSegment
35 * AliceはJavaで実装されており、DSはJava-Object、CSはRunnableに相当する
36 * ユーザーが記述する際には CodeSegment.class を継承することでDSを操作するためのAPIを利用して依存関係を記述することができる。
37 * DSはAliceが内部にもつデータベース(DS Manager)により管理されており、CSはDSに対応する一意のkeyを使ってDSを操作する。
38
39 # Data Segment Manager
40 * DS の集合体であるデータベースを Alice では **DS Manager(DSM)** と呼ぶ。
41 * DSM 内の DS には対になる String型のkey が存在し、 DSM 名と key を指定しすることで DS の保存、取得を行う。
42 * keyに対して複数のDSを保存する際はFIFO的に処理される
43 ![opt](./images/KeyDS.svg){:width="50%"}
44
45 # Data Segment Manager
46 * Local DSM … 各ノード固有のデータベース。
47 * Remote DSM … 他のノードの Local DSM の proxy。接続しているノードの数だけ存在する。
48 ![opt](./images/remote_datasegment.svg){:width="50%"}
49
50 # Data Segment API
51 * DS の追加
52 * put(String managerKey, String key, Object val)
53 * update(String managerKey, String key, Object val) ※先頭DSを削除してからput
54 * DS の取得
55 * take(String managerKey, String key)
56 * peek(String managerKey, String key) ※DSMから削除されない
57
58 * take/peekは実際にはcreate()とsetKey()によって行われる
59 * create()でDSの受け皿を作っておき、setKey()にkeyをセットすることで Input DS を指定する
60
61 # Computation と Meta Computation
62 * Aliceでは、計算の本質的な処理をComputatin、Computationとは直接関係ないが別のレベルでそれを支える処理をMeta Computationとして分けて考える。
63 * Alice のComputationは、keyによりDSを待ち合わせ、DSが揃ったCSを並列に実行する処理。
64 * 分散トポロジーの構成、通信の切断・再接続時の処理やデータの表現形式の選択など、Computationを支えている処理。
65
66 # Computation と Meta Computation
67 * DS/CSの接続の間にMeta Computationが実行されている
68 * AliceのMeta ComputationもCS/DSにより実現される
69 * Meta ComputationはCS の処理を支えるMeta CSとMeta CSに管理されるMeta DSに分けられる
70 ![opt](./pictures/MetaCSDS.svg){:width="70%"}
71
72 # Computation と Meta Computation
73 * 分散環境構築などの複雑な処理をAliceがMeta Computationとして提供する
74 * プログラマは目的の処理だけ記述し通信部分などはMeta Computationを指定する
75
76 # TreeVNC
77 * Aliceを用いて実装する実用的な分散プログラムの例題
78 * 当研究室で開発したノードを木構造に配置して負荷分散を行う授業向け画面共有システム
79 * TightVNCがもとになっている
80 ![opt](./images/treeVNC.svg){:width="40%"}
81
82 # AliceVNC
83 * 画面処理や分散処理が混在する複雑なTreeVNCも、Aliceを用いればTightVNCからの変更が少ない見通しの良い記述で構成可能
84 ![opt](./images/AliceVNC.svg){:width="50%"}
85
86 # TreeVNCで必要な機能
87 TreeVNCのComputation(VNCサーバからデータを受け取り表示)を支える機能をMeta Computationとして実装する
88
89 * TreeTopologyの構成・管理(Topology Manager)
90 * ノード間通信の切断時・再接続時の処理(ClosedEventManager)
91 * ノードの接続状態確認(KeepAlive)
92 * 子ノードへのデータの転送
93 * データの圧縮
94
95 # Dynamic Topology Manager
96 * Topology Managerを立ちあげ、各ノードはTopology Managerに参加表明をし接続すべきノードの情報を要求する
97 ![opt](./pictures/tree1.svg){:width="60%"}
98
99 # Dynamic Topology Manager
100 * Topology Managerは参加表明を受け取った順にTree構造になるよう接続情報を送る
101 ![opt](./pictures/tree2.svg){:width="60%"}
102
103 # Dynamic Topology Manager
104 * 各ノードが受け取った情報をもとにRemote DSMを立ちあげ接続し合うことでTree構造が作られる
105 ![opt](./pictures/tree3.svg){:width="60%"}
106
107 # Meta Computationの追加
108 * TreeVNCの数MByteの画面差分データを配信し続けるためデータを圧縮している
109 * 画面データを圧縮して送る → 解凍して画面表示 → 再圧縮して子ノードへ転送
110 * 再圧縮オーバーヘッドなしにゼロコピー転送する機能が必要
111 * 圧縮のMeta Computationと転送のMeta Computationを追加した
112
113 # 転送機能の追加
114 * AliceではInputDSをReceiverに受け取ったあと、Receiverから任意の型で取り出し、操作してOutputDSとして出力する(コピーする)
115 * TreeVNCのように受け取ったデータをそのまま転送したいときには無駄
116 * Input DSをそのままOutput DSとしてコピーせず転送できる **flipメソッド** を追加。put/updateと同じように扱える。
117 flip(String managerKey, String key, Receiver receiver)
118
119 # 圧縮表現(Meta DS)の追加
120 * DSを複数作るのではなく、1つのDSに対しMeta DSとして以下の表現を同時に持たせる
121
122 <table style="border:none;">
123 <tr><td>
124 1. 一般的なJavaのオブジェクト<br>
125     LocalDSMにputしたときの形式 <br>
126 2. MessagePackでシリアライズ化されたバイナリオブジェクト <br>
127     RemoteDSMにputしたときの形式 <br>
128 3. 2をさらに圧縮したバイナリオブジェクト <br>
129     今回追加した形式 <br>
130 </td>
131 <td>
132 <img src="./pictures/compressDS.svg" width="90%">
133 </td>
134 </tr>
135 </table>
136
137
138 # MessagePackとは
139 * Sadayuki Furuhashiが開発したシリアライズのための機能をまとめたオープンソースライブラリ。
140 * シリアライズ/デシリアライズを高速に行うことができ、整数、浮動小数点数、Boolean、文字列、配列、連想配列、nilをバイト列にシリアライズできる。
141 * JSONのようにプログラミング言語に依存しないデータの表現形式として使用できる。
142 * AliceではJavaオブジェクトへの対応のためにJavassistも用いている。
143
144 # 圧縮表現を扱うDSMとAPIの追加
145 * Local と Remote それぞれに圧縮表現を扱う Compressed DSM を追加
146 * DSを圧縮したい場合は指定する DSM を Compressed DSM に変える
147 * 圧縮するコードとしないコードで変更が少ない
148 ```java
149 put("Remote", "Key", val);
150 put("compressedRemote", "Key", val);  
151 ```
152
153 # 圧縮表現がオンデマンドに作られる
154 * NodeAでNodeBのcompressed RemoteDSM に対してDSをput
155 ![opt](./pictures/flow1.svg){:width="80%"}
156
157 # 圧縮表現がオンデマンドに作られる
158 * DS が圧縮表現を持っていなければCompressed DSM内部で圧縮表現を生成してput
159 ![opt](./pictures/flow2.svg){:width="80%"}
160
161 # 圧縮表現がオンデマンドに作られる
162 * RemoteDSMがAliceの送信パケットをNodeBのLocalDSMに送る
163 ![opt](./pictures/flow3.svg){:width="80%"}
164
165 # 圧縮表現がオンデマンドに作られる
166 * NodeBのLocalDSMでは圧縮表現のみのDSとして保存する
167 ![opt](./pictures/flow4.svg){:width="80%"}
168
169 # 圧縮表現がオンデマンドに作られる
170 * setKey()でtake/peekで呼ばれたらReceiverにDSが渡される
171 ![opt](./pictures/flow5.svg){:width="80%"}
172
173 # 圧縮表現がオンデマンドに作られる
174 * castメソッドである **asClass()** が解凍・デシリアライズされた表現を作って渡す
175 ![opt](./pictures/flow6.svg){:width="80%"}
176
177 # 圧縮表現がオンデマンドに作られる
178 * DS はオブジェクト表現と圧縮表現を同時にもつため、TreeVNCでは受け取った画面データを解凍した後、転送のためにコピーや再圧縮をすることはない。
179 * 複数表現は必要最低限にしか作られない。
180 * 一つのKeyに対し様々な表現のDSが対応するが、asClass()によってユーザーは送られてくるDSの表現を気にせず扱える。
181
182 # Meta Computationの評価
183 TreeVNCとAliceVNCを比較した
184
185 * 性能比較
186 各ノードへのメッセージの伝達速度を比較
187 同等の性能が実現できたか
188 * コード比較
189 コード量・コード複雑度を比較
190 シンプルな記述で仕様の変更が抑えられているか
191
192 # 性能比較 - 実験内容
193 * 木の段数ごとにメッセージの到達にどれぐらい時間がかかっているかを計測
194 * 講義内で学生に協力してもらい、最大 17 名の接続があった
195 ![](./pictures/delay.svg){:width="50%"}![](./pictures/delay2.svg){:width="50%"}
196
197 # 性能比較 - 実験結果
198 * 3段目の計測結果
199 * 同じ傾向から同等の処理性能があることがわかった
200
201 <table style="border:none;">
202 <tr>
203 <td><img src="./pictures/TreeVNC_depth3.svg" width="80%"></td>
204 <td><img src="./pictures/AliceVNC_compress_depth3.svg" width="80%"></td>
205 </tr>
206 <tr>
207 <td align="center">TreeVNC</td>
208 <td align="center">AliceVNC</td>
209 </tr>
210 </table>
211
212
213 # コード量比較
214 * TightVNCを含む全体の行数・単語数はAliceVNCのほうが少ない
215 * コードの増加量ではTreeVNCに比べ75%仕様の変更が抑えられている
216
217 <table style="border-collapse: collapse;border:1px solid #000000;">
218 <th style="border:1px solid #000000;padding:5px 15px 5px 15px;"></th>
219 <th style="border:1px solid #000000;padding:5px 15px 5px 15px;"> 行数 </th>
220 <th style="border:1px solid #000000;padding:5px 15px 5px 15px;">単語数</th>
221 <th style="border:1px solid #000000;padding:5px 15px 5px 15px;">TightVNCからの変更行数</th>
222 <tr>
223 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;"> TreeVNC </td>
224 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">19502</td>
225 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">73646</td>
226 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">7351</td>
227 </tr>
228 <tr>
229 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;"> AliceVNC </td>
230 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">14647</td>
231 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">59217</td>
232 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">1129</td>
233 </tr>
234 <tr>
235 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;"> 減少率 (%)</td>
236 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">25</td>
237 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">20</td>
238 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">75</td>
239 </tr>
240 </table>
241
242 # コード複雑度比較
243 * 循環的複雑度を用いる
244 コード内の線形独立な経路の数。if や forが多いほど複雑度が高い。
245 * 計測にはIntelliJのプラグイン「MetricsReloaded」を使用
246
247 <table style="border-collapse: collapse;border:1px solid #000000;">
248 <th style="border:1px solid #000000;padding:5px 15px 5px 15px;"></th>
249 <th style="border:1px solid #000000;padding:5px 15px 5px 15px;"> 平均値 </th>
250 <th style="border:1px solid #000000;padding:5px 15px 5px 15px;">最高値</th>
251 <tr>
252 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;"> TightVNC </td>
253 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">13.63</td>
254 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">97</td>
255 </tr>
256 <tr>
257 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;"> TreeVNC </td>
258 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">15.33</td>
259 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">141</td>
260 </tr>
261 <tr>
262 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;"> AliceVNC</td>
263 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">10.95</td>
264 <td style="border:1px solid #000000;padding:5px 15px 5px 15px;">99</td>
265 </tr>
266 </table>
267
268
269 * AliceVNCのほうがTreeVNCに比べ複雑度が低い
270 * TreeVNC で最も複雑度が高いTreeRFBProto.classはデータの待ち合わせ処理や通信処理が入り組んだ複雑なコード
271 * AliceVNCで最も複雑度が高いSwingViewerWindow.classは、TightVNCから変更がほとんどないため、AliceVNCの持っている複雑度はTightVNCが元来持っていた複雑度
272
273
274 # Meta Computationの評価結果
275 * AliceVNCはコードの修正量・複雑度共に低く抑えながらTreeVNC と同等の性能を持つ分散アプリケーションを記述する能力があった
276
277 # Aliceと他言語等との比較(1) - Erlang
278 * 共通点
279 * タスクをプロセスと呼ばれるメモリを共有しないスレッドに分割
280 * 共有メモリにアクセスするためのメモリロックの仕組みを必要としない
281
282 * 相違点
283 * 複数のデータの待ち合わせ処理はユーザーが書く
284 * Topologyの構成等はユーザーが書く
285
286 # Aliceと他言語等との比較(2) - Akka
287 * 共通点
288 * tell/ask が Alice の put/take に対応
289 * 通信部分等を子アクターで分離し階層化
290
291 * 相違点
292 * データに名前がついていないので何が来るかわかりづらい
293 * Actorごとに受け取ったデータの判別処理をユーザーが書く
294 * Topologyの構成はユーザーが書かないといけない
295 * 転送などのオーバーヘッドを考慮したメタプロトコル(Meta DS)が存在しない
296
297 # まとめ
298 * Alice が実用的なアプリケーションを記述するための Meta Computation として、データに多態性を持たせる圧縮機能やゼロコピー転送の機能を実装した。
299 * TreeVNCをAlice上で実装し比較を行った結果、シンプルな記述でTreeVNCの基本機能を実現でき、同等の性能を出すことに成功した
300 * AliceのMeta Computationが信頼性の高い実 用的な分散アプリケーションの構築に有用であることが確認された
301
302 # 今後の課題
303 * APIの再設計
304 * put/updateに対しtake/peekがcreate()・setKey()の操作はわかりにくい
305 * DSの型情報のマネジメント
306 * 型情報がないのでpeek/takeする際にわかりにくい
307 * セキュリティをサポートしていない
308 * 圧縮と同様の手法で暗号形式のデータ表現を扱えるように拡張可能
309
310 # 今後の課題
311 * TreeVNCでは拡張が困難であった別ネットワーク間の通信もTopology Manager を用いれば容易に拡張できると考えられる
312 ![opt](./pictures/overNAT.svg){:width="60%"}
313
314 # Dynamic Topology Manager
315 ![](./pictures/tree1.svg){:width="33%"}![](./pictures/tree2.svg){:width="33%"}![](./pictures/tree3.svg){:width="33%"}
316
317
318 # CodeSegment の 例
319 * RemoteDSM から DSをtakeし、LocalDSM に put を10回繰り返す  
320 ![opt](./pictures/remoteTest.svg){:width="70%"}
321
322 # CodeSegment の 例
323 * RemoteDSM から DSをtakeし、LocalDSM に put を10回繰り返す
324 * CSはInputDSを持たないStartCSからはじまる
325 ![opt](./pictures/remoteTest2.svg){:width="70%"}
326
327 # StartCodeSegmentの例
328 ```java
329 public class RemoteStartCodeSegment extends CodeSegment {
330
331 @Override
332 public void run() {
333 RemoteIncrement cs = new RemoteIncrement();//CSを生成
334 ods.put("local", "num", 0);
335 }
336
337 }
338 ```
339
340 # StartCodeSegmentの例
341 ```java
342 public class RemoteStartCodeSegment extends CodeSegment {
343
344 @Override
345 public void run() {
346 RemoteIncrement cs = new RemoteIncrement();
347 ods.put("local", "num", 0);//DSをLocalDSMにput
348 }
349
350 }
351 ```
352
353 # CodeSegment の 例
354 ```java
355 public class RemoteIncrement extends CodeSegment {
356
357 public Receiver num = ids.create(CommandType.TAKE);//DSの受け皿を作る
358
359 public RemoteIncrement(){
360 num.setKey("remote", "num");
361 }
362
363 @Override
364 public void run() {
365 int n = num.asClass(Integer.class);
366 if (n == 10) System.exit(0);
367 RemoteIncrement cs = new RemoteIncrement();
368 ods.put("local", "num", ++n);
369 }
370
371 }
372 ```
373
374 # CodeSegment の 例
375 ```java
376 public class RemoteIncrement extends CodeSegment {
377
378 public Receiver num = ids.create(CommandType.TAKE);
379
380 public RemoteIncrement(){
381 num.setKey("remote", "num");//CSにInputDSをセット。待ち合わせが発生。
382 }
383
384 @Override
385 public void run() {
386 int n = num.asClass(Integer.class);
387 if (n == 10) System.exit(0);
388 RemoteIncrement cs = new RemoteIncrement();
389 ods.put("local", "num", ++n);
390 }
391
392 }
393 ```
394
395 # CodeSegment の 例
396 ```java
397 public class RemoteIncrement extends CodeSegment {
398
399 public Receiver num = ids.create(CommandType.TAKE);
400
401 public RemoteIncrement(){
402 num.setKey("remote", "num");
403 }
404
405 @Override
406 public void run() {
407 int n = num.asClass(Integer.class);//InputDSをキャストして取得
408 if (n == 10) System.exit(0);
409 RemoteIncrement cs = new RemoteIncrement();
410 ods.put("local", "num", ++n);
411 }
412
413 }
414 ```
415
416 # CodeSegment の 例
417 ```java
418 public class RemoteIncrement extends CodeSegment {
419
420 public Receiver num = ids.create(CommandType.TAKE);
421
422 public RemoteIncrement(){
423 num.setKey("remote", "num");
424 }
425
426 @Override
427 public void run() {
428 int n = num.asClass(Integer.class);
429 if (n == 10) System.exit(0);//num=10なら終了
430 RemoteIncrement cs = new RemoteIncrement();
431 ods.put("local", "num", ++n);
432 }
433
434 }
435
436 ```
437
438
439 # CodeSegment の 例
440 ```java
441 public class RemoteIncrement extends CodeSegment {
442
443 public Receiver num = ids.create(CommandType.TAKE);
444
445 public RemoteIncrement(){
446 num.setKey("remote", "num");
447 }
448
449 @Override
450 public void run() {
451 int n = num.asClass(Integer.class);
452 if (n == 10) System.exit(0);
453 RemoteIncrement cs = new RemoteIncrement();//次のCSを生成
454 ods.put("local", "num", ++n);
455 }
456
457 }
458 ```
459
460 # CodeSegment の 例
461 ```java
462 public class RemoteIncrement extends CodeSegment {
463
464 public Receiver num = ids.create(CommandType.TAKE);
465
466 public RemoteIncrement(){
467 num.setKey("remote", "num");
468 }
469
470 @Override
471 public void run() {
472 int n = num.asClass(Integer.class);
473 if (n == 10) System.exit(0);
474 RemoteIncrement cs = new RemoteIncrement();
475 ods.put("local", "num", ++n);//インクリメントしたDSをput
476 }
477
478 }
479 ```
480
481
482 <style type="text/css">
483 <!--
484 *{
485 font:nomal 100% 'PT Sans';
486 }
487
488 ul > li{
489 list-style-type:disc;
490 }
491
492 .slide h1{
493 text-align:left;
494 color:#777777;
495 font:bold 40px/1.13 'PT Sans', sans-serif;
496 margin-bottom: 50px;
497 }
498
499 div#slide1 h1{
500 text-align:left;
501 color:#777777;
502 font:bold 60px 'PT Sans', sans-serif;
503 margin-bottom: 50px;
504 }
505
506 pre > code{
507 font-family:'Droid Sans Mono', 'Courier New', monospace;
508 }
509
510 img[alt="opt"]{
511 display: block;
512 margin-left: auto;
513 margin-right: auto;
514 }
515
516 img[alt="right"]{
517 margin-right: 0;
518 }
519
520 table {
521 margin-left: auto;
522 margin-right: auto;
523 }
524
525 th {
526 font-size: 120%;
527 }
528 -->
529 </style>