|
5
|
1 \chapter{技術概要}
|
|
|
2
|
|
|
3 本章では, 本研究で使われる技術, 本コースで利用しているサービスについて概要を説明する。
|
|
|
4
|
|
9
|
5 \section{仮想化}
|
|
|
6 仮想化はコンピュータの CPU やメモリ, ディスクなどハードウェアのリソースを分割又は統合して,
|
|
|
7 仮想的なコンピュータやネットワーク環境を生成し提供する技術である。
|
|
|
8 仮想化技術にはホストのどの部分から仮想化するかによってホスト型, ハイパーバイザー型, コンテナ型に分けることができる。
|
|
|
9
|
|
|
10 \subsection{ホスト型}
|
|
|
11 ホスト型の仮想化は, ホストとなるOS上 (以下, ホストOS) に仮想化ソフトウェアをインストールし, 仮想化ソフトウェア上で別のOS (以下, ゲストOS) を稼働させる手法である (図\ref{fig:host})。
|
|
|
12 仮想化ソフトウェアをホストOSのアプリケーションの1つとして導入及び管理できるため, 手軽に仮想化を実現することができる。
|
|
|
13 しかし, ゲストOSの処理はホストOSを経由しなければならないため, オーバーヘッドが大きくなる。
|
|
|
14 \begin{figure}[H]
|
|
|
15 \begin{center}
|
|
|
16 \includegraphics[width=120mm]{fig/host.pdf}
|
|
|
17 \end{center}
|
|
|
18 \caption{ホスト型}
|
|
|
19 \label{fig:host}
|
|
|
20 \end{figure}
|
|
|
21
|
|
|
22 \subsection{ハイパーバイザー型}
|
|
|
23 ハイパーバイザー型の仮想化は, 仮想化システムを直接ハードウェアにインストールし, ハイパーバイザー上で複数のゲストOSを稼働させる手法である (図\ref{fig:hyper})。
|
|
|
24 ハイパーバイザーが直接ハードウェアを管理するため仮想化によるオーバーヘッドを小さくすることで, リソースを効率的に利用することができる。
|
|
|
25 \begin{figure}[H]
|
|
|
26 \begin{center}
|
|
|
27 \includegraphics[width=120mm]{fig/hyper.pdf}
|
|
|
28 \end{center}
|
|
|
29 \caption{ハイパーバイザー型}
|
|
|
30 \label{fig:hyper}
|
|
|
31 \end{figure}
|
|
|
32
|
|
|
33 \subsection{コンテナ型}
|
|
|
34 コンテナ型の仮想化は, OS レベルの仮想化技術を利用して複数のコンテナと呼ばれる独立空間を形成し, 独立空間でアプリケーションをそれぞれ構築することができる手法である (図\ref{fig:container})。
|
|
|
35 各コンテンはオペレーティングシステムカーネルによって独立したプロセスとして実行される。
|
|
|
36 前述のホスト型やハイパーバイザー型と比べ, コンテナはゲストOSを起動することなくアプリケーションを実行することができるため, リソース効率が良く処理が軽量である。
|
|
|
37
|
|
|
38 \begin{figure}[H]
|
|
|
39 \begin{center}
|
|
|
40 \includegraphics[width=120mm]{fig/container.pdf}
|
|
|
41 \end{center}
|
|
|
42 \caption{コンテナ型}
|
|
|
43 \label{fig:container}
|
|
|
44 \end{figure}
|
|
|
45
|
|
5
|
46 \section{KVM}
|
|
8
|
47 KVM (Kernel-based Virtual Machine)\cite{kvm} は Linux カーネル 2.6.20 以降に標準搭載されているハイパーバイザーである。
|
|
|
48 KVM は Intel VT 及び AMD-V を含む x86 ハードウェア上の完全仮想化をサポートしている。
|
|
|
49 KVM はハイパーバイザーと各仮想マシン間のレイヤーとして Virtio API を使用して, 仮想マシンに準仮想化デバイスを提供する。
|
|
|
50 これにより, 仮想化によるオーバーヘッドを少なくできる。
|
|
5
|
51
|
|
|
52 \section{Docker}
|
|
8
|
53 Docker\cite{docker} は Docker 社が開発, 提供する Linux 上で動作する隔離された Linux コンテナをデプロイ, 実行するアプリケーションである。
|
|
10
|
54 Docker はコンテナを実行するだけでなく, コンテナイメージの作成や共有する仕組みも提供している。
|
|
|
55 Docker コマンドを処理するには Docker daemon と呼ばれるデーモンプロセスを実行する必要がある。
|
|
|
56 この Docker deamon は Docker で行う処理を一箇所で実施する (図\ref{fig:docker})。
|
|
9
|
57 \begin{figure}[H]
|
|
|
58 \begin{center}
|
|
|
59 \includegraphics[width=150mm]{fig/docker.pdf}
|
|
|
60 \end{center}
|
|
|
61 \caption{Docker}
|
|
|
62 \label{fig:docker}
|
|
|
63 \end{figure}
|
|
8
|
64
|
|
5
|
65 \subsection{Docker Registry}
|
|
10
|
66 Docker Registry は Dcoker イメージを保存, 配布できるサーバサイドアプリケーションである\cite{registry}。
|
|
|
67 以下の場合に利用される。
|
|
|
68 \begin{itemize}
|
|
|
69 \item イメージの保存場所を厳密に管理する
|
|
|
70 \item イメージを配布するパイプラインを全て所有する
|
|
|
71 \item イメージの保存と配布を社内や学内の開発ワークフローに密に統合する
|
|
|
72 \end{itemize}
|
|
5
|
73
|
|
|
74 \section{Podman}
|
|
10
|
75 Podman は RedHat 社が開発, 提供する Linux 上でOCIコンテナを開発, 管理, 実行するためのデーモンレスコンテナエンジンである\cite{podman}。
|
|
|
76 Podman は OCI準拠のコンテナランタイムに依存するため, 前述した Docker など他のコンテナエンジンと互換性を持つ。
|
|
|
77 また, Podman CLI は Docker CLI と同じ機能を提供する。
|
|
|
78 Podman はコンテナとイメージストレージ, コンテナランタイムを介してLinxuカーネルと直接対話することで, デーモンレスで実行される (図\ref{fig:podman})。
|
|
11
|
79 Podman の制御下にあるコンテナは, 特権ユーザ又は非特権ユーザのいずれかによって実行することができる。
|
|
9
|
80 \begin{figure}[H]
|
|
|
81 \begin{center}
|
|
|
82 \includegraphics[width=120mm]{fig/podman.pdf}
|
|
|
83 \end{center}
|
|
|
84 \caption{Podman}
|
|
|
85 \label{fig:podman}
|
|
|
86 \end{figure}
|
|
5
|
87
|
|
|
88 \section{Singularity}
|
|
11
|
89 Singularity\cite{singu} とは, HPC環境向けに設計されたコンテナプラットフォームである。
|
|
|
90 Singularity は マルチユーザに対応しており，コンテナ内での権限は実行ユーザの権限を引き継ぐため，ユーザに特別な権限の設定が必要ない。
|
|
|
91 またデフォルトで, \$HOME, /tmp, /proc, /sys, /dev がコンテナにマウントされ, サーバ上の GPU を簡単に利用できる。
|
|
|
92 コンテナイメージは Singularity Image Format (以下, sif) と呼ばれる単一ファイルベースのため, アーカイブや共有が容易である。
|
|
5
|
93
|
|
|
94 \section{Ceph}
|
|
11
|
95 Ceph は, RedHat 社が開発, 提供する分散ファイルシステムである。
|
|
|
96 Ceph は分散オブジェクトストレージであるRADOS (Reliable Autonomic Distributred Object Storage) がベースとなっている (図\ref{fig:ceph})。
|
|
12
|
97 オブジェクトストレージはデータをオブジェクトという単位でやり取りをするストレージシステムである。
|
|
|
98 複数のストレージを束ねて利用できるオブジェクトストレージが分散オブジェクトストレージである。
|
|
|
99 RAODS では, Object Storage Daemon (OSD) にデータ格納する。
|
|
|
100 オブジェクトの配置には, クラスタマップを元に Controlled Replication Under Scalable Hashing (CRUSH) アルゴリズムによりオブジェクトの格納先を選択する。
|
|
|
101 配置の計算に必要とする情報はごくわずかであるため, Cephクラスタ内のすべてのノードは保存されている位置を計算できる。
|
|
|
102 そのため, データの読み書きが効率化される。また, CRUSH はデータをクラスタ内のすべてのノードに均等に分散しようとする。
|
|
|
103 \par
|
|
11
|
104 RODOS はクラスタに保存されるデータの管理を待ち受け, 保存オブジェクトへのアクセス方法として Object Gateway, RADOS Block Device (以下, RBD), CephFS がある。
|
|
|
105 Object Gateway は HTTP REST 経由でクラスタに保存されるオブジェクトへ直接アクセスが可能である。
|
|
|
106 RBD はブロックデバイスとしてアクセスが可能で, libvirt を組み合わせてVMのディスクとして使用できる。
|
|
|
107 また, RBDドライバを搭載したOSにマップし ext4 や XFS などでフォーマットして利用できる。
|
|
|
108 CephFS は POSIX互換のファイルシステムである。
|
|
|
109 \begin{figure}[H]
|
|
|
110 \begin{center}
|
|
|
111 \includegraphics[width=120mm]{fig/ceph.pdf}
|
|
|
112 \end{center}
|
|
|
113 \caption{Cephのアーキテクチャ}
|
|
|
114 \label{fig:ceph}
|
|
|
115 \end{figure}
|
|
|
116
|
|
|
117 \par
|
|
|
118 Ceph では, ノードとはクラスタを構成するサーバであり, ノードでは以下の4つのデーモンが実行できる。
|
|
|
119 \begin{itemize}
|
|
|
120 \item Ceph Monitor
|
|
|
121 \item Ceph OSD
|
|
|
122 \item Ceph Manager
|
|
|
123 \item Ceph Metadata Server
|
|
|
124 \end{itemize}
|
|
|
125
|
|
|
126 \subsection{Ceph Monitor}
|
|
|
127 Ceph Monitor (以下, MON) ノードはクラスタのヘルス状態に関する情報, データ分散ルールを維持する。
|
|
|
128 障害が発生した場合, クラスタ内のMONノードでPaxosという合意アルゴリズムを使用して, どの情報が正しいかを多数決で決定する。
|
|
|
129 そのため, 奇数個のMONノードを設定する必要がある。
|
|
|
130
|
|
|
131 \subsection{Ceph OSD}
|
|
|
132 Ceph OSD (以下, OSD) は物理ストレージになる。このデーモンは1台のHDDなどの物理ストレージに対して, 1つのデーモンが動作する。
|
|
|
133 OSD は MON と通信し, OSD デーモンの状態を提供する。
|
|
|
134
|
|
|
135 \subsection{Ceph Manager}
|
|
|
136 Ceph Manager (以下, MGR) ノードはクラスタ全体から状態情報を収集する。
|
|
|
137 MGR は MON と共に動作し, 外部のモニタリングシステムや管理システムのインターフェースとして機能する。
|
|
|
138
|
|
|
139 \subsection{Ceph Metadata Server}
|
|
|
140 Ceph Metadata Server (以下, MDS) ノードは CephFS のメタデータを保存する。
|
|
|
141
|
|
5
|
142
|
|
|
143 \section{Ansible}
|
|
11
|
144 Ansible\cite{ansible} は RedHat 社が開発, 提供するシステム構成, ソフトウェアの展開などを行う自動化ツールである。
|
|
|
145 Ansible では一連の処理を YAML 形式のファイルで記述し, エージェントレスで SSH を介してタスクを実行する。
|
|
|
146 そのため, インフラストラクチャをコードとして残すことができる。
|
|
5
|
147
|
|
|
148 \section{Slurm}
|
|
|
149
|
|
|
150 \section{GitLab}
|
|
|
151
|
|
8
|
152 \section{rsnapshot}
|
|
|
153
|
|
5
|
154 \section{Akatsuki}
|
|
|
155
|
|
|
156 \section{ie-virsh} |
