etcd クラスタってなんだろう（入門編） / 開発者向けブログ・イベント

こんにちは、GMOインターネット株式会社の長谷川泰斗です。
今回は Kubernetes には欠かすことのできない etcd の仕組みや動作について語っていこうと思います。

etcd とは

あの車についてるやつだよね、、、、違います。
ソースコードを自動でビルドして配布するあれだよね、、、、違います、CI/CD でもありません。

etcd とはオープンソースの分散型キーバリューストア（key-value store）で以下の特徴を持ちます。
・一貫性と高可用性
・1秒あたり1万回の書き込みが可能

一貫性と高可用性ではetcdの一貫性と高可用性について

etcdは、分散システムにおいて非常に重要な役割を担うキーバリューストアです。その特徴として、高い一貫性と高可用性が挙げられます。これらの特徴が、etcdがKubernetesなどの大規模な分散システムで広く利用されている理由です。

一貫性について

etcdは、強い一貫性を保証するよう設計されています。これは、etcdの全てのノードが、常に同じ最新のデータを持っていることを意味します。どのようなノードからデータを読み取っても、常に同じ結果が得られるということが保証されており、実際にバックアップからのレストアにおいてもどの etcd ノードからダンプしたバックアップファイルでも正常にクラスタ全体を復旧できることに繋がっています。

1秒あたり1万回の書き込みが可能

etcdは、複数のノード間で合意形成を行うためにRaftコンセンサスアルゴリズムを採用しています。このアルゴリズムは、etcdの性能に大きく影響を与える要素の一つです。
Raftでは、リーダー選出手順が効率化されており、書き込み性能への影響を最小限に抑えています。
また、etcdは、キーバリューストアであり、シンプルなデータ構造を採用しています。このシンプルなデータ構造は、高速なアクセスを可能にし、メモリ内キャッシュも高速アクセスに寄与しています。

etcdの動作（一貫性の理解）

基本的な概念として etcd クラスタのそれぞれのノードは raft アルゴリズムにより leader と follower の役割どちらかの役割を行います、 leader をやりつつ follower をやるといったブラックなお仕事はしません、そして leader の役割は etcd クラスタ内部で必ず 1 つの etcd ノードしか担当できず残りの etcd ノードは全て follower になります。
leader ノードだけが書き込みを調整して、キーと値のペアを etcd クラスターに記録できます。

etcd は snapshot, Write Ahead Log (WAL), boltdb, gRPC Server を内包しています。
etcd に対する変更は WAL にログをコミットされ、その後 boltdb に書き込まれます、この際に WAL に書き込みを続けていると WAL のサイズが大きくなるので etcd は定期的に snapshot を取ることで WAL のサイズを縮小します。gRPCサーバーはクライアントからの gRPC を利用したリクエストを高速かつ安全に処理します。

実際にキーバリューのデータを保持するのは boltdb で、Go言語で実装されシンプルかつ高速なキーバリューストアを実現しています。boltdb の B+ ツリー構造による高速なアクセス、トランザクション機能によるデータの整合性確保など、etcdの信頼性と性能に大きく貢献しています。

ここからは図を交えて説明します。