ピッツバーグとクリーブランドの企業向けCephとZFSストレージ
KawaConnectは、ペンシルベニア州ピッツバーグとオハイオ州北東部のクリーブランド周辺で、企業向けストレージの設計、運用、修復を行っています。扱うのは2つのシステムで、1台のサーバー内のストレージにはZFS、複数のサーバーにまたがるストレージにはCephを使います。当社は自社のインフラでCephを運用しており、お客様向けにProxmoxサーバーとクラスターを構築しています。
ストレージについて相談する Proxmoxコンサルティング
ストレージサービスの対象範囲
お客様のハードウェアとワークロードに合ったストレージ設計を選び、構築し、保守します。他社が構築したストレージの引き継ぎにも対応します。
ストレージ設計
ZFSとCephのどちらを使うかを決め、動かすものに合わせて、ドライブ、冗長性、ネットワークを計画します。
Proxmoxホスト上のZFS
単一のProxmox VEホスト、または2台のホストに、ミラーまたはRAID-Zのプールを構成し、スナップショットとホスト間のレプリケーションを組み合わせます。
ProxmoxのCephクラスター
CephをProxmoxクラスターに組み込み、仮想マシンのディスクを、ホストが故障しても失われない共有ストレージに置きます。
ヘルス監視
ドライブの故障、プールの劣化、ストレージの空き容量不足をアラートで知らせ、担当者が監視します。
容量計画
ミラー、パリティ、レプリカから使用可能な容量を算出し、再構築に備えた余裕を確保します。
修復とアップグレード
ディスクの交換、劣化したプールやクラスターの復旧、各段階で確認を行う段階的なバージョンアップグレードを行います。
ZFS: 1台のサーバー内のストレージ
ZFSはファイルシステムとボリュームマネージャーを兼ね備えており、Proxmox VEに組み込まれています。一般的な設計は、ZFSを使う1台のProxmoxホスト、または相互にレプリケーションする2台のホストで、バックアップは別のシステムに取ります。
- プール:ディスクをミラーまたはRAID-Zにまとめます。ZFSには、ハードウェアRAIDのボリュームではなく、各ディスクへの直接アクセスが必要です。
- チェックサムとスクラブ:ディスクが気づかないうちに破損させたデータをZFSが検出し、冗長コピーから修復します。
- スナップショット:仮想マシンのディスクのある時点のコピーで、アップデートやリスクのある変更の前に数秒で取得できます。
- レプリケーション:スナップショットを定期的に2台目のサーバーへ送ります。1台目のホストが故障しても、2台目がマシンを起動し、失われるのは最後のコピー以降の変更だけです。
Ceph: 複数のサーバーにまたがるストレージ
Cephは、複数のサーバーのディスクを1つのストレージシステムにまとめ、データの各部分のコピーを別々のマシンに保持します。ドライブまたはサーバー全体が故障してもデータは利用でき続け、クラスターは失われたコピーを自動的に再構築します。単一のストレージコントローラーがすべてを停止させることはありません。Cephは、このプールを3つの方式で提供します。
- ブロック(RBD):仮想マシン用の仮想ディスク。Proxmoxが使用する方式です。
- ファイル(CephFS):多数のサーバーが同時にマウントできる共有ファイルシステム。
- オブジェクト:アプリケーションやバックアップソフトウェア向けのS3互換ゲートウェイ。
Cephには、最低3台のサーバー、専用のストレージネットワーク、そしてその状態表示を理解している担当者が必要です。警告は、たいていドライブの故障やプールの上限接近の早期通知であり、当社は警告が出た時点で調査します。
どちらが適しているか
- サーバー1台:ZFS。Cephは複数のマシンにデータを分散させるための仕組みで、1台のサーバーでは利点がありません。
- サーバー2台:それぞれにZFSを使い、相互にレプリケーションします。2台構成のProxmoxクラスターには、決定の同数を避けるために小型の3台目のデバイスも必要で、これにより、両方のホストがどちらを主とするかについて合意できます。
- サーバー3台以上で、変更を失わずにマシンを別の場所で再起動する必要がある場合:Ceph。ホスト間にストレージネットワークを用意します。
- 多数のサーバーにまたがる共有ファイルまたはS3ストレージ:Ceph。
ZFSのほうが運用は簡単です。サーバー側の判断については、Proxmoxコンサルティングのページで説明しています。
容量と健全性
どちらのシステムにも空き容量が必要です。ZFSのプールは、満杯に近づくと遅くなります。各オブジェクトを3つ複製するCephクラスターでは、使用できるのは物理容量のおよそ3分の1で、さらに、失われたコピーを残りの領域に再構築するため、余裕が必要です。満杯になったCephクラスターは、書き込みを受け付けなくなります。当社は、ドライブ1本、またはCephノード1台を失っても再構築の余地が残るように、ストレージの容量を設計します。
劣化したストレージの復旧
最初のルールは、状況を悪化させないことです。ZFSでは、通常、故障したディスクを特定して交換し、プールの再構築を待つことを意味します。Cephでは、ドライブの故障、ノードの停止、ネットワークの設定ミス、クラスターの使いすぎが主な原因です。当社は原因を突き止め、検証しながら小さな手順で進めます。
どちらのシステムも、削除、ランサムウェア、誤った変更からは保護しません。ストレージには、テスト済みのバックアップと復旧計画を組み合わせてください。ストレージがコンテナ向けの場合は、LinuxとKubernetesのコンサルティングをご覧ください。
導入の進め方
- 評価。ハードウェア、ネットワーク、ストレージの健全性を確認します。
- 範囲の確定。リスクと作業順序を記載した書面の計画をお渡しします。
- 実装と検証。構築または修復を行い、障害のシナリオをテストして、ストレージを文書化します。
- 運用。監視とアップグレードは任意で、縛りはありません。
1営業日以内にご返信します。クリーブランド周辺の現地作業は、プロジェクトに合わせて日程を調整します。
企業向けストレージに関するご質問
ZFSとCephのどちらを使うべきですか?
主に、サーバーの台数で決まります。1台か2台ならZFSが向いています。3台以上で、サーバーを1台失ってもマシンが動き続ける必要がある場合は、Cephが向いています。
Cephには何台のサーバーが必要ですか?
最低3台で、サーバー間に適切なストレージネットワークが必要です。3台は、サーバーを1台失ってもデータを提供し続けられる最小のクラスターです。
他社が構築したZFSやCephのストレージを引き継げますか?
はい。健全性と設定を確認し、問題を修正し、文書化します。
スナップショットやCephのレプリカをバックアップの代わりにできますか?
いいえ。ZFSのスナップショットはデータと同じディスクにあり、Cephはあらゆる誤りをすべてのレプリカにコピーします。別のシステムにあるバックアップがあれば、誤りや攻撃から復旧できます。
こんな方におすすめです
- Proxmoxホストを1台か2台運用しており、スナップショットとレプリケーションしたコピーが欲しい企業
- Proxmoxクラスターを運用しており、フェイルオーバーできる共有ストレージが必要な企業
- ZFSプールが劣化している、またはCephクラスターが不健全で、診断できる担当者がいないチーム
- 自社のハードウェア上でS3互換オブジェクトストレージを運用したい事業者
関連ガイド
ナレッジベースの、わかりやすい解説です。
CephZFSクラスターProxmox VESupermicroオープンソース
ストレージの評価を受ける
ストレージを計画中でも、修復中でも、お使いのハードウェアで何ができるかをお伝えします。全米にリモートで対応し、ピッツバーグとクリーブランド周辺では予約制で現地訪問します。
相談を始める