Armazenamento Ceph e ZFS para empresas em Pittsburgh e Cleveland
A KawaConnect projeta, opera e repara armazenamento empresarial em Pittsburgh, Pensilvânia, e na região de Cleveland, no nordeste de Ohio. Trabalhamos com dois sistemas: o ZFS, para armazenamento dentro de um único servidor, e o Ceph, para armazenamento distribuído entre vários. Operamos o Ceph na nossa própria infraestrutura e construímos servidores e clusters Proxmox para clientes.
Converse sobre o seu armazenamento Consultoria Proxmox
O que o serviço de armazenamento abrange
Escolhemos o projeto de armazenamento que combina com seu hardware e suas cargas de trabalho, construímos e cuidamos dele. Também assumimos armazenamento construído por outra pessoa.
Projeto de armazenamento
Escolher entre ZFS e Ceph e depois planejar discos, redundância e rede de acordo com o que você executa.
ZFS em hosts Proxmox
Pools em espelho ou RAID-Z em um único host Proxmox VE ou em um par, com snapshots e replicação entre eles.
Clusters Ceph com Proxmox
Ceph integrado a um cluster Proxmox, para que os discos das máquinas virtuais fiquem em armazenamento compartilhado que sobrevive à falha de um host.
Monitoramento de integridade
Alertas de discos com falha, pools degradados e armazenamento enchendo, acompanhados por uma pessoa.
Planejamento de capacidade
Espaço utilizável calculado a partir de espelhos, paridade ou réplicas, com folga reservada para reconstruções.
Reparos e atualizações
Troca de discos, recuperação de pools e clusters degradados e atualizações de versão em etapas, com verificações a cada passo.
ZFS: armazenamento dentro de um único servidor
O ZFS combina um sistema de arquivos e um gerenciador de volumes e já vem integrado ao Proxmox VE. Um projeto típico é um host Proxmox com ZFS, ou dois hosts que replicam um para o outro, com backups em um sistema separado.
- Pools: discos agrupados em espelhos ou RAID-Z. O ZFS precisa de acesso direto a cada disco, e não de um volume RAID de hardware.
- Checksums e scrubs: o ZFS detecta dados que um disco danificou silenciosamente e os repara a partir da cópia redundante.
- Snapshots: uma cópia em um instante do disco de uma máquina virtual, feita em segundos antes de uma atualização ou de uma mudança arriscada.
- Replicação: snapshots enviados a um segundo servidor em intervalos programados. Se o primeiro host falhar, o segundo inicia as máquinas, perdendo apenas as alterações desde a última cópia.
Ceph: armazenamento em vários servidores
O Ceph reúne os discos de vários servidores em um único sistema de armazenamento e mantém cópias de cada pedaço de dado em máquinas diferentes. Se um disco ou um servidor inteiro falhar, os dados continuam disponíveis e o cluster reconstrói as cópias que faltam por conta própria. Nenhuma controladora de armazenamento isolada pode derrubar tudo. O Ceph oferece esse pool de três formas:
- Bloco (RBD): discos virtuais para máquinas virtuais. É o que o Proxmox usa.
- Arquivo (CephFS): um sistema de arquivos compartilhado que muitos servidores podem montar ao mesmo tempo.
- Objeto: um gateway compatível com S3 para aplicativos e software de backup.
O Ceph exige pelo menos três servidores, uma rede de armazenamento dedicada e alguém que entenda seus estados de integridade. Um aviso costuma ser um alerta antecipado de um disco com falha ou de um pool perto do limite, e o investigamos assim que aparece.
Qual deles se encaixa
- Um servidor: ZFS. O Ceph foi feito para distribuir dados entre máquinas e não traz vantagem em um único servidor.
- Dois servidores: ZFS em cada um, replicando entre si. Um cluster Proxmox de dois servidores também precisa de um pequeno terceiro dispositivo para desempate, para que os dois hosts concordem sobre qual deles está no comando.
- Três ou mais servidores, e as máquinas precisam reiniciar em outro lugar sem perder alterações: Ceph, com uma rede de armazenamento entre os hosts.
- Arquivos compartilhados ou armazenamento S3 em muitos servidores: Ceph.
O ZFS é o sistema mais simples de operar. Nossa página de consultoria Proxmox trata do lado do servidor dessa decisão.
Capacidade e integridade
Os dois sistemas precisam de espaço livre. Um pool ZFS fica mais lento à medida que se aproxima de cheio. Um cluster Ceph com três cópias de cada objeto tem cerca de um terço do espaço bruto utilizável, e precisa de mais além disso, porque reconstrói as cópias perdidas no espaço que sobra. Um cluster Ceph que enche para de aceitar gravações. Dimensionamos o armazenamento para que ele possa perder um disco, ou um nó Ceph, e ainda ter espaço para reconstruir.
Recuperação de armazenamento degradado
A primeira regra é não piorar as coisas. No ZFS, isso normalmente significa confirmar qual disco falhou, substituí-lo e deixar o pool se reconstruir. No Ceph, as causas usuais são discos com falha, um nó fora do ar, uma rede mal configurada ou um cluster cheio demais. Encontramos a causa e trabalhamos em passos pequenos e verificados.
Nenhum dos dois sistemas protege contra exclusão, ransomware ou uma alteração errada. Combine seu armazenamento com backups testados e planejamento de recuperação. Se o armazenamento atende contêineres, veja a consultoria em Linux e Kubernetes.
Como funciona um projeto
- Avaliação. Analisamos o hardware, a rede e a integridade do armazenamento.
- Escopo. Você recebe um plano por escrito com os riscos e a ordem do trabalho.
- Implementação e verificação. Construímos ou reparamos, testamos cenários de falha e documentamos o armazenamento.
- Operação. Monitoramento e atualizações opcionais, sem fidelidade obrigatória.
Respondemos em até um dia útil. O trabalho presencial na região de Cleveland é organizado conforme o projeto.
Perguntas sobre armazenamento empresarial
Devemos usar ZFS ou Ceph?
Na maior parte dos casos, depende de quantos servidores você tem. Um ou dois indicam ZFS. Três ou mais, em que as máquinas precisam continuar funcionando mesmo com a perda de um servidor, indicam Ceph.
De quantos servidores o Ceph precisa?
No mínimo três, com uma rede de armazenamento adequada entre eles. Três é o menor cluster que consegue perder um servidor e continuar entregando os dados.
Vocês podem assumir um armazenamento ZFS ou Ceph construído por outra pessoa?
Sim. Analisamos a integridade e a configuração, corrigimos o que estiver errado e documentamos.
Snapshots ou réplicas do Ceph podem substituir nossos backups?
Não. Os snapshots do ZFS ficam nos mesmos discos dos dados, e o Ceph copia cada erro para todas as réplicas. Backups em um sistema separado permitem se recuperar de erros e ataques.
Para quem é
- Empresas com um ou dois hosts Proxmox que querem snapshots e uma cópia replicada
- Empresas com um cluster Proxmox que precisam de armazenamento compartilhado com failover
- Equipes com um pool ZFS degradado ou um cluster Ceph com problemas e ninguém para diagnosticar
- Operadores que querem armazenamento de objetos compatível com S3 em hardware próprio
Guias relacionados
Explicações em linguagem simples da nossa base de conhecimento.
CephZFSClustersProxmox VESupermicroOpen source
Peça uma avaliação de armazenamento
Seja para planejar o armazenamento ou para consertá-lo, diremos o que o seu hardware suporta. Atendimento remoto em todo o país e presencial com agendamento em Pittsburgh e na região de Cleveland.
Inicie uma conversa