Eu estou olhando para construir um novo servidor doméstico e gostaria de um sistema de arquivos flexível. Tanto o btrfs quanto o zfs são interessantes. Eu quero ser capaz de fazer um ataque leve e ter uma solução flexível, o que me permite expandir o armazenamento com facilidade, à medida que eu adiciono discos rígidos. Não estou interessado em invasão de hardware devido ao custo. Como este é um servidor não essencial, estou disposto a brincar e correr alguns riscos. Este servidor de mídia estará disponível na Internet para reprodução remota. O mais provável é rodar o software Plex Media Server. Estou pensando em rodar o Ubuntu 12.04, já que alguns dos softwares que eu quero usar parecem apenas suportados no LTS.
Atualmente estou usando o btrfs, tendo usado zfs no passado. O zfs é bastante faminto por memória e não é "nativo do Linux", então se você está feliz com um sistema de arquivos mais novo/menos comprovado, eu recomendo o btrfs.
Se você for o btrfs no Ubuntu LTS, eu recomendo ficar com o 14.04, já que os kernels recentes têm muitas atualizações do btrfs.
Um sistema mais tradicional envolveria LVM + md software raid, esta é uma solução experimentada e testada que pode fornecer armazenamento expansível, raid de software, snapshots, etc, mas não é tão "legal" quanto os sistemas de arquivos mais novos e perde alguns recursos ( como checksumming/COW).
Hardware RAID é muito reverenciado por alguns, mas eu acho que é como sonhar em ter um tanque do exército dos EUA como seu único veículo. Claro que é seguro, mas é enorme, tem manutenção proibitiva e custos com combustível e, na verdade, se torna uma armadilha quando o deixa no meio do nada, sem que nenhum serviço de reparo padrão possa ajudá-lo.
Além disso, o hardware RAID tem falhas conhecidas que as soluções completas de software RAID, como o BTRFS e o ZFS, evitam.
Para o tipo de uso que você está planejando, não existe uma solução de RAID de software "melhor" entre o ZFS e o BTRFS, é apenas uma questão de escolher o que melhor se adapta a você:
Espero que ajude.