Software Defined Storage SDS for OwnCloud on Debian

= Objetivo =

Estudo sobre storage defined storage focado em cenário de servidor de arquivos, especificamente o OwnCloud, em escala governamental.

Existia uma implantação sobre máquinas físicas rodando RHEL e gravando em GFS2 mas que não atingia resultados satisfatórios nem em desempenho nem estabilidade e disponibilidade.

Um estudo emergencial para uma nova proposta rodando sobre máquinas virtuais Debian que deveria satisfazer requisitos de dobro de desempenho foi realizado  ainda para alcançar estabilidade e disponibilidade de serviço com menores recursos.

 

== Perfil de uso ==

Um servidor de arquivos , e especificamente o OwnCloud, deverá ter o perfil de escritas e leituras assíncronas aleatórias paralelas simultâneas de arquivos médios.

Usaremos o perfil obtido segundo bibliografia:

Web File Server, 64KB, 95% RD vs. 5% WR, 75% RAND vs. 25% SEQ, 0,02 IOPS/active_user avg, 0,8 IOPS/active_user peak.

Teremos de modelar da melhor forma possível a distribuição de quantidade por tamanho de arquivos conforme a expressão 2 e o histograma gerado da figura 4 no documento http://www.iaeng.org/publication/WCECS2012/WCECS2012_pp1400-1404.pdf , com pico máximo em 4 KB.
(Passos de RAZÃO 4 no gráfico logarítmico)

=== Requisitos não funcionais ===

Há ainda outros requisitos a considerar, como thin provisioning, compressão, desduplicação (custo X benefício), latência, IOPS, throughput, escalabilidade vertical e horizontal, SPOF, recursos de gerenciamento, suporte técnico, garantias de integridade de informação, soluções de alta disponibilidade, file/block/object storage, disaster recovery, backup and restore, maturidade, estabilidade sob carga, bugs, recuperação de falhas (fsck, journal), recuperação de inconsistências (split-brain), compatibilidade com padrões abertos, multiplataforma, flexibilidade de configurações a diferentes cenários, compatibilidade com soluções de virtualização e containers utilizadas, compatibilidade com owncloud, licença livre, fornecedores de soluções integradas.

= Análise =

****** O protocolo NFS lançado em público como v2 em maio de 1985 é o padrão de fato para acesso compartilhado a um sistema de arquivos. Só a partir da v4 o protocolo suporta configurações em cluster distribuidos, mas ainda poucos fornecedores implementaram desta forma. Todos os fornecedores e softwares estão preparados para trabalharem com o protocolo v3 e a maioria com o v4. Alguns estão já atendendo v4.1. Mas um servidor pNFS v4.0 livre ainda é restrito ao Ganesha. As outras implementações são proprietárias em fornecedores de storages.
É um meta sistema de arquivos, fornecendo acesso compartilhado a um sistema de arquivos nativo estável. Também tem a vantagem de ser protocolo exportado (em algumas ou até todas versões) por todos os fornecedores de NAS Storage Servers. A partir de NFSv4, tem conformidade POSIX.

***** A primeira versão do GlusterFS foi lançada em público em julho de 2006. Similar ao NFS apenas neste aspecto, é um meta sistema de arquivos fornecendo acesso compartilhado, a um sistema de arquivos nativo estável. E que suporte atributos estendidos. Diferentemente do NFS, é um sistema de arquivos em cluster, podendo ser distribuido também. De arquitetura modular, sem SPOF, com metadados distribuidos, viabiliza configurações apropriadas a diferentes cenários, incluindo replicação, striping, compressão. É um sistema de arquivos em cluster compartilhado e distribuído que já alcançou massa crítica e com bons conceitos de arquitetura. Desde 2011 a Red Hat assumiu a liderança no desenvolvimento, e é suportado em outras distribuições e kernels, pois opera em user space (para o bem e para o mal). O GlusterFS mantém os arquivos inteiros em cada brick subjacente utilizado, tornando possível uma recuperação emergencial com ferramentas nativas de cada filesystem nativo em caso das alternativas de self healing normais falharem. Existe um módulo servidor NFSv3 em kernel, um cliente fuse, e um servidor Ganesha NFSv4 em user space. A RedHat também fez parcerias com a OwnCloud. O GlusterFS tem restrições de cenário de aplicabilidade conhecidas, pois têm dificuldades de desempenho em arquivos pequenos, gravações síncronas e aleatórias, típicas de ambientes transacionais. Também depende de uma veloz rede de interconexão entre os servidores para troca de metadados especialmente em caso de cache miss. Originalmente in band, pode ser contornado por designação de porta em outra rota. Por isso na tecnologia atual de redes é homologado até 64 nós. Não é restrição técnica de variáveis ou constantes do software, mas da arquitetura e do hardware. Se reduzirem o tamanho dos metadados, o algoritmo (talvez aproveitando o conceito CRUSH do Ceph), possa aumentar mais. O conceito de metadados distribuidos o torna resiliente e conceitualmente escalável, mas paga um preço no desempenho. Afortunadamente, o projeto é modular e "translators" alternativos como um (triste e limitador) centralizador de metadados, e talvez até novo algoritmo, possam ser opcionalmente implantados conforme a necessidade e riscos. Tem conformidade POSIX. É um projeto que já alcançou massa crítica de desenvolvedores e usuários e razoável estabilidade, mas ainda tem limitações de desempenho para arquivos pequenos pela arquitetura atual.

*** O Ceph é um sistema de arquivos em cluster distribuido de acesso compartilhado. Não tem o volume único e é nativo. Começou o desenvolvimento em torno de 2007 e a primeira versão lançada em 2012, pela InkTank. Em 2014 a RedHat adquiriu a InkTank e a liderança do desenvolvimento do Ceph, mantendo o código livre. O conceito de metadados out of band é atrativo mas na versão de abril de 2015 ainda mantém um servidor único de metadados, com potencial gargalo e SPOF. Futuramente, sem data, haverá uma versão estável de cluster de metadados distribuidos sem SPOF. As medidas de recuperação de falhas (fsck e split-brain) ainda são incipientes, dependendo quase completamente das medidas em tempo real de self-healing sobre os volumes redundantes. Por causa do striping nativo, quase não é viável a recuperação de falhas catastróficas examinando volumes individuais. Não é modular como o GlusterFS. Mas a arquitetura é planejada para futuramente ser muito escalável, com metadados mínimos, algoritimo CRUSH , cluster de metadados e out of band. Como já foi aceito no kernel Linux, há uma boa velocidade de desenvolvimento e em poucos anos deverá lançar os recursos que faltam e depois buscar a estabilização. As outras distribuições e fornecedores têm suporte pois está no kernel. Mas outros kernels como FreeBSD, Solaris, Illumos, ainda não o suportam. Existe um esforço de viabilizar inicialmente para o FreeBSD. Além de filesystem, pode ser configurado como block storage e object storage. Ceph tem boa conformidade POSIX, mas não total. É um projeto que atrai uma massa crítica de desenvolvedores e usuários, mas ainda não está completamente implementado e nem estabilidade para produção. Acreditamos que com a quantidade de desenvolvedores e usuários possa atingir boa estabilidade já em 2017.

 

O GFS2 atualmente implantado é sensível a split brain e com restrições a recursos de software (não roda find). É um sistema de arquivos compartilhado nativo no kernel, exigindo hardware especial para um correto fencing. GFSv1 começou em 1995 para Irix. Em 1998 foi portado para Linux e aberto. Em 2001 foi fechado. Em 2003 a Red Hat comprou a Sistina Software e abriu o código, e patrocinou nova versão GFS2. Tem conformidade POSIX.

* O OCFS2 é mais simples, sendo um sistema de arquivos compartilhado, mas não distribuído, nativo em kernel. Tanto OCFS2 como GFS2 não apresentam significativas vantagens sobre o NFSv4 a não ser a implantação sobre Fiber Channel ser possível. OCFS foi lançado em 2003 pela Oracle e o OCFS2 foi aceito no kernel linux em março de 2006. Tem conformidade POSIX.

OpenAttic é um gerenciador de armazenamento interessante, mas ainda não consideramos com massa crítica.

OpenVstorage é um roteador virtualizador de armazenamento para virtualização a ser acompanhado com atenção devido aos conceitos. Ainda jovem e sem massa crítica, depende de sistemas de arquivos distribuidos e em cluster subjacentes, até mesmo object storage. Aproveita conceitos já vistos no ZFS, e também nos sistemas de arquivos em cluster em que se apoia. Mas ainda tem servidor de metadados centralizado. Muito interessante e deve ser acompanhado também.

RozoFS ainda é jovem e sem massa crítica, tem um servidor de metadados (SPOF e gargalo) mas adota uma forma de striping própria, com algoritmo próprio. O que também torna  inviável na prática (prazo, custos) a recuperação de falhas catastróficas.

***** OrangeFS descende de PVFS e PVFS2 que começou em 1993 e é um sistema de arquivos compartilhado e distribuído. Versões recentes já tem metadados distribuídos. Tem compatibilidade POSIX. Quais as empresas que suportam o OrangeFS? E no Debian? É preciso acompanhar. Tendo tantos anos de projeto deixa o sistema mais estável.

Lustre é um tradicional (desde 2003) e bem ativo sistema de arquivos distribuído e em cluster.  As versões recentes têm HSM e isso precisa ser acompanhado até em termos de solução turnkey integrada. Tem conformidade POSIX .  Foi aceito no kernel, mas o userland da 3.16 estava quebrado no Debian Jessie e estavam tentando backport da 3.17 e não foi viável a tempo para lançamento oficial. Outras distros suportam dependendo da versão do kernel. A Oracle fornece suporte para algumas versões. Infelizmente tem servidor centralizado de metadados, que embora com configuração HA em standby, ainda é potencial SPOF e gargalo. Muito embora o projeto tenha focado esforços em permitir múltiplas alterações paralelas simultâneas em um mesmo diretório, aumentando desempenho de metadados. ZFS também pode ser usado nos servidores de metadados e de gerenciamento em versões recentes. A partir da versão 2.4, subárvores de diretórios podem residir em servidores de metadados diferentes, aumentando a escalabilidade. Também a necessidade de acessos ao servidor de metadados foi reduzida, fazendo ACL e localização completa apenas. É preciso avaliar o desempenho HSM.

*** OpenArchive HSM e XtreemStore HSM são projetos livres impulsionados pela Graudata, que agora tem filial no Brasil. OpenArchive HSM é desenvolvido desde 1998 e tem licença AGPL. Oferece interface NFSv3 e desempenho para archiving. Sistemas HSM normalmente se apóiam sobre bancos de dados. Em todo caso, fitas são lentas.  É preciso determinar se fornece sistemas integrados turnkey. É preciso fazer um PoC do OpenArchive HSM se formos avaliar tais soluções, pois é um projeto longevo, com versão comercial com suporte técnico oficial no Brasil, e com versão para Debian.

Castor HSM é uma solução livre voltada ao ambiente científico, grandes arquivos e sem interface POSIX, dependendo de comandos específicos. Apesar de tradicional, desde 1999, seu cenário de uso é muito diverso da nossa necessidade e desempenho e operação serão inadequados. Há alternativas mais adequadas ao nosso cenário.

 

** Btier como HSM é uma idéia muito atrativa. Btier faz tiering de BLOCK devices, sem compartilhamento como DRBD, mas é possível criar volumes num compartilhamento NFS !!! Se unirmos tal recurso com LTFS, poderemos ter um HSM interessante.
É preciso formatar com algum sistema de arquivos sobre ele.
Mas atenção que LTFS sem suporte de apoio de uma solução com banco de dados fica BEM lento, pois os metadados têm de ser lidos das fitas ao longo de seu comprimento. Confere isso?
É um projeto jovem, 2012, mas usuários já relatam como suficientemente estável, devido a simplicidade alavancando outros recursos de kernel. A conferir. Projeto ativo, mas ainda não parece ter massa crítica. Dependendo do cenário de aplicação, pode ser interessante. Ainda não há quem forneça soluções integradas no Brasil em abril 2015.

Quantacast FS é um projeto livre jovem de sistema de arquivos em cluster distribuído , patrocinado por uma empresa, mas que ainda não tem representante no Brasil. Tem servidor de metadados centralizado.  Possui alguns conceitos interessantes como o uso de algoritmo Reed Solomon, o mesmo das fitas LTO, para garantia de integridade de informações, pois faz striping. O algoritmo permite uma eficiência de uso do espaço físico das mídias melhor que alternativas de crc ou paridade. Falta comparar com CEPH por exemplo. Mas parece ainda sem massa crítica, embora tal empresa apoie suas operações nele.

Oracle SAM QFS HSM compartilhado iniciou desenvolvimento em 2001 sob a Sun Microsystems. Teve código liberado durante o período do OpenSolaris, o que viabilizou forks como o SGI SAM QFS HSM da Versity. Hoje são sistemas proprietários na prática. E relatos em fóruns avisam que a implantação é problemática, exigindo cliente próprio sem protocolo padrão.

GPFS LTFS HSM foi das primeiras implementações de solução LTFS pela IBM. É um sistema proprietário e exige protocolo próprio em cliente nativo.

Nexenta Edge ainda está sendo desenvolvido como um object storage sobre ZFS. Licença poderá ser proprietária.

**** OpenAFS é um tradicional, 2001, meta sistema de arquivos distribuídos e compartilhados. É um metasistema de arquivos, precisando um filesystem LOCAL subjacente. Não deve ser outro filesystem externo montado e reexportado ou pode haver problemas na ordem de carga de módulos (o que pode ser até contornado; estudar). Tem um grande foco na quantidade de clientes conectados, documentados 25 mil clientes conectados numa instalação. Usa um cache weak consistency model e file locking callback para aumentar desempenho que podem inviabilizar uso em bancos de dados, mas pode ser suficiente para um servidor de arquivos. Conceitos dele serviram de base ao NFSv4. Está incorporado nos pacotes Debian. Resumidamente, é equivalente a um pNFS v4.x , e até serviu de inspiração em alguns conceitos. Com a vantagem de já ser um projeto livre tradicional e armazenar os arquivos inteiros sobre outros sistemas de arquivos locais. Também é possível exportar via protocolo NFSv3 para clientes, embora o acesso sofra desempenho pelo uso de mais uma camada NFS/AFS Translator. Não estava completamente em conformidade POSIX em 2011, pois retornava true sempre para algumas chamadas.

** XtreemFS é um sistema de arquivos distribuído, com replicação ou striping (não ambos simultaneamente), com foco em uso em WAN. Tem servidor de metadados e outro de diretório. Tem repositório próprio para Debian. Tem ferramenta xtfs_scrub . Em desenvolvimento desde 2007. Tem conformidade POSIX. Como o cenário de uso é para redes WAN, o desempenho não é o foco principal, mas a disponibilidade resiliente a falhas inclusive de rede e a integridade de dados. Deve ser resistente a situações split-brain.

* O BeeGFS é o antigo FhFS, que tem licença grátis mas não livre. Freeware. Talvez venha a ser open source no futuro. É um meta filesystem, dependendo de outro sistema de arquivos subjacente. Tem versão para Debian. Distribui os metadados entre vários servidores de metadados out-of-band. Faz striping, aumentando desempenho. Iniciou desenvolvimento em 2005. Focado em alto desempenho. Mas roda em user space. Bastante linear na escalabilidade conforme os benchmarks listados na sua página da wikipedia.

* O MooseFS é um sistema de arquivos distribuídos, livre desde 2008, com conformidade POSIX. Tem servidor de metadados centralizado out-of-band, mas ainda um SPOF. Implementa RAID para o striping, e precisa bom espaço para replicação. Tem o recurso de lixeira nativo, configurável em número de dias a armazenar. Também faz SNAPSHOTS, mas ainda precisamos saber a eficiência e desempenho. Opera em FUSE e é multiplataforma, inclusive FreeBSD. É ativamente mantido. Tem um servidor de logs transacionais de backup, para replay em caso de um crash do master de metadados. Tem recurso nativo de TIERING.

 

GfarmFS está ativo, mas não tem documentação além do código fonte. Tem poucos colaboradores atuais. Não é viável apoiar operações corporativas em tal fase.

CohortFS contribui código Pnfs diretamente para Ganesha e para código pNFS ao Ceph.

 

 

== DISASTER RECOVERY ==

=== Snapshots ===

Utilizar snapshots para recuperação de desastres é muito conveniente pois é muito rápido a restauração. Mas ainda corremos o risco, pois o snapshot é armazenado nas mesmas mídias originais. Um dano físico afetaria ambas. Precisa ser usado em conjunto com outra medida de recuperação de desastres.

=== Remote tape filesystem / block device image copies ===

A utilização de cópias de imagem de sistema de arquivos ou de dispositivo de blocos em fitas é bem mais barata e segura e durável. É mais lenta que uma replicação, mas economiza energia, refrigeração e investimentos. Pode ser usada em conjunto com snapshots.

=== Replicação remota assíncrona ===

Uma replicação remota assíncrona viabilizaria uma segura proteção de rápida restauração. Mas o custo de energia, refrigeração e investimentos é maior.

 

 

== BACKUP e RESTORE ==

O backup diário deve durar menos de 24 horas. Uma abordagem diferencial tanto de imagem quanto de conteúdo pode ajudar nesse objetivo.
Se houver uma redução de atividade no fim de semana, é possível que eventuais atrasos possam ser compensados nesse período. Mas exigiria o recurso de snapshots como alimentadores.

Outra abordagem é paralelizar, e para isso dividir o problema em partes menores é necessário. Assim, poderemos executar backup e eventual restore de partes do conjunto de arquivos. Para viabilizar isso, testamos o recurso dependente do atributo jDirectory armazenado no LDAP, que pode ser usado para armazenar a informação de onde está o diretório que armazena os arquivos de cada usuário. Há de se criar uma boa regra de formação para preenchimento desse atributo. Com esse atributo, poderemos dividir usuários por instituição e até grupos menores. Sub árvores de diretórios poderão ser backupeadas e restauradas, sem afetar outras. Usaríamos pontos de montagem de armazenamentos externos sobre diretórios locais.

Com estas divisões, poderíamos gerenciar o espaço prevenindo a necessidade de sistemas de arquivos distribuídos e muito grandes, que elevariam o risco em caso de falhas e aumentariam a complexidade dos processos backup e restore.
Com divisões, poderíamos até ter diferentes desempenhos e disponibilidades de armazenamento até numa mesma instituição, viabilizando a separação dos vips.

 

=== Fitas, LTFS ===

Fitas LTO ainda são a melhor forma de armazenamento offline em termos de durabilidade e consistência de dados em longo prazo. E hoje temos o formato LTFS padronizado que viabiliza o intercâmbio de fitas entre fornecedores e pode até ser operado de forma similar a uma mídia de acesso aleatório removivel, como cdrom ou pendrive. Claro que o desempenho em acesso aleatório é extremamente baixo. A mídia e controladores atuais não reordenam requisições aleatórias. Se for o caso, utilizam-se de softwares de bibliotecas que incluem bancos de dados que processam tais informações.

Como fitas LTO recentes, como LTO-4,5,6 são cada vez mais rápidas para acesso seqüencial de arquivos grandes, são muito adequadas para backups de imagem de sistema de arquivos.

=== Granularidade do backup e restore ===

Acesso aleatório direto a arquivos armazenados em fitas têm muito baixo desempenho e eventuais restores granulares a arquivos seriam penalizados. Embora muito práticos, podem não ser viáveis para recuperação de desastres.
Um backup de imagem de dispositivo de blocos ou de sistema de arquivos deveria ser incremental.
Portanto, uma abordagem dupla, sendo uma de imagem de dispositivo de blocos ou de sistema de arquivos, com maior desempenho para recuperação de desastres, e outra granular com acesso direto a arquivos, para restaurações por usuário, poderia ser implantada.

As diferentes abordagens exigirão planejamento e escolha adequada de solução de armazenamento, pois a divisão em sub-árvores de diretórios poderia dificultar o backup e restore de imagem sem um isolamento adequado dos pontos de montagem.

Pode ocorrer de mesmo dividindo, seja inviável o tempo de backup e restauração granular. Neste caso seria necessário utilizar a restauração de imagem em um disco temporário para então acessar e recuperar o arquivo desejado. Por ser mais trabalhoso, recomendamos planejar e dimensionar as divisões buscando a viabilização desses tempos.

 

 

=== HSM ===

Cogitamos utilizar solução HSM como armazenamento primário, porém mesmo obtendo desempenho aceitável, ainda precisaríamos de solução de contingência.  HSM não é backup, é solução de tiering incluindo fitas ou mídias óticas para redução de custos. Uma solução de backup e uma de DR ainda é necessária.
Se for o caso, será melhor utilizar um protocolo NFS padrão para a comunicação, prevenindo o uso de clientes ou drivers específicos que exigiriam manutenção e upgrades ao longo de anos. Situação ainda pior caso seja escolhida solução proprietária.

 

=== Object storage para backup ===

E o consumo de energia, refrigeração e durabilidade?
Utilizar object storage para backup está sendo defendido por uma corrente de sysadmins. Há várias alternativas de object storage que desempenham bem e são muito escaláveis. Mas é preciso lembrar que object storage desempenha melhor para arquivos grandes, o que não parece ser o perfil atual de nossos usuários. Para armazenar imagens de sistemas de arquivos seriam bons. Ainda é preciso lembrar que haveria um consumo bem maior de energia e de refrigeração. Também é preciso lembrar da durabilidade da consistência de dados nas fitas LTO. Os discos e mídias têm durabilidade consistente menor que as fitas LTO.

 

 

== SUPORTE INTERNO OU EXTERNO? ==

A definição de quem fará o suporte técnico total final é importante fator para definição da escolha. Suporte técnico externo restringirá as opções entre o leque de ofertas de mercado. O suporte interno ampliará as opções.

 

== Integrador interno ou externo? ==

Se a integração final será feita por equipe externa, dependerá de ofertas de mercado ou chamada pública para interessados. Sendo equipe interna terá de haver qualificação. A integração e suporte também dependem da opção ser puramente de software e se apoiada ou não sobre máquinas virtuais e qual tecnologia de virtualização. Também dependerá do protocolo utilizado viabilizar ou não o completo isolamento da opção de armazenamento.

Por exemplo, a opção por NFS permite que até mesmo NAS data storage servers possam atender diretamente as necessidades, ampliando o leque de opções entre internas ou externas.

 

 

 

 

== Peculiaridades do Owncloud ==

O uso do Owncloud traz suas peculiaridades que podem ajudar.
O conceito de external storage não se demonstrou boa prática, pois apesar de permitir até uso de object storage, colocou todos os arquivos num repositório de uso comum e quase livre acesso.

Então, para obter melhor controle de acesso, teremos de utilizar o conceito de grupos. Cada empresa ou instituição seria classificada como um grupo, pelo menos. Poderíamos até criar grupos na estrutura flat, que seriam efetivamente subgrupos de um grupo pai logicamente.

'''Com a utilização do plugin de autenticação LDAP, é possível usar o atributo jDirectory para definir o diretório de armazenamento de arquivos de cada usuário individualmente.'''

'''Portanto, se for idealizado uma boa estratégia de definição desses diretórios, poderemos dividir o armazenamento em diferentes diretórios por empresas e assim poder utilizar múltiplos pontos de montagem.'''

Isso é vital para a flexibilidade entre as opções. Não seremos obrigados a colocar todos os arquivos em um único filesystem, forçando a escolha de algum filesystem muito escalável e até distribuído.

 

 

== Considerações ==

O protocolo NFS é suportado por quase todo tipo de sistema operacional. O NFSv4, tendo conformidade POSIX , deve ficar transparente a toda aplicação. Mesmo o NFSv3 é bastante suportado em muitas aplicações.

Se pudermos manter as opções suportando este protocolo, aumenta a flexibilidade de alternativas de implantação. Poderíamos delegar muitas tarefas a uma solução de data storage server que exportasse compartilhamentos NFS, como por exemplo o livre FreeNAS ou sua versão comercial suportada TrueNAS, ou o gratuito/comercial NexentaStor baseado no kernel Illumos, ou o livre Napp-It.

Com a viabilidade de definir diretório de armazenamento individualmente por usuário, poderemos agrupar usuários de uma mesma instituição em um subdiretório de outro que seria um ponto de montagem NFS. Dividiríamos o problema em partes menores e gerenciáveis. Quando o espaço exigido por uma instituição excedesse a capacidade de um data storage server poderíamos ou subdividir ainda mais ou adotar um sistema de arquivos em cluster e distribuído escalável.

A tarefa de backup e restore  dos recursos também precisa ser avaliada, assim como os recursos de verificação de integridade (fsck, scrub, verify, etc).

O fator desempenho não é tão crítico como foi na análise para servidores de email, e portanto o striping e acesso paralelo têm importâncias menores.

Devido aos custos de armazenamento, o recurso de thin provisioning e compressão têm elevada importância. Disponível em alguns data storage servers , até livres alguns baseados em ZFS, disponibilizado também via protocolo NFS de forma transparente.

A característica de ter ou não gargalos arquiteturais e SPOF é importante para a escalabilidade horizontal ao porte governamental. Portanto metadados distribuídos são importantes.

A resistência a situações de split-brain é bem importante.

Recursos de alta disponibilidade são importantes.

Os outros fatores listados nos objetivos também são considerados, com peso menor.

Devemos considerar importante a viabilidade de implantação completa em software, sem exigência de hardwares exóticos , como para fencing, e a compatibilidade com virtualizadores e contâineres, em implantação externa ou interna a eles.

 

= Conclusões =

'''Soluções em protocolo NFSv4 são as que atendem melhor simultaneamente o maior número dos requisitos para uso no Owncloud em 2015 com plugin LDAP'''.

A implantação de todos os clientes sobre um mesmo namespace aumentaria a complexidade e riscos, exigindo sistemas de arquivos em cluster, talvez distribuídos, replicados e até paralelos. Se pudermos manter a implantação o mais simples possível, haverá maior estabilidade de serviço. '''Com o recurso disponibilizado pelo plugin LDAP do Owncloud, o particionamento em vários pontos de montagem NFS será viável por ao menos até 2017 (estimado).'''

Quando não mais for assim, devemos reavaliar a situação do GlusterFS, Ceph, OpenAFS, OrangeFS, XtreemFS, MooseFS, BeeGFS '''nesta ordem'''.

OpenAFS é mais antigo e estável, com massa crítica e incorporado no repositório Debian, mas não tem plena compatibilidade POSIX e com limitações em pontos de montagem e complexidade de implantação. Ceph é muito imaturo ainda mas tem o mais veloz desenvolvimento entre todos. A ordem dependerá da data em que for reavaliado. Se for antes de 2017, pode ser que Ceph ainda não tenha alcançado maturidade suficiente. GlusterFS é o mais simples, flexível, com abrangentes recursos e o que mais atende simultaneamente os requisitos depois do NFSv4, que não é distribuído nem paralelo como pNFSv4. Mas com limitações importantes conforme a análise, que '''podem''' impactar na aplicação pretendida se o perfil continuar com arquivos pequenos conforme observado até agora. É a plataforma de referência da Owncloud.

 

Precisamos lembrar que demora anos para um sistema de arquivos alcançar estabilidade e massa crítica de desenvolvedores e usuários, para uso em criticidade de produção com SLA. A experiência mostrou que 10 anos é um prazo normal médio, podendo variar com o investimento em desenvolvimento e testes e quantidade de usuários em diversos cenários. Uma boa quantidade de usuários garante exposição a diferentes cenários de uso, expondo bugs obscuros.

'''Solução de disaster recovery, backup, restore, serão melhor técnica e economicamente implantadas com alternativa baseada em biblioteca de fitas LTO e formato LTFS, para imagem de filesystem e também para alta granularidade de arquivos em sub árvores de diretórios viáveis no prazo diário ou de SLA conforme o caso'''.  Alguns sistemas de arquivos têm requisitos complexos de backup e restore para os metadados. Soluções NFS são as mais tradicionais e consolidadas em termos de disaster recovery, backup e restore.

 

 

= Bibliografia =

== Tamanho e distribuição de quantidade por tamanho de arquivos, variação no tempo e idade ==

http://www.iaeng.org/publication/WCECS2012/WCECS2012_pp1400-1404.pdf

http://research.microsoft.com/pubs/72896/fast07-final.pdf

Distribuição por tamanho dos arquivos:

O comando abaixo executará com timeout 180s, com prioridade 19  e abortará no timeout com sinal 9.

timeout -s 9 180s nice -n 19 find . -type f -print0 | xargs -0 ls -l | \
awk '{size[int(log($5)/log(2))]++}END{for (i in size) printf("%10d %3d\n", 2^i, size[i])}' | sort -n

Exemplo de resultado possível, que pode alimentar uma planilha e gerar gráfico:

         0 1144
         1  32
         2 1168
         4 101
         8 399
        16 3025
        32 23235
        64 11550
       128 6507
       256 8548
       512 18663
      1024 29183
      2048 20472
      4096 18165
      8192 13098
     16384 13097
     32768 8055
     65536 5508
    131072 1853
    262144 1068
    524288 611
   1048576 516
   2097152 239
   4194304 148
   8388608  77
  16777216  82
  33554432  47
  67108864  22
134217728  13
268435456  10
536870912  22
1073741824  18
2147483648  14
4294967296  14
8589934592   9
17179869184   1
68719476736   1
 

Exemplo de possível teste sintético parametrizável de carga usando fio. Será necessário criar outro para simular o perfil identificado na bibliografia.

Command line :
{{{
QUEUE_DEPTH=${qd} RAMP_TIME=${warm_time} DISK=${disk} SIZE=${size} RECORD_SIZE=${record_size} RUNTIME=${run_time} \
fio --output ${your_output_file_name} --section ${your_job_name} all.fio
}}}
Fio configure file :
{{{
[global]
iodepth=${QUEUE_DEPTH}
runtime=${RUNTIME}
ioengine=libaio
direct=1
size=${SIZE}
filename=${DISK}
ramp_time=${RAMP_TIME}

[seq-read-64k]
rw=read
bs=${RECORD_SIZE}
iodepth_batch_submit=8
iodepth_batch_complete=8

[seq-write-64k]
rw=write
bs=${RECORD_SIZE}
iodepth_batch_submit=8
iodepth_batch_complete=8

[rand-write-64k]
rw=randwrite
bs=${RECORD_SIZE}
iodepth_batch_submit=1
iodepth_batch_complete=1

[rand-read-64k]
rw=randread
bs=${RECORD_SIZE}
iodepth_batch_submit=1
iodepth_batch_complete=1

[rand-write-4k]
rw=randwrite
bs=${RECORD_SIZE}
iodepth_batch_complete=1
iodepth_batch_submit=1

[rand-read-4k]
rw=randread
bs=${RECORD_SIZE}
iodepth_batch_submit=1
iodepth_batch_complete=1

[seq-read-4k]
rw=read
bs=${RECORD_SIZE}
iodepth_batch_submit=8
iodepth_batch_complete=8

[seq-write-4k]
rw=write
bs=${RECORD_SIZE}
iodepth_batch_submit=8
iodepth_batch_complete=8

}}}

 

http://kernelnewbies.org/LinuxVersions

http://serverfault.com/questions/19257/distributed-storage-filesystem-wh...

 

== Owncloud external storage ==

https://doc.owncloud.org/server/4.5/admin_manual/custom_mount_config.html ******

http://www.ranjith.info/p/owncloud.html ************

https://doc.owncloud.org/server/8.0/admin_manual/configuration_files/ext...

https://doc.owncloud.org/server/8.0/admin_manual/configuration_files/ext... look group mounts ************

http://blog.patshead.com/2014/09/self-hosted-cloud-storage-comparison-20... **

https://forum.owncloud.org/viewtopic.php?t=20

https://forum.owncloud.org/viewtopic.php?t=24658

http://sharadchhetri.com/2013/10/23/how-to-mount-nas-storage-in-owncloud...

http://owncloud.10557.n7.nabble.com/External-Storage-NFS-mount-not-avail...

http://12factor.net/

https://doc.owncloud.org/server/7.0/admin_manual/configuration/external_...

https://doc.owncloud.org/server/7.0/admin_manual/configuration/external_...

https://forum.owncloud.org/viewtopic.php?f=8&t=8456#p20596

https://forum.owncloud.org/viewtopic.php?t=7118

https://owncloud.com/wp-content/uploads/2013/08/oc_architecture_overview... ***********

https://doc.owncloud.org/server/8.0/admin_manual/installation/installati...

https://doc.owncloud.org/server/8.0/admin_manual/configuration_user/user... ******

https://doc.owncloud.org/server/8.0/admin_manual/configuration_files/ext...

https://doc.owncloud.org/server/8.0/admin_manual/installation/apps_manag...

https://owncloud.org/blog/extend-your-owncloud-with-apps/

https://doc.owncloud.org/server/8.0/admin_manual/configuration_user/user... **********

https://owncloud.com/solutions/service-provider/

http://pt.slideshare.net/ownCloud/architecture-overview-32194748 ****

http://www.fierceenterprisecommunications.com/story/enterprise-file-stor...

https://amigotechnotes.wordpress.com/2013/11/28/assign-a-different-direc...

https://forum.owncloud.org/viewtopic.php?t=7118

https://apps.owncloud.com ***

 

== NFSv4 HA ==

http://wiki.linux-nfs.org/wiki/index.php/Main_Page

http://en.wikipedia.org/wiki/Network_File_System

http://www.ecei.com/network-attached-storage.shtml

http://wiki.linux-ha.org/HaNFS

http://web.archive.org/web/20070630065713/http://chilli.linuxmds.com/~ms...

http://swift.siphos.be/aglara/fileserver.html

https://help.ubuntu.com/community/HighlyAvailableNFS

http://serverfault.com/questions/459484/how-to-do-client-side-nfs-failov...

https://www.howtoforge.com/high_availability_nfs_drbd_heartbeat

http://linux.die.net/man/1/inotifywait ***

http://lists.omniti.com/pipermail/omnios-discuss/2013-December/001868.html

http://lists.linux-ha.org/pipermail/linux-ha/2010-March/040027.html

http://docs.ipswitch.com/moveit/central/onlineguide/en/MICCentralService...

http://marc.info/?t=108387036400001&r=1&w=2

 

== NFS performance ==

https://help.ubuntu.com/community/NFSv4Howto

https://wiki.archlinux.org/index.php/NFS

http://wiki.linux-nfs.org/wiki/index.php/Comparison_of_NFS_vs._others

http://www.columbia.edu/~ra2028/USENIX/NFS%20Tuning%20for%20High%20Pefor...

http://www.fsl.cs.stonybrook.edu/docs/nfs4perf/nfs4perf-microscope.pdf ***************************************************************************

https://wiki.archlinux.org/index.php/NFS/Troubleshooting

http://sgros.blogspot.com.br/2012/12/controlling-which-congestion-contro...

http://www.cs.arizona.edu/projects/protocols/

http://en.wikipedia.org/wiki/TCP_congestion-avoidance_algorithm

http://en.wikipedia.org/wiki/TCP_Vegas

http://www.softpanorama.org/Commercial_linuxes/Performance_tuning/tcp_pe...

http://www.softpanorama.org/Net/Application_layer/NFS/nfs_performance_tu... ********

https://devcentral.f5.com/articles/tcp-congestion-control-the-mobile-net...

https://bugs.debian.org/cgi-bin/bugreport.cgi?bug=678727

http://anonscm.debian.org/cgit/collab-maint/nfsometer.git/

http://wiki.linux-nfs.org/wiki/index.php/NFSometer

http://wiki.linux-nfs.org/wiki/index.php/NFStest

http://www.columbia.edu/~ra2028/USENIX/NFS%20Tuning%20for%20High%20Pefor... *********

http://en.community.dell.com/techcenter/high-performance-computing/b/hpc... **

http://searchstorage.techtarget.com/report/Troubleshooting-and-identifyi...

http://serverfault.com/questions/341279/storing-64000-files-and-growing-... ****

http://serverfault.com/questions/14577/what-network-file-sharing-protoco... ****

 

 

== pNFS , NFS 4.1 cluster ==

Debian 8.x Jessie já suporta NFSv4.1 por default mas parece não suportar pnfs option em exports.
invoke-rc.d nfs-kernel-server
cat /proc/fs/nfsd/versions

https://www.kernel.org/doc/Documentation/filesystems/nfs/nfs41-server.txt

https://lists.debian.org/debian-kernel/2014/02/msg00251.html

http://www.citi.umich.edu/NEPS/positions/hildebrand.pdf

http://www.pnfs.com/

http://netapp-blog.blogspot.com.br/2012/05/pnfs.html

http://captainkvm.com/2012/10/using-pnfs-to-scale-out-rhel-kvm/

https://idc-community.com/groups/it_agenda/storageanddatamanagement/open...

http://wiki.linux-nfs.org/wiki/index.php/Configuring_pNFS/spnfsd

http://wiki.linux-nfs.org/wiki/index.php/PNFS_Setup_Instructions ainda não implementado no Jessie

http://wiki.linux-nfs.org/wiki/index.php/PNFS_Development_Git_tree

cat /proc/fs/nfsd/versions

http://clusterdesign.org/2013/03/parallel-nfs-pnfs-the-war-is-close/

http://searchstorage.techtarget.com/news/2240172459/Parallel-NFS-suffers...

http://www.phoronix.com/scan.php?page=news_item&px=pNFS-Linux-4.0-Block-...

https://access.redhat.com/documentation/en-US/Red_Hat_Enterprise_Linux/6...

http://pt.slideshare.net/bergwolf/pnfs-status

https://bitbucket.org/gusev_vitaliy/nfs-41 Illumos

https://www.illumos.org/projects/nfs-41 Illumos ****

http://www.cyberciti.biz/faq/nfs4-server-debian-ubuntu-linux/ *

http://wiki.linux-nfs.org/wiki/index.php/Nfsv4_configuration

http://wiki.linux-nfs.org/wiki/index.php/Server_4.0_and_4.1_issues

http://wiki.linux-nfs.org/wiki/index.php/NFSv41_Introduction

http://linuxconfig.org/how-to-configure-nfs-on-linux

https://svnweb.cern.ch/trac/lcgdm/wiki/Dpm/NFS41/SPNFS

http://wiki.linux-nfs.org/wiki/index.php/Configuring_pNFS/spnfsd

http://snia.org/sites/default/files/Part4-Using_pNFS%20Feb._2013.pdf  **

http://wiki.linux-nfs.org/wiki/index.php/PNFS_Development

http://www.ibm.com/developerworks/library/l-pnfs/index.html ***

http://www.tarasistem.com/SiteAssets/%C3%A7%C3%B6z%C3%BCmler/netapp1/Net... ******

http://wiki.linux-nfs.org/wiki/index.php/PNFS_File-based_Stateid_Distrib...

http://wiki.linux-nfs.org/wiki/index.php/PNFS_File-based_Stateid_Distrib...

http://wiki.linux-nfs.org/wiki/index.php/PNFS_Development_Road_Map

http://wiki.linux-nfs.org/wiki/index.php/Fedora_pNFS_Client_Setup

http://wiki.linux-nfs.org/wiki/index.php/PNFS_Setup_Instructions

http://www.citi.umich.edu/projects/asci/pnfs/linux/ **

http://wiki.linux-nfs.org/wiki/index.php/Main_Page

http://www.citi.umich.edu/projects/nfsv4/

https://www.usenix.org/legacy/events/fast11/tech/slides/welch.pdf ****

http://wiki.linux-nfs.org/wiki/index.php/Cluster_Coherent_NFS_design

http://wiki.linux-nfs.org/wiki/index.php/NFSv41_Introduction

http://git.linux-nfs.org/?p=bhalevy/linux-pnfs.git;a=summary

http://wiki.linux-nfs.org/wiki/index.php/PNFS_Setup_Instructions não oficial no kernel ainda

https://wiki.debian.org/NFSServerSetup

https://lists.fedoraproject.org/pipermail/scm-commits/2010-September/485...

https://packages.debian.org/jessie/amd64/nfs-common/filelist

https://packages.debian.org/jessie/amd64/nfs-kernel-server/filelist

http://wiki.linux-nfs.org/wiki/index.php/Configuring_pNFS/spnfsd  depreciado

http://wiki.linux-nfs.org/wiki/index.php/PNFS_server_projects

http://debianhelp.co.uk/nfs.htm

https://fedoraproject.org/wiki/Changes/NFSGanesha ***********

http://www.pdl.cmu.edu/pNFS/

http://www.pdsw.org/pdsw06/resources/PDSI-tampa-honeyman.pdf

http://lists.freebsd.org/pipermail/freebsd-fs/2014-April/019399.html **

https://github.com/nfs-ganesha/nfs-ganesha *****************

https://github.com/nfs-ganesha/nfs-ganesha/wiki ************

http://nfs-ganhesha.sourceforge.net/

https://vault2015.sched.org/event/1afb434427d25b8faac97937ad4b388a#.VSU1...

https://blogs.oracle.com/tdh/entry/netapp_announces_pnfs_server

http://osdir.com/ml/file-systems.pvfs2.users/2008-09/msg00019.html pnfs/pvfs2

http://www.citi.umich.edu/projects/asci/pnfs/docs/pnfspvfs2.html **

http://trac.dcache.org/wiki/Chimera chimera nameserver

http://nfsworld.blogspot.com.br/2011/11/netapp-has-shipped-its-pnfs-serv...

http://www.snia.org/sites/default/education/tutorials/2011/fall/Networki...

http://www.citi.umich.edu/projects/asci/pnfs/linux/

https://github.com/accelio/accelio/

https://wiki.ceph.com/Planning/Blueprints/Hammer/Accelio_RDMA_Messenger

http://git.linux-nfs.org/?p=bhalevy/linux-pnfs.git;a=blob;f=fs/nfsd/nfs4...

http://linux-nfs.vger.kernel.narkive.com/aJdxphoj/patch-pnfsd-correct-th...

http://lwn.net/Articles/365850/

http://www.spinics.net/lists/linux-nfs/msg25362.html

https://www.ietf.org/mail-archive/web/nfsv4/current/msg07614.html

http://git.linux-nfs.org/?p=bhalevy/linux-pnfs.git;a=summary

http://anonscm.debian.org/cgit/kernel/nfs-utils.git/tree/ ***

http://debian-handbook.info/browse/squeeze/sect.nfs-file-server.html

http://www.spinics.net/lists/linux-nfs/msg48651.html

http://www.spinics.net/lists/linux-nfs/msg50613.html *************************************

http://wiki.linux-nfs.org/wiki/index.php/PNFS_block_server_setup

http://git.linux-nfs.org/?p=bfields/linux.git;a=blob;f=Documentation/fil... ****

http://git.linux-nfs.org/?p=bfields/linux.git;a=blob;f=Documentation/fil...

http://git.infradead.org/users/hch/pnfs.git

http://sourceforge.net/p/nfs-ganesha/mailman/nfs-ganesha-announce/ antigo??

https://bugs.debian.org/cgi-bin/bugreport.cgi?bug=613805 ganesha debian package ?

https://www.openhub.net/p/nfs-ganesha/factoids **

 

== OpenAttic ==

http://openattic.org

http://demo.openattic.org/openattic/index.html

http://docs.openattic.org/

 

== OpenVstorage ==

http://openvstorage.com/

https://bitbucket.org/openvstorage/openvstorage/wiki/Home

http://doc.openvstorage.com/doc_openvstorage/

https://bitbucket.org/openvstorage/openvstorage/src/3d20140dc81349e4412b...

== RozoFS ==

http://en.wikipedia.org/wiki/RozoFS

http://www.rozofs.org/

https://github.com/rozofs/rozofs

http://www.fizians.com/

https://www.openhub.net/p/rozofs

 

 

== GlusterFS ==

http://en.wikipedia.org/wiki/GlusterFS

https://access.redhat.com/articles/88723 **************************  glusterfs i/o profile restrictions

https://owncloud.com/wp-content/uploads/2014/06/Red-Hat-ownCloud-Referen... *

http://www.gluster.org/community/documentation/index.php/GlusterFS_Techn...

http://linuxpoison.blogspot.com.br/2012/06/setting-up-glusterfs-network-...

http://www.gluster.org/pipermail/gluster-devel/2014-May/040820.html

http://www.gluster.org/community/documentation/index.php/Translators/clu...

http://www.gluster.org/documentation/architecture/Translators/

http://www.gluster.org/documentation/architecture/internals/Dougw:Unders...

http://joejulian.name/blog/dht-misses-are-expensive/ ************

http://www.spinics.net/lists/gluster-devel/msg13132.html ***

http://blog.gluster.org/tag/scalability/ *****

http://www.gluster.org/community/documentation/index.php/Features/dht-sc...

http://www.virtualizationpractice.com/is-gluster-the-answer-to-scalable-...

http://pt.slideshare.net/Gluster/red-hat-storage-introduction-to-glusterfs

http://www.severalnines.com/blog/clustering-moodle-multiple-servers-high...

http://www.gluster.org/pipermail/gluster-users/2012-January/009311.html

https://owncloud.com/wp-content/uploads/2014/06/Red-Hat-ownCloud-Referen... *******************

https://owncloud.com/redhat/

https://www.dalemacartney.com/2013/11/25/scaling-web-applications-red-ha...

https://owncloud.com/wp-content/uploads/2014/09/Red-Hat-Storage-Bundle-1...

http://www.gluster.org/community/documentation/index.php/Gluster_3.2:_In...

http://www.gluster.org/pipermail/gluster-users/2013-November/014912.html multiple disks per node

http://blog.gluster.org/category/performance/  *********

http://blog.gluster.org/2014/05/gluster-scale-out-tests-an-84-node-volume/ ************

http://www.gluster.org/community/documentation/index.php/GlusterFS_Gener...

http://serverfault.com/questions/494418/how-can-i-repair-dir-total-size-...

http://tech.gaeatimes.com/index.php/archive/review-of-glusterfs-distribu...

https://www.mail-archive.com/gluster-users@gluster.org/msg18231.html

http://northernmost.org/blog/improving-glusterfs-performance/ *********

https://sankiller.wordpress.com/glusterfs/ ***

http://serverfault.com/questions/491116/gluster-whats-a-brick-vs-a-node *

http://bioteam.net/2010/07/playing-with-nfs-glusterfs-on-amazon-cc1-4xla...

https://labs.ohloh.net/p/glusterfs ****

http://www.google.com.br/trends/explore#q=%2Fm%2F027sz21%2C%20%2Fm%2F026... **

https://forge.gluster.org/snapshot/pages/Home

http://www.gluster.org/community/documentation/index.php/Features/Gluste...

http://www.softwareprojects.com/resources/programming/t-6-months-with-gl...

https://cedarandthistle.wordpress.com/2012/03/31/glusterfs-madness/

https://cedarandthistle.wordpress.com/2010/08/25/btrfs-on-the-server/

http://www.mail-archive.com/gluster-users@gluster.org/msg08351.html

https://www.devco.net/archives/2010/09/22/experience_with_glusterfs.php

http://highscalability.com/product-glusterfs

 

 

== OrangeFS ==

http://pt.slideshare.net/GWOcon/architectureof-a-nextgeneration-parallel...

http://en.wikipedia.org/wiki/OrangeFS

http://www.orangefs.org/trac/orangefs/wiki/Posix-like%20APIs

http://www.pvfs.org/

http://www.orangefs.org/trac/orangefs/wiki/OrangeFSInstallOnDebian

http://orangefs.org

http://www.orangefs.org/fisheye/orangefs/browse ****

http://www.orangefs.org/trac/orangefs/query?status=new&status=assigned&s...

http://www.orangefs.org/fisheye/orangefs/browse

'http://www.socallinuxexpo.org/scale11x-supporting/default/files/presenta... - Scale11x.pdf' ************

http://stackoverflow.com/questions/17425153/distributed-file-systems-gri... comentário de Raul Kist

https://scalability.org/2011/02/need-to-look-at-moosefs/

http://www.orangefs.com

http://www.beowulf-underground.org/pipermail/pvfs2-users/2014-February/0... orangefs on debian wheezy ****

http://update2.intellique.com/pub/

http://forum.imasters.com.br/topic/533484-tutorial-de-montagem-de-cluste...

http://lvee.org/en/abstracts/33 Introduction to distributed file systems. OrangeFS experience

http://www.socallinuxexpo.org/scale11x/presentations/orangefs-next-gener... **********

http://www.hpcwire.com/2011/11/18/parallel_file_system_orangefs_starts_t... ***********************

https://aws.amazon.com/marketplace/pp/B00CO78Q5I

http://www.orangefs.org/documentation/releases/current/doc/pvfs2-faq/pvf...

http://www.beowulf-underground.org/pipermail/pvfs2-developers/

http://www.beowulf-underground.org/pipermail/pvfs2-users/

 

== Lustre cluster FS HSM ==

http://en.wikipedia.org/wiki/Lustre_%28file_system%29

http://lustre.org/ ***

http://www.oracle.com/us/products/032293.htm

http://recoverymonkey.org/2012/02/10/netapp-delivers-1tbs-performance-to...

http://opensfs.org/press-releases/lustre-file-system-version-2-5-released/

https://build.hpdd.intel.com/job/lustre-manual/lastSuccessfulBuild/artif... ****************************

https://hpc.uni.lu/blog/2013/generating-debian-packages-under-3-dot-2-ke...

https://www.kernel.org/pub/linux/kernel/v3.0/ChangeLog-3.16.4

http://www.seagate.com/files/www-content/solutions-content/cloud-systems... *********

https://www.openhub.net/p/lustre

 

== Ceph ==

https://packages.debian.org/search?keywords=ceph

https://www.openhub.net/p?ref=homepage&q=ceph

http://ceph.com/docs/master/start/quick-ceph-deploy/

http://ceph.com/papers/weil-crush-sc06.pdf

http://wiki.gentoo.org/wiki/Ceph#Metadata_Server

http://www3.nd.edu/~dthain/courses/cse40771/spring2007/psnowber-ceph.pdf  ********

http://pt.slideshare.net/Inktank_Ceph/scaling-ceph-at-cern

https://software.intel.com/en-us/blogs/2013/10/25/measure-ceph-rbd-perfo... **********

http://ceph.com/docs/master/start/hardware-recommendations/

http://www.lamsade.dauphine.fr/~litwin/cours98/Doc-cours-clouds/ceph-200... *****

http://www.cs.brandeis.edu/~tsikudis/papers/dais12.pdf ****

https://www.suse.com/promo/ceph-enterprise-storage/

https://www.suse.com/products/suse-enterprise-storage/

http://www.inktank.com/enterprise/

http://ceph.com/category/owncloud/

http://docs.ceph.com/docs/master/cephfs/

http://docs.ceph.com/docs/master/architecture/

http://www.sebastien-han.fr/blog/2012/07/04/remove-a-mds-server-from-a-c...

http://muratbuffalo.blogspot.com.br/2011/03/ceph-scalable-high-performan... ********

http://ceph.com/dev-notes/cephfs-mds-status-discussion/ *******************

http://www.spinics.net/lists/ceph-devel/msg17091.html *******

http://www.virtualtothecore.com/en/adventures-ceph-storage-part-1-introd...

http://karan-mj.blogspot.com.br/2014/01/zero-to-hero-guide-for-ceph-clus... ****

http://docs.openstack.org/trunk/config-reference/content/ceph-backup-dri...

https://ceph.com/community/blog/tag/backup/

http://ceph.com/docs/v0.86/dev/rbd-diff/

http://grigory.info/BackupRBD.About.html

http://pt.slideshare.net/Inktank_Ceph/ceph-performance ****

http://tracker.ceph.com/issues/4137 fsck scrubbing ***********

http://events.linuxfoundation.org/sites/events/files/slides/Vault%20Ceph... ****

https://www.mail-archive.com/ceph-users@lists.ceph.com/msg14402.html backup

http://www.spinics.net/lists/ceph-users/msg08842.html

http://docs.hpcloud.com/helion/openstack/1.1/ceph-hp-helion-openstack-ci...

https://access.redhat.com/documentation/en-US/Red_Hat_Enterprise_Linux_O...

http://nicksabine.com/post/ceph-backup/

http://ceph.com/docs/master/man/8/rbd/

http://www.spinics.net/lists/ceph-users/msg07160.html backup restore

http://www.admin-magazine.com/HPC/Articles/Ceph-Maintenance

https://www.mail-archive.com/ceph-users@lists.ceph.com/msg14420.html backup restore

http://t3491.file-systems-ceph-user.file-systemstalk.us/backups-t3491.html

https://www.suse.com/pt-br/products/suse-enterprise-storage/features/cep...

http://docs.deis.io/en/latest/managing_deis/backing_up_data/ ***

https://github.com/deis/deis

http://deis.io/overview/

http://docs.deis.io/en/latest/understanding_deis/architecture/

https://wiki.ceph.com/Planning/Blueprints/Emperor/Increasing_Ceph_portab...

http://ceph.com/docs/firefly/dev/differences-from-posix/

http://kernelpanik.net/running-ceph-on-zfs/ *****

https://labs.ohloh.net/p/ceph ***

 

== OpenArchive HSM XtreemStore FileLock ==

http://www.lascon.co.uk/OHSM-requirements.php ************

http://en.wikipedia.org/wiki/Hierarchical_storage_management ***

http://www.graudata.com/english/parallel-filesystem

http://www.graudata.com/sites/default/files/file/XtreemStore_E.pdf

http://www.graudata.com/english/sites/default/files/file/OpenArchive_E.pdf

http://www.graudata.com/english/node/182

http://www.graudata.com/english/ArchiveManager

http://www.graudata.com/english/Contact

http://www.graudata.com.br

http://www.graudata.com.br/OPENARCHIVE

http://www.graudata.com/english/OPENARCHIVE

http://www.openarchive.net/start

http://www.graudata.com/sites/default/files/file/Scalable-OpenSource-Sto...

http://www.graudata.com.br/english/filelock

http://www.openarchive.net/download/installation-guide

http://www.openarchive.net/download

http://www.openarchive.net/sites/default/files/file/0309-OA-QG-E-350.pdf

http://ceph.com/community/blog/tag/backup/

http://www.inktank.com/enterprise/roadmap/

 

 

== Castor HSM ==

https://www.terena.org/activities/tf-storage/ws17/slides/Cernbox-Status-...

http://castor.web.cern.ch/

https://cern.service-now.com/service-portal/article.do?n=KB0000487

http://cern.ch/castorold/presentations/2004/MSST2004/MSST2004-40.pdf

 

== OHSM ==

http://en.wikipedia.org/wiki/Hierarchical_storage_management

http://ohsm.sourceforge.net/

http://sourceforge.net/projects/ohsm/

https://www.kernel.org/doc/ols/2009/ols2009-pages-263-274.pdf ***

http://serverfault.com/questions/44026/home-brew-automatic-tiered-storag... ***

http://code.google.com/p/fscops/

http://fscops.googlecode.com/svn/trunk/fscops/ohsm/

https://www.openhub.net/p/fscops

 

== OCFS2 ==

http://en.wikipedia.org/wiki/OCFS2

http://www.oracle.com/us/technologies/linux/025995.htm

https://oss.oracle.com/projects/ocfs2/

http://www.vivaolinux.com.br/artigo/Alta-disponibilidade-com-Debian-Lenn...

http://blogdovicente.com/2010/12/13/sistema-de-arquivos-compartilhado-no...

http://oracle-base.com/articles/linux/ocfs2-on-linux.php

http://www.dias.eti.br/cluster-file-system-com-ocfs2/

https://drbd.linbit.com/users-guide/ch-ocfs2.html

== GFS2 ==

http://blogdovicente.com/2009/12/30/sistema-de-arquivos-compartilhado-no...

 

 

== Btier ==

e se lessfs, btier + ltfs ?
http://www.mjay.me/hierarchical-storage-management-the-open-source-way/

http://www.lessfs.com

http://www.lessfs.com/wordpress/?p=924

 

 

== Quantacast FS ==

http://en.wikipedia.org/wiki/Quantcast_File_System

http://radar.oreilly.com/2012/09/qfs-improves-performance-of-hadoop-file... ***

http://quantcast.github.io/qfs/

https://www.quantcast.com/engineering/qfs

https://github.com/quantcast/qfs/wiki/Introduction-To-QFS

http://www.storagenewsletter.com/rubriques/software/quantcast-file-system/ ***

https://github.com/quantcast/qfs

https://www.openhub.net/p/qfs

 

== Oracle SAM QFS HSM ==

http://en.wikipedia.org/wiki/QFS

https://wikis.oracle.com/display/SAMQFS/Home ****

https://java.net/projects/solaris-userland/sources/community-source-arch... ***************************

http://insidehpc.com/2008/03/sam-and-qfs-available-as-open-source/

http://www.oracle.com/us/products/servers-storage/storage/storage-softwa... Oracle Hierarchical Storage Manager (formerly StorageTek Storage Archive Manager)

https://solaris.java.net/index.html

https://java.net/projects/solaris-userland/sources/gate/show/components?...

http://storagemojo.com/2009/12/08/a-1-petabyte-science-project/ ****

https://java.net/projects/solaris-userland/sources

https://java.net/projects/solaris-userland/sources/gate/show/tools

https://java.net/projects/solaris-userland/sources

https://java.net/projects/solaris-userland/sources/community-source-arch...

https://java.net/projects/solaris-userland/sources/gate/show/components

http://www.oracle.com/technetwork/server-storage/solaris/libsam-139052.html ***

https://wikis.oracle.com/display/SAMQFS/SAM-QFS+5.3+What+Works+With+What

http://docs.oracle.com/cd/E22586_01/html/E22571/gkwas.html **

https://wikis.oracle.com/display/SAMQFS/Oracle+HSM+6.0

http://www.lupe-christoph.de/Personal/Perl/Filesys-SamFS/

https://github.com/gitpan/Filesys-SamFS

 

 

== SGI SAM QFS HSM ==

http://www.enterprisetech.com/2013/11/06/cray-taps-hsm-startup-tiered-st... ****

http://www.versity.com/product#prod_top_features

 

 

 

 

== GPFS HPSS HSM ==

http://www.hpss-collaboration.org/SC07.shtml

 

== GPFS LTFS HSM ==

http://www.zurich.ibm.com/sto/systems/bigdata.html

 

 

== Nexenta Edge ==

http://www.nexenta.com/products/nexentaedge

http://www.nexenta.com/products

http://www.scherm.com.br/storage/scherm-nexenta-storage.html

https://www.terena.org/activities/tf-storage/ws12/slides/20120220-nexent...

 

== ZFS as base of GlusterFS brick, as ZFS is not a cluster fs ==

http://nex7.blogspot.com.br/2013/03/readme1st.html

http://blog.solori.net/tag/vmware/page/2/

https://forums.freenas.org/index.php?threads/bad-performance-fn-9-1-iscs...

https://bugs.freenas.org/issues/1531

http://edge.spectralogic.com/index.cfm?fuseaction=home.displayFile&DocID...

https://www.spectralogic.com/products/compare-disk/

http://americatecnologia.com.br/spectralogic.html

http://www.theregister.co.uk/2013/09/19/spectralogic_spins_out_a_disk_ar...

https://rudd-o.com/linux-and-free-software/ways-in-which-zfs-is-better-t...

https://wiki.archlinux.org/index.php/ZFS_on_FUSE

http://superuser.com/questions/654043/how-to-mount-zfs-fuse-earlier-in-b...

http://www.funtoo.org/ZFS_Fun ***

http://www.osnews.com/story/19665/Solaris_Filesystem_Choices

 

== AFS Andrew File System, OpenAFS , kAFS ==

http://pt.wikipedia.org/wiki/Sistema_de_arquivos_distribu%C3%ADdo

http://en.wikipedia.org/wiki/Category:Distributed_file_systems

http://en.wikipedia.org/wiki/Andrew_File_System

http://information-technology.web.cern.ch/services/afs-service

http://docs.openafs.org/index.html

http://information-technology.web.cern.ch/book/afs-administrator-guide

http://docs.openafs.org/AdminGuide/index.html

http://www.openafs.org/

http://lxr.linux.no/#linux+v3.19.1/Documentation/filesystems/afs.txt

https://lists.openafs.org/pipermail/openafs-info/2013-June/039633.html openafs sobre zfs

https://lost-contact.mit.edu/afs/cern.ch/project/doc/html/reports/Rx-lim... ****

https://packages.debian.org/source/wheezy-backports/openafs *****

https://wiki.freebsd.org/afs-server ***

http://stackoverflow.com/questions/5468349/sqlite-compatible-with-openaf... **

http://docs.openafs.org/ReleaseNotesWindows/ch03s19.html *

http://pt.slideshare.net/ManfredFuruholmen/osdc *********

https://www.openhub.net/p/openafs ****

http://docs.openafs.org/AdminGuide/HDRWQ603.html nfs export ***********

https://lists.openafs.org/pipermail/openafs-info/2012-November/038918.html workaround nfs export *****

https://lists.openafs.org/pipermail/openafs-info/2012-November/038925.html workaround nfs user space ****

https://www.mail-archive.com/openafs-info@openafs.org/msg39438.html not possible export mounted nfs using afs

https://www.debian-administration.org/article/610/OpenAFS_installation_o... *****

https://packages.debian.org/source/stable/openafs ******

https://labs.ohloh.net/p/openafs ***********

http://www.openafs.org/credits.html *****

 

== Gfarm FS ==

http://en.wikipedia.org/wiki/Gfarm_file_system

http://sourceforge.net/projects/gfarm/files/?source=navbar

https://www.openhub.net/p?q=gfarm

http://datafarm.apgrid.org/

 

 

== Hadoop FS ==

http://en.wikipedia.org/wiki/Apache_Hadoop#Hadoop_distributed_file_system

http://en.wikipedia.org/wiki/Apache_Hadoop#HDFS

 

== MooseFS ==

http://en.wikipedia.org/wiki/Moose_File_System

http://www.moosefs.org/

http://www.moosefs.com/

http://www.moosefs.org/who-is-using-moosefs.html

https://moosefs.com/products/overview.html ****

https://www.openhub.net/p/moosefs/factoids

http://sourceforge.net/p/moosefs/bugs/?source=navbar

http://sourceforge.net/projects/moosefs/files/

http://sourceforge.net/p/moosefs/wiki/Home/

https://moosefs.com/download.html

http://www.moosefs.org/news-reader/items/moosefs-30-easter-edition.html

https://www.openhub.net/p/moosefs

http://www.moosefs.org/news-reader/items/moosefs-2-0-60-1-released-and-b...

 

== XtreemFS ==

http://en.wikipedia.org/wiki/XtreemFS

http://www.xtreemfs.org/

https://www.openhub.net/p/xtreemfs

 

 

== Object Storage ==

https://storagemojo.com/2014/06/10/dear-storagemojo-replace-4pib-of-tape...

 

== ZFS ==

http://www.solarisinternals.com/wiki/index.php/ZFS_Best_Practices_Guide#...

http://cuddletech.com/blog/pivot/entry.php?id=984 Understanding ZFS: Replication, Archive and Backup

http://www.solarisinternals.com/wiki/index.php/ZFS_Best_Practices_Guide

http://www.oracle.com/us/products/servers-storage/storage/tape-storage/b...

 

 

== Outros ==

https://swiftstack.com/try-it-now/

http://www.mpstor.com

http://www.scality.com/ring/

http://blog.tecnologiaqueinteressa.com/2014/04/9-solucoes-de-armazenamen...

https://code.google.com/p/opensmt-project/

http://www.computerweekly.com/feature/Scale-out-NAS-product-survey-The-b...

http://www.emc.com/storage/isilon/isilon-onefs-operating-system.htm

http://en.wikipedia.org/wiki/List_of_file_systems#Distributed_parallel_f...

http://www.quantum.com/products/scale-out-storage/index.aspx

http://www.oracle.com/us/products/servers-storage/storage/tape-storage/b... Oracle StorageTek Storage Archive Manager ZFS HSM

https://books.google.com.br/books?id=nRjCAgAAQBAJ&pg=PA122&lpg=PA122&dq=... IBM SONAS event driven changes

http://www.tack.ch/unix/dmapi/ XFS DMAPI old but will be ressurrected in future kernels *****

http://xfs.org/index.php/XFS_FAQ

http://en.wikipedia.org/wiki/Coda_%28file_system%29 stalled development

http://en.wikipedia.org/wiki/List_of_file_systems#Distributed_file_systems

https://www.your-file-system.com

http://lizardfs.com/what-is-lizardfs/ **

 

 

== Backup billion files ==

http://www.symantec.com/connect/forums/backup-clients-having-billions-ch...

https://www.ibm.com/developerworks/community/blogs/Netezza/entry/adaptin...

http://storageswiss.com/2014/01/13/how-tape-can-fix-the-unstructured-bac...

https://forums.freebsd.org/threads/backup-solution-for-ginormous-zfs-poo...

http://markmail.org/message/o4xalkpwyq7me5cn

http://blog.infrageeks.com/blog/tag/backups

http://en.wikipedia.org/wiki/ReFS

http://www.enterprisestorageforum.com/backup-recovery/open-source-storag... ****

http://en.wikipedia.org/wiki/Linux_Virtual_Tape_Library_%28Open_Source%29

http://www.sprillion.com/virtual-tape-library.html

http://www.quadstor.com/

http://www.quadstor.com/virtual-tape-library.html

http://www.junauza.com/2009/01/7-best-freeopen-source-backup-software.html

https://wiki.ubuntu.com/TimeVault

http://www.arkeia.com/solutions/backup-to-tape

https://blogs.oracle.com/ako/entry/tape_backup_for_zfs

http://lib.stanford.edu/files/pasig-spring08/ChrisWood_MassiveArchive.pdf ********

http://www.infostor.com/nas/58-top-open-source-storage-project-1.html ****

http://sourceforge.net/projects/ohsm/  ***

http://ohsm.sourceforge.net/

 

== LTFS NAS, LTFS LE NAS, LTFS EE NAS ==

http://en.wikipedia.org/wiki/Linear_Tape_File_System

http://www.enterprisestorageforum.com/backup-recovery/ltfs-tape-disk-hyb...

http://www.crossroads.com/data-archive-products/strongbox

http://www.computerweekly.com/feature/LTFS-tape-NAS-A-great-idea-stuck-i...

http://www.data-storage.co.uk/lto-tape-storage/ltfs-linear-tape-file-sys...

https://www-304.ibm.com/partnerworld/wps/servlet/download/DownloadServle...$cnt&attachmentName=automating_data_tiering_with_ibm_linear_tape_file_system.pdf&token=MTQyNzkxMzM0MTc5MA==&locale=en_ALL_ZZ

http://www.computerweekly.com/feature/LTFS-tape-NAS-A-great-idea-stuck-i...

http://www.backupcentral.com/mr-backup-blog-mainmenu-47/13-mr-backup-blo...

http://www.fujifilmusa.com/products/tape_data_storage/case_studies/pdf/H... ************

http://www.ironmountain.com/Knowledge-Center/Reference-Library/View-by-D...

https://books.google.com.br/books?id=vLDEAgAAQBAJ&printsec=frontcover&hl... IBM SONAS

http://searchdatabackup.techtarget.com/news/2240147461/Tape-NAS-emerges-...

http://searchdatabackup.techtarget.com/answer/Tape-vs-disk-Which-offers-... ****

http://www.computerweekly.com/guides/LTFS-tape-NAS-guide-What-it-is-and-...

http://searchdatabackup.techtarget.com/news/2240147461/Tape-NAS-emerges-... **

http://www.backupcentral.com/mr-backup-blog-mainmenu-47/13-mr-backup-blo... *********

https://pthree.org/2012/12/04/zfs-administration-part-i-vdevs/

http://www.quantum.com/products/tapelibraries/scalarltfs/index.aspx

http://www-01.ibm.com/support/knowledgecenter/STZMZN/com.ibm.storage.hol... ********

http://www.dternity.net/products/network-attached-storage

https://www.spectralogic.com/products/spectra-tfinity/ ***

http://edge.spectralogic.com/index.cfm?fuseaction=home.displayFile&DocID...

http://www.cache-a.com/ftpcommon/Cache-A_LTFS_FAQ_020411.pdf

http://cache-a.com/

http://cache-a.com/products/overview/ ***

 

== Zimbra HSM ==

ZxPowerstore

http://wiki.zextras.com/wiki/ZxPowerstore:_Hierarchical_Storage_Manageme...

http://wiki.zextras.com/wiki/ZxPowerStore_Admin_Guide

http://wiki.zextras.com/wiki/ZxPowerStore_FAQ

http://wiki.zextras.com/wiki/ZeXtras_Backup_Validation

== BeeGFS , FhGFS ==

http://www.beegfs.com **

http://www.beegfs.com/wiki/Overview

http://www.beegfs.com/docs/BeeGFS_Flyer.pdf

http://www.beegfs.com/wiki/StorageServerTuning  ****************

http://en.wikipedia.org/wiki/BeeGFS

http://moo.nac.uci.edu/~hjm/fhgfs_vs_gluster.html **** Distributed Filesystems: Fraunhofer vs Gluster

 

== CohortFS ==

https://www.cohortfs.com/

https://www.cohortfs.com/project/cohortfs-osd

https://www.cohortfs.com/about-cohortfs

 

== Tools, statistics ==

http://www.iaeng.org/publication/WCECS2012/WCECS2012_pp1400-1404.pdf

http://research.microsoft.com/pubs/72896/fast07-final.pdf

http://www.cyberciti.biz/faq/how-do-i-find-the-largest-filesdirectories-...

http://tldp.org/LDP/lame/LAME/linux-admin-made-easy/checking-storage-spa...

http://superuser.com/questions/565443/generate-distribution-of-file-size... ******

http://linuxaria.com/article/5-ways-to-check-your-disk-usage-on-linux

http://blogs.msdn.com/b/tvoellm/archive/2009/05/07/useful-io-profiles-fo... ***************

https://technet.microsoft.com/en-us/library/bb125019%28v=exchg.65%29.aspx

http://arstechnica.com/civis/viewtopic.php?t=71230 *******************************************************

http://blog.synology.com/?p=146 ****

http://www.thecloudcalculator.com/calculators/disk-raid-and-iops.html

http://support.sas.com/resources/papers/Best-Practices-for-Configuring-I...

http://www.vmware.com/files/pdf/support/landing_pages/Virtual-Support-Da...

http://dft.if.uerj.br/cursos/labs/lab02.ps

http://fisica.uems.br/lab1/apostila/cap2_representa_grafica.pdf

http://www.fis.ita.br/labfis24/grafic/textos_graf/grafic_texto2.htm

http://www.ufpa.br/urban/documentos/LaboratorioBasico1/graficos.pdf

http://www.bluestop.org/fio/HOWTO.txt

http://linux.die.net/man/1/fio

https://github.com/khailey/fio_scripts

 

== Owncloud alternatives ==

http://seafile.com/en/home/

http://www.qoncious.com/questions/seafile-vs-owncloud-comparison-and-review

http://blog.patshead.com/2014/09/self-hosted-cloud-storage-comparison-20...

https://pyd.io/

 

 

== Problemas Owncloud ==

https://forum.owncloud.org/viewtopic.php?f=3&t=5952 Multiple Companies on a single Owncloud Installation

https://github.com/owncloud/core/issues/7072 Synchronizing small files = very slow

https://github.com/owncloud/client/issues/331 Upload of many Files really slow

https://github.com/owncloud/core/issues/5084 PROPFIND bug prevents larger number of files per directory (and causes connection timeouts)

https://github.com/owncloud/core/issues/6937 [6.0.1] Slow sync to oC server. Delay in sending packets from oC server to NFS server

https://github.com/owncloud/client/issues/1482  Sync (with large folders) gets timeout and restarts without uploading

https://github.com/owncloud/core/issues/3118 Multiple file uploading and deleting is very slow

https://forum.owncloud.org/viewtopic.php?f=14&t=17477&p=79098#p79073  Re: Poor performance with many small files??? antivirus workaround

https://forum.owncloud.org/viewtopic.php?f=26&t=21785 Multiple instances

https://forum.owncloud.org/viewforum.php?f=31&start=50 owncloud 8

https://forum.owncloud.org/viewtopic.php?f=31&t=27097&start=10 Discovering VERY slow and sync Speed VERY slow

https://forum.owncloud.org/viewtopic.php?f=31&t=27840&start=10  oc8 seems to drag apache down on high client sync loads
The post_max_size integer value must be larger than upload_max_filesize.

https://forum.owncloud.org/viewtopic.php?f=31&t=27722 All Clients stuck in Sync cycle

 

 

== Owncloud tuning ==

http://httpd.apache.org/docs/2.2/misc/perf-tuning.html

https://doc.owncloud.org/server/8.0/admin_manual/configuration_server/pe...

https://doc.owncloud.com/server/7.0EE/admin_manual/operations/performanc...

http://www.multiclinic.com.br/owncloud/core/doc/admin/configuration_serv...

https://forum.owncloud.org/viewtopic.php?f=8&t=10692&sid=362b58a248e92b8...

https://forum.owncloud.org/viewtopic.php?f=23&t=10537

 

Blog Tags: