O Hotmail recebe um novo sistema de armazenamento - ainda mais rápido!

O Hotmail recebe um novo sistema de armazenamento - ainda mais rápido!
O Hotmail recebe um novo sistema de armazenamento - ainda mais rápido!

Vídeo: O Hotmail recebe um novo sistema de armazenamento - ainda mais rápido!

Vídeo: O Hotmail recebe um novo sistema de armazenamento - ainda mais rápido!
Vídeo: Como ativar e usar a Inteligência Artificial do Photoshop? - YouTube 2024, Novembro
Anonim

O Hotmail recebe bilhões de mensagens de e-mail todos os dias e elas precisam ser armazenadas com segurança e devem ser prontamente disponibilizadas com eficiência. O sistema de armazenamento baseado em nuvem do Hotmail suporta mais de um bilhão de caixas de correio e centenas de petabytes de dados (um petabyte é um milhão de gigabytes). E administrar centenas de milhares de transações simultâneas de maneira eficiente nessa escala é um desafio de engenharia. O sistema de armazenamento é construído usando a tecnologia Microsoft, incluindo o Windows Server e o Microsoft SQL Server.

A Microsoft está trabalhando em uma grande atualização para esse sistema de armazenamento. Desde o início deste ano, um novo sistema baseado em tecnologias desenvolvidas no Hotmail está sendo executado em um cluster piloto usando contas pessoais de funcionários da Microsoft. E após testes rigorosos, o novo sistema foi certificado, o que proporciona maior confiabilidade a um preço significativamente menor.

Vamos ver algumas dessas novas tecnologias usadas pelo Hotmail.

Implementando o JBOD substituindo o RAID:

“O RAID (Redundant Array of Inexpensive Disks) é uma tecnologia que permite que vários discos rígidos sejam conectados a uma única placa controladora, o que os faz parecer com um único disco rígido maior e muito mais confiável (às vezes chamado de“Unidade Lógica”). o software que executa o sistema de armazenamento.”

O Hotmail está usando o RAID há muito tempo. Os e-mails foram mantidos em vários grupos de RAID, de modo que, mesmo quando o RAID inteiro falha, as mensagens podem ser restauradas. O Hotmail estudou a perspectiva de confiabilidade de unidades de capacidade maiores que 1 terabyte e descobriu que não era o valor do dinheiro do ponto de vista da confiabilidade. Como os sistemas RAID lidam facilmente com problemas que afetam o sistema único, mas não quando a máquina inteira ou o controlador RAID enfrenta problemas. O Hotmail descobriu que ter cópias em uma máquina diferente, que não compartilha o controlador, era não apenas mais confiável, mas também mais barato do que a configuração RAID.
O Hotmail está usando o RAID há muito tempo. Os e-mails foram mantidos em vários grupos de RAID, de modo que, mesmo quando o RAID inteiro falha, as mensagens podem ser restauradas. O Hotmail estudou a perspectiva de confiabilidade de unidades de capacidade maiores que 1 terabyte e descobriu que não era o valor do dinheiro do ponto de vista da confiabilidade. Como os sistemas RAID lidam facilmente com problemas que afetam o sistema único, mas não quando a máquina inteira ou o controlador RAID enfrenta problemas. O Hotmail descobriu que ter cópias em uma máquina diferente, que não compartilha o controlador, era não apenas mais confiável, mas também mais barato do que a configuração RAID.

Então, eles desenvolveram JBOD (apenas um monte de discos) onde as cópias de dados residem em discos rígidos, controladores e máquinas independentes. Assim, fazendo o controlador do disco rígido quase completamente fora do caminho e entregando-o ao software para controlar. Este software do sistema JBOD foi desenvolvido pelo Hotmail.

Este software JBOD monitora constantemente as falhas e gera um alerta quando encontrado, provocando assim um processo de reparo. Esse processo de reparo pode estar reinicializando uma máquina ou reiniciando um processo, para consertar corrupção de dados ou até mesmo envolver intervenção humana, se necessário. A principal vantagem de usar o software é que ele pode manter as boas cópias de e-mails priorizando a ação de reparo se encontrar menos cópias. Usando este software, a própria replicação foi simplificada
Este software JBOD monitora constantemente as falhas e gera um alerta quando encontrado, provocando assim um processo de reparo. Esse processo de reparo pode estar reinicializando uma máquina ou reiniciando um processo, para consertar corrupção de dados ou até mesmo envolver intervenção humana, se necessário. A principal vantagem de usar o software é que ele pode manter as boas cópias de e-mails priorizando a ação de reparo se encontrar menos cópias. Usando este software, a própria replicação foi simplificada

“The storage system consists of a set of machines, each of which has its copy of an email message and a journal recording messages that have arrived, organized by arrival date. The machines talk to each other from time to time, compare their journals, and copy any messages that they realize haven’t been copied to all machines.“

Implementando Unidades de Estado Sólido (SSDs) em vez de discos rígidos.

Sabemos que os SSDs são muito mais rápidos que os discos rígidos. Os discos rígidos, embora maiores e mais baratos, são lentos na manipulação da taxa de solicitações.

“A normal hard drive can perform a little more than one hundred read/write operations per second, whereas some of the fastest SSDs can do over one hundred thousand operations per second.”

Embora essa velocidade tenha um preço, eles são muito caros / gigabytes em comparação aos discos rígidos.

Os SSDs lidam com a carga em constante mudança de maneira eficiente. Isso pode ser explicado como o Hotmail não apenas armazena as mensagens de e-mail, mas também monitora vários metadados em constante mudança, como lista de mensagens na caixa de entrada, status de mensagens lidas / não lidas, encadeamento de conversas, etc. Esses metadados ocupam uma pequena fração do espaço de armazenamento coloca a carga máxima em discos rígidos devido à natureza em constante mudança. Portanto, usar SSDs para armazenar metadados e discos rígidos para mensagens é uma combinação melhor e eficiente.

Além dessas melhorias, o Hotmail revelará muito mais em posts futuros. O lançamento do novo sistema de armazenamento já começou e os novos clusters serão baseados no JBOD. Já 30 milhões de usuários estão no JBOD enquanto outros 100 milhões estarão se movendo no decorrer do tempo.
Além dessas melhorias, o Hotmail revelará muito mais em posts futuros. O lançamento do novo sistema de armazenamento já começou e os novos clusters serão baseados no JBOD. Já 30 milhões de usuários estão no JBOD enquanto outros 100 milhões estarão se movendo no decorrer do tempo.

Se você percebeu, o Hotmail se tornou muito rápido. Se você não tiver tentado agora.

Recomendado: