大型網站淘寶網的儲存架構 - 儲存設備

Todd Johnson avatar
By Todd Johnson
at 2010-09-08T12:19

Table of Contents

原文請看這
http://storage.it168.com/a2010/0829/1096/000001096373.shtml

http://www.taobao.com/ 淘寶網排位約在alexa 15名上下

2006 時 淘寶網所需空間容量 約為200TB ,平均都是20K bytes 左右圖片檔
大量小檔案對於多機共用的 Cluster Storage Disk I/O會是不小挑戰

再加上每年2~3 倍在成長... 原有的頂級Netapp 也無法兼具系統效能與成長性.
(像"有名"當初買了Sun StorageTek ...其實整體規劃不是好架構)

因此Taobao 便自行研發Cluster Storage system
名為:TFS (Taobao File System)
同類型opensources 專案還有 hdfs http://hadoop.apache.org/hdfs/


分散式儲存架構 等於將DATA 用普通Server 多台分散存放

Taobao 目前約有600台一般 x86 Server .1800TB 空間
並沒有額外買昂貴Storage Server做主力儲存

TFS file block 在別台Server 都有多一份備份 本身不太依賴Raid做安全備份
我是有點懷疑這樣佔用空間會怎樣..2倍?

TFS 原理請看link

不過 Sources code近期會公開..到時就可更瞭解其架構

參考資料
1.http://doulexiang.com/redirect.php?tid=220&goto=lastpost&sid=P7T37S

2.
Taobao CDN 架構
http://storage.it168.com/a2010/0829/1096/000001096374.shtml


※ 編輯: laptop 來自: 219.91.90.240 (09/08 12:34)
chang0206 :哇嗚,自己開發File System,真是大工程 09/08 15:34


All Comments

Victoria avatar
By Victoria
at 2010-09-13T06:22
哇嗚,自己開發File System,真是大工程

全新硬碟壞掉PCB 印刷電路板~

Victoria avatar
By Victoria
at 2010-09-08T10:29
最近整理房間 竟然發現到當初四年前 兩顆被弟弟弄壞印刷電路板 當初剛買來的日立硬碟... 兩顆160GB,不過應該是過保固了 想請問一下,該送去給原廠日立修嗎? 還是直接送給代理商修? 這種維修應該不便宜,當初買了一顆2400... 誰知道弟弟白目 TwT 還是有甚麼其他更好的處理? 謝謝 ...

WD5002ABYS 企業版硬碟的妥善率問題

Sierra Rose avatar
By Sierra Rose
at 2010-09-08T10:05
小弟前陣子買了一顆 WD5002ABYS 企業版硬碟 回家裝好並且重灌,用不到一週就連主機板一起掛了 (主機板是M55+S3G v1.0,SATA1、2與IDE1、2故障;硬碟則是抓不到) 寄回富基之後,二話不說就換了一顆給我 不過上網查查資料,在美國那邊有提到WD有 ...

Kingston SSD 64G VS WD 640g AAKS raid0

Kelly avatar
By Kelly
at 2010-09-08T07:19
※ 引述《y3k ( )》之銘言: SSD的好 有些人是不屑 有些人是不知道 老實講 這要親身體驗才行 數據口碑等大部分都不會被聽進去 這是個人認為SSD目前要推廣的第二大困難點(第一大是G/$) 兩年前買的一顆ADATA JMF602正在我電腦裡服役 目前當轉檔和看大量圖片用 晚上要讓電腦幹一些粗活的時候 ...

TDK 16G重新格式化後,保密程式不見了 > <"

Tristan Cohan avatar
By Tristan Cohan
at 2010-09-08T05:27
格式化後 沒想到裡面的程式跟著消失 我還需要靠保密程式進入另一個磁碟區 在tdk網頁上也沒提供軟體下載 請問還有沒有什麼解決方法? 謝謝 - ...

Kingston SSD 64G VS WD 640g AAKS raid0

Candice avatar
By Candice
at 2010-09-08T03:01
不好意思 原po 有些事情講得太白了 基於人情問題 全數自D 大家愛買甚麼就買 就當作我沒說過這些話.. :p - ...