DeepSeek開源并發布3FS,高速并行文件系統優化AI數據訪問
發布時間:2025-02-28 09:17 作者:清風不語
【DeepSeek開源并發布3FS,高速并行文件系統優化AI數據訪問】八六軟件園報道,據DeepSeek公告,在開源周第五天,其Fire-Flyer文件系統(3FS)正式開源,作為一款高性能并行文件系統,3FS可充分利用現代SSD和RDMA網絡,實現高速數據訪問,提升AI模型訓練與推理效率。
3FS關鍵性能指標:
在180節點集群中實現6.6 TiB/s總讀取吞吐量;
在25節點GraySort基準測試中達到3.66 TiB/分鐘吞吐量;
單節點KVCache查詢峰值吞吐量超40+ GiB/s。
3FS采用分離式架構,支持數據預處理、數據集加載、檢查點存儲/恢復、嵌入向量搜索及推理KVCache查詢,具備強一致性語義。DeepSeek同步推出Smallpond數據處理框架,進一步優化3FS數據管理能力。
本分分類: 7*24快訊
版權聲明:本文由八六軟件園用戶發布,不代表八六軟件園立場,轉載聯系作者并注明出處:http://m.ilovecl.com/post/22524.html

