跳转至

Google 三驾马车:GFS、MapReduce、Bigtable

论文简介

  • 来源:Google(Sanjay Ghemawat、Jeff Dean 等)
  • 先修要求:操作系统基础、计算机网络基础
  • 课程难度:🌟🌟🌟🌟
  • 预计学时:20 小时 +

Google 的三篇经典论文——GFS(Google File System)、MapReduce、Bigtable——奠定了现代分布式系统的基础。Hadoop、HBase、Spark 等开源项目都直接受这些论文影响。

阅读这三篇论文,你不仅能理解分布式系统的核心设计思想,还能看到工业界如何解决真实的分布式问题。

论文资源

GFS: The Google File System

  • 论文:GFS Paper(SOSP 2003)
  • 核心思想:分布式文件系统,通过数据分片和副本实现高可用

MapReduce: Simplified Data Processing on Large Clusters

  • 论文:MapReduce Paper(OSDI 2004)
  • 核心思想:大规模数据处理的编程模型,自动并行化和容错

Bigtable: A Distributed Storage System for Structured Data

  • 论文:Bigtable Paper(OSDI 2006)
  • 核心思想:分布式结构化数据存储,基于 GFS 和 SSTable

自学建议

按顺序阅读。 GFS → MapReduce → Bigtable,后者依赖前者的技术。

关注设计取舍。 每篇论文都做了大量的工程权衡,理解这些权衡比记住设计细节更重要。

配合 MIT 6.824 使用。 论文讲设计思想,6.824 让你动手实现。

备注

这三篇论文是分布式系统的"圣经"。即使你没有时间读其他分布式系统论文,这三篇也必读。

后来的开源项目(Hadoop、HBase、Cassandra、Spark)都直接受这些论文影响。