构建可扩展的微博系统
- 1. 构建可扩展微博架构 Tim Yang 新浪微博 技术架构师
- 2. 从博客到微博
- 3. 博客 ? 功能 –发表 –浏览 –留言 ? Content Manager System
- 4. 博客 ? 技术 , LAMP –MySQL master/slave –Memcached –PHP –CDN
- 6. 信息聚合
- 7. 信息聚合 ? 微博两种信息聚合设计模式 –Push( 推 ) –Pull( 拉 )
- 8. Push ? 把微博看做邮件 –Inbox: 收到的微博 –Outbox: 已发表微博 ? 发表：存到所有粉丝 inbox( 重 ) ? 查看：直接访问 Inbox( 轻 )
- 9. Push(Figure) User A UpdateAction Followers of User A = 1, 2, 3 Inbox Inbox Inbox (Append to 1’s (Append to 2’s (Append to 3’s home timeline) home timeline) home timeline)
- 11. Pull ? 发表：存到自己 outbox( 轻 ) ? 查看：所有关注对象 Inbox( 重 )
- 12. Pull User I Get home_timeline User I’s Following List = A, B, C Outbox Outbox Outbox (statuses sent by A) (Statuses sent by B) (Statuses sent by C)
- 15. 架构挑战：峰值 - 如除夕、春节
- 16. 请求量 ? 如果发表量 5,000 万 / 天 ? 平均： 578 条 / 秒 ? 设计系统容量： 2,000?
- 17. IO 瓶颈 ? 峰值： 5,000 – 10,000? ? 100,000?
- 18. 后果 ? Latency ? DB read timeout ? 前端 timeout (503 error) ? 解决方案？
- 19. 异步设计 ? 不同步等待 ? 将消息存入消息队列 (Message Queue) ? 轻量级的发表
- 20. MQ products ? Kestrel by twitter ? RabbitMQ, an Erlang Queue Server ? Memcacheq –在新浪微博项目大规模使用
- 21. Memcacheq ? 基于 Berkeley db, 稳定可 靠 ? Memcached protocol, 丰 富的 client library ? 容易监控 (stats queue) ? 只有 2 个命令： get/set
- 22. 避免单点故障 核心服务，需避免单独故障 方法 1. 使用多个 Memcacheq 池 2. Get 操作 : 轮询所有服务器 3. Set 操作 : 随机选择一个 无需其他复杂“架构”设计
- 23. MQ 方式通用的优点 ? Offline work ? 应用请求量不均衡 ? 解耦 ? 异步通讯 ? 原则
- 24. 使用 MQ 原则 计算开销大于消息分发开 销
- 25. 架构挑战：实时性
- 26. 越重要的事件，越希望实时性
- 27. The value of the tweet decreases http://t.sina.com.cn/pub/star#a_ty exponentially with time John Kalucki, Twitter
- 28. 解决思路 Cache 中心化 Ram is the new the disk
- 29. ? Local Cache ? Memcached ? Database buffer/cache
- 30. ? LAMP 中， cache= 可选层 ? Cache 中心化后新的问题
- 31. 容量问题 ? TB 级 ? 思路：压缩 –QuickLZ –LZO –不用 gzip
- 32. 单点问题 ? 单点故障 , SIGSEGV ? 如何应对 –1. Consistent hash –2. Read-through cache
- 33. Consistent hash ? 原理 ? 优点 –震荡最小
- 35. Read-through and Write- through ? Products or projects – MySQL memcached UDF – Cache money for Ruby on Rails ? Or wrap a proxy for the db driver, in any language
- 36. Evictions 问题 ? Evections: cache 数据被踢 ? 性能的噩梦 ? Latency 产生的源头之一
- 37. 如何避免 evictions ? 规划 cache 容量 ? 将永久数据与临时数据分开 ? 不使用随机字符作为 key
- 38. Multiget 问题 When memcached servers are CPU bound, adding more memcached servers doesn't help serve more requests. - Jeff Rothschild, Vice President of Technology at Facebook
- 39. Cache 挑战： multiget hole Application Max RPS of application < (A and B and C) Multiget Multiget (keys…) Multiget Multiget Multiget Memcached Memcached Memcached (Max RPS: A) (Max RPS: B) (Max RPS C)
- 41. 架构挑战：海量存 储
- 42. 架构挑战： 国内网络带宽问题
- 43. 地理分布 ? 考虑到以下原因，需要分布 式部署 –访问速度 –IDC 不可用 –故障 ? 分布的核心是数据分布
- 44. 数据地理分布原理 ? Master-slave ? Master-master ? 2PC/3PC ? Paxos ? http://timyang.net/data/multi- /
- 45. 地理分布的方案 ? MySQL master/slave ? Dynamo/Cassandra ? PNUTS
- 46. 架构挑战： API 访问 量
- 47. 以新浪微博开放平台为例 ? REST API –编程简单， library 丰富 ? 可用 curl, javascript 实现一个 client –缺点单向询问方式 ? 如何解决轮询压力
- 48. 解决方案： Sina App Engine ? Sina App Engine 应用云平 台提供微博 API 底层支持 ? 并可以 host 微博 app
- 49. ? 微博 , Web 2.0 最核心技术 之一 ? 还有更多的架构挑战等待解 决 ? 欢迎加入新浪微博技术团队
- 50. Q&A 新浪微博： @ TimYang Twitter: @ xmpp Email: iso1600 @ gmail.com