当前位置: 网学 > 编程文档 > 其他类别 > 正文

#微架构设计#快速表态存储设计

来源:Http://myeducs.cn 联系QQ:点击这里给我发消息 作者: 用户投稿 来源: 网络 发布时间: 13/01/12

#微架构设计# V5版微博推出表态业务,用户可以快速表达意见。假设对表态业务进行简化,只保留最新三条表态,多余的表态不再展示。表态类似于评论,热度非常明显,一条微博的表态可能有上千个,峰值写入也会超过1000/s,如何精简存储那?MC+Mysql or Redis or ?

498)this.width=498;'' onmousewheel = ''javascript:return big(this)'' alt="" src="/uploadfile/201301/12/E8123213391.jpg" />

分析快速表态,一条微博存3个表态,而每天有上亿微博,存储量是微博的3倍,量极大。

最新的3条表态,对更新要求高,每发一条新表态,就要去更新,写入量瞬间峰值也会非常大,甚至到达1000次/秒。

可见我们面对的主要挑战有两个:海量的表态数据存储和每秒上千次的并发写入。

具体分析如下:

  • 数据特点
  1. key无限(与微博数量相当)
  2. 数据冷热程度明显(最近几天的微博的表态访问量较大)
  3. 只需要存储最新的3条表态
  • 方案对比

针对上面数据的特点,可以考虑的存储方案有redis、mc+mysql、HBase等。下面从几个维度对这几个方案进行对比:

498)this.width=498;'' onmousewheel = ''javascript:return big(this)'' alt="" src="/uploadfile/201301/12/5E123213992.png" />

我们在满足并发读写量的需求时,还要尽量节俭存储,从前面的提示可知,快速表态业务的并发写入量可能会达到1000次/s,HBase显得大材小用,而redis能很好满足,但是经过实际业务统计,发现同一微博的表态,每秒同时并发写入量只有几十次每秒,因此可以忽略mysql并发写的问题,又考虑到redis的故障恢复成本较高。因此,mc+mysql相比于redis更加适合这个业务场景。

  • 容量规划

下面分析采用mc+mysql的存储方案时,如何进行具体的容量规划。

假设,每天发表的微博数1亿,有表态的占10%,则:

  1. mc   1亿*10%*7*100B=7G(每天发表微博数*有表态的比例*一周*mc中每条记录大小),命中率在99%以上。
  2. mysql 每天增加1亿*10%=1000W行,峰值1000次/秒
  • 存储设计

主要涉及mc的设计和mysql的表结构设计。

  1. mc              key: 微博id, value:list(存放3个表态id)
  2. mysql        
  • 分库策略      按微博id进行hash,分为32个库
  • 分表策略      根据微博id按月分表
  • 表结构设计    

+-----------+---------------------+------+-----+---------+-------+

| Field | Type | Null | Key | Default | Extra |

+-----------+---------------------+------+-----+---------+-------+

| status_id | bigint(20) unsigned | NO | PRI | NULL |微博id |

| attitude_ids | varchar(50) | NO | | NULL |评论id |

  • 逻辑设计

498)this.width=498;'' onmousewheel = ''javascript:return big(this)'' alt="" src="/uploadfile/201301/12/40123214980.png" />

原文链接:http://blog.csdn.net/huzhongxiang20/article/details/7994689

  • 上一篇资讯: 算法设计师成新宠
  • 下一篇资讯: 梁斌:工程师的灵魂
  • 网学推荐

    免费论文

    原创论文

    浏览:
    设为首页 | 加入收藏 | 论文首页 | 论文专题 | 设计下载 | 网学软件 | 论文模板 | 论文资源 | 程序设计 | 关于网学 | 站内搜索 | 网学留言 | 友情链接 | 资料中心
    版权所有 QQ:3710167 邮箱:3710167@qq.com 网学网 [Myeducs.cn] 您电脑的分辨率是 像素
    Copyright 2008-2015 myeducs.Cn www.myeducs.Cn All Rights Reserved
    湘ICP备09003080号