Tag Archives: 视频
人人网海量存储系统Nuclear介绍
经过这几个月大家共同的努力,Nuclear终于来到新的阶段。 山寨版本的Logo Nuclear存储系统:高性能、高可靠、可扩展的海量数据存储 请移步人人网UGC团队博客:http://ugc.renren.com/2010/01/21/ugc-nuclear-guide-use/ 人人网UGC团队博客正式在科学院亮像,欢迎网友订阅,专注UGC社区大负载研究与应用! http://ugc.renren.com http://ugc.fm 下面是一些补习班知识: TC Tokyo Cabinet 是一个DBM的实现。这里的数据库由一系列key-value对的记录构成。key和value都可以是任意长度的字节序列,既可以是二进制也可以是字符串。这里没有数据类型和数据表的概念。当做为Hash表数据库使用时,每个key必须是不同的,因此无法存储两个key相同的值。提供了以下访问方法:提供key,value参数来存储,按 key删除记录,按key来读取记录,另外,遍历key也被支持,虽然顺序是任意的不能被保证。这些方法跟Unix标准的DBM,例如GDBM,NDBM 等等是相同的,但是比它们的性能要好得多,因此可以替代它们。 Dynamo Dynamo 的可扩展性和可用性采用的都比较成熟的技术,数据分区并用改进的一致性哈希(consistent hashing)方式进行复制,利用数据对象的版本化实现一致性。复制时因为更新产生的一致性问题的维护采取类似 quorum 的机制以及去中心化的复制同步协议。 Dynamo 是完全去中心化的系统,人工管理工作很小。 Linkedln Link
人人网招聘JAVA、AS、C++工程师(科学院特供,两月内有效)
科学院年底发布人人网职位推荐消息: 人人网Flash (AS3)程序员 1.计算机、软件类相关专业本科以上学历 2.AS2\Flex\AS3一年以上开发经验 人人网JAVA架构师 1.计算机及相关专业本科以上学历 2.三年以上Java开发经验 人人网产品经理 1.本科以上学历 2.两年以上互联网工作经验 游戏制作人(游戏中心) 1.本科以上学历 2.两年以上主策划工作经验 3.两个以上完整上线项目经验者优先 C++工程师(分win下和linux下的) 1.win:C++基础扎实,有客户端界面和控件开发经验 2.linux:两年以上开发经验 以上为科学院精简人力废话版本招聘条件,如果任何一条不满足请不要把简历投到czhttp@gmail.com,也不要纯洁地问工资情况,人力告诉你的要准确得多,另这些都是中高级职位,有意者牛X者尽管过来,有酒肉。
[科学院手记]人人网新鲜事分享现场转播
讲座已经开始,现在是人人网牛人张洁介绍。 —- 现在是新鲜事后台架构牛人铁安在讲解新鲜事要完成的功能: 将一个用户产生的内容实时发送给与他相关的一群人。 尽可能地帮助用户保存内容。 现在面临的挑战 分发压力:5000W*100 全天分发的总量在五十亿左右。每秒分发的次数是六万次每秒。 现在有1.3t的内存占用。 —- 老版本的新鲜事结构 —- 新的系统结构 分发之后,内容本体丢进cache和db,dispatch服务通知到相关的人,分发后来的结构保存一人一条到TC — MENU 技术细节部分 分发部分的策略优化:瞬间分发海量数据,光良首页的例子(一百万的粉丝同时产生)。产品策略优化。 内存压缩技术:新鲜事内存结构(FlyWeight),字符串压缩存储(QuickLZ) 新鲜事存储方案 —- 内存压缩技术:flyweight的设计思想 只要对象存在,所有的指针都能找到正确的内容。 boost::flyweight在高并发情况下有效率问题,自己实现了相同的功能。 各种压缩办法的性能比较: QuickLZ的压缩比不是最高的,但解压缩是最快的;代码简单;支持追加方式的压缩;有成熟的商业应用。 boost::multi_index介绍 用来做多视图显示的东东 提供三种不同的索引方式 一段例子代码 c++代码。。。略鸟 ——- 新鲜事存储方案 TC+Direct IO + SSD key-value DB的一个表。 研究的三个开源项目: …
[五四陈科学院]校内相册发展过程及核心技术分析爆料
信春哥,转载的都给我注明出处:http://www.54chen.com/801-54-chen-academy-schools-the-development-process-and-the-album-broke-the-heart-of-technical-analysis/ 前言 感谢人人网曾经的吕威大侠、现在的文斌大侠、谢龙大侠对人人网相册的不朽贡献,是吕威大侠精益求精的专研才有如此优秀的上传方案。 第一章 相册瓶颈所在 1.用户上传海量数据是一个头疼的事情,每天上千万的数量,又因为互联网的特殊性,会出现高峰期和低潮期,以每天10,000,000张图片来计算,高的时候,每秒上传有可能会在上千张,而低的时候可忽略不计。 2.因为产品不同,往往上传一张原始的照片会需要压缩成四五张不同大小的图片。这个压缩过程相当消费cpu。 相信有同一问题的应该有:QQ空间,网易相册,新浪博客,flikr等等。 第二章 校内相册的发展和改革 第一阶段,原始社会。 在第一阶段,我们过着刀耕火种的生活,java代码上传+jmagick压缩,其结果就是,再多的服务器,也搞不定越来越多的访问量。 第二阶段,具有封建主义气息的资本主义社会。 这一阶段,我们痛定思痛啦,服务常常挂啊,怎么办?怎么办,当然是分布式处理,分析下原因,原来挂是因为cpu太高,用户上传一图压成四图,太费劲了。干脆传到其他cpu多的机器去。 说时迟那时快,我们挽起袖子,一个分布式的上传压缩过程就出来了。。。 所使用的方法: 结果发现。。。没啥改观。。。 第三阶段,完全没有社会主义气息的共产主义社会。 改革春风吹满地,齐心协力
一部非常好的视频-和谐拯救危机
这是《和谐拯救危机》的视频 是一部有深刻教育意义的影片 一共七集
54chen(陈臻),人人网分布式研究人员,曾饭于金山、雅虎、淘宝,暂居北京,情绪稳定。曾用代号有:cc0cc、零蛋。
SEARCH
Tag
Update
- 用搜索的倒排轻松搞定“好友的文章”类相关推荐功能
- 54chen Twitter memo 2010-09-05
- 54chen Twitter memo 2010-08-29
- [演稿分享]人人网开发一站式体验
- [54chen原创]简单好用的土办法抗击洋鬼子对wordpress系统的广告灌入
- [54chen开发日记]注解和拦截器实现权限通用模型的设计实践
- 54chen Twitter memo 2010-08-22
- 54chen Twitter memo 2010-08-15
- rose pipe–一次对http技术的伟大革新实现(54chen乱弹版)
- 54chen Twitter memo 2010-08-08
- 使用maven的profiles自动设置log4j线上环境和测试环境区别
- 54chen Twitter memo 2010-08-01
- sphinx安装配置手记(中文分词54chen支持版)
- 54chen Twitter memo 2010-07-25
- 由php的call_user_func传reference引发的思考
