从Linkedin和Iron.io抛弃ruby说起
转自:http://linux.cn/thread/10782/1/1/
最近半年关于Ruby编程语言最负面的两条新闻莫过于2012年10月的报导:Linkedin从ruby迁移到node.js,30台服务器减到3台,以及2013年3月的报导:Iron.io从ruby迁移到Go,30台服务器减到2台
node.js和Go都是最近两年服务器端高并发编程的热门语言,Linkedin和Iron.io抛弃Ruby迁移之后,都获得10倍以上的系统性能提升,效果非常好。当然这两篇新闻报导引发的争议也非常大,最大的争议在于:原有Ruby编写的应用是随着业务经过长时间代码演化而成的,代码可维护性和架构都已经存在严重的问题,即使沿用Ruby on rails重写,也会获得巨大的性能提升,非编程语言迁移之功。
诚然,继续沿用Ruby onrails重写或者重构应用,性能可能会有一两倍的提升,但无法弥合10倍以上的性能差距,难道说ruby真的如此不堪吗?注定要被node.js或者Go所取代吗?
Ruby的性能真的如此不堪吗?
JGW Maxwell在2011年底做了一个RubyWeb框架的并发处理能力测试,还做了node.js的对比测试。用250个并发去做压力测试,后端使用MongoDB数据库,总共跑完10万个请求,测试结果如下:
Web框架 | 并发模型 | 吞吐量 |
---|---|---|
Rails | 多进程 | 531 request/s |
Sinatra | 多进程 | 576 request/s |
Sinatra::Synchrony | 线程 | 1692 request/s |
Goliath | 线程 | 1924 request/s |
Cramp | Event IO | 3516 request/s |
node.js | Event IO | 3100 request/s |
纤程IO模型的性能是传统多进程模型的3-4倍,而Event IO则是多进程的6-7倍。值得一提的是Ruby的EventIO框架Cramp甚至性能超过了node.js。看来并发性能差的原因并不在Ruby。
如果说这仅仅只是测试,不能说明问题,那么我再举一个真实的应用数据。去年年底我和@黄志敏交流,得知他为公司最近开发的一个APIServer使用了Ruby的纤程框架Goliath,线上数据:
- VPS上总共使用了16个CPU内核,跑了16个单进程实例
- 每个进程实例稳定消耗50MB内存
- Web框架使用Goliath, URL分发是grape,数据库访问使用ActiveRecord,缓存使用Redis
- 应用吞吐量达到了1800 request/s
这个数据意味着一台配备了4颗4核CPU,2G内存的服务器,每天可以处理
移动时代,Web服务将取代Web网站
随着最近几年智能手机的迅速普及,如今来自智能手机和移动设备的总体Web访问和服务请求量已经超过了传统的PC,这意味着Web时代主流的Browser/Server的架构重新回到了MobileClient/Server的架构。在B/S架构下,在服务器端生成完整的HTML页面,我们需要开发一个完整的Website;但在移动时代,服务器端的功能大大简化了,退化成了Web API调用接口提供者,而复杂的界面构造、交互和运算都是在移动客户端完成的。
传统的Website将越来越让位于WebService,移动客户端无论是iOS,Android还是HTML5都通过API调用获取服务器端的json/xml格式的数据,无需服务器端生成HTML页面了。这种B/S架构重新往C/S架构的迁移,也意味着full-stack Web框架将越来越没有用武之地了。
Web服务器端并发常见的三种应用场景:
- Website:传统Web网站
- Web Service:Web服务端提供API调用接口
- real-time:Web实时推送
并发场景 | 业务逻辑 | 界面构造 | 数据格式 | IO并发 |
---|---|---|---|---|
Website | 复杂,功能多 | 服务端组装页面 | HTML页面 | 很低 |
Web Service | 简单,功能少 | 客户端组装页面 | json/xml | 高 |
real-time | 单一,功能极少 | 客户端实时响应 | json/xml | 极高 |
我们看Linkedin和Iron.io的案例,都是非常典型的WebService的应用场景:Linkedin使用Rails开发了移动服务器的API网关,而Iron.io用Rails开发了搜集客户设备数据的后台服务,这些都不是Rails最擅长的开发website的场景,所以最终Rails被抛弃,并不是一个很意外的结果。
Rails为何不适合做Web Service?
我发现了一个有意思的现象,最早的一批用Ruby开发WebService服务的网站,都选择了用Rails开发,而在最近几年又不约而同抛弃Rails重写Web服务框架。当初用Rails的原因很简单,因为产品早期起步,不确定性很高,使用Rails快速开发,可以最大限度节约开发成本和时间。但为何当请求量变大以后,Rails不再适合了呢?
这主要是因为Rails本身是一个full-stack的Web框架,所有的设计目标就是为了开发Website,所以Rails框架封装过于厚重,对于需要更高性能更轻薄的WebService应用场景来说,暴露出来了很多缺陷:
Rails调用堆栈过深,URL请求处理性能很差
Rails的设计目标是提供Web开发的
config.middleware.delete’Rack::Lock’
config.middleware.delete ‘Rack::Runtime’
config.middleware.delete ‘ActionDispatch::RequestId’
config.middleware.delete’ActionDispatch::RemoteIp’
config.middleware.delete ‘ActionDispatch::Callbacks’
config.middleware.delete’ActionDispatch::Head’
config.middleware.delete’Rack::ConditionalGet’
config.middleware.delete’Rack::ETag’
config.middleware.delete’ActionDispatch::BestStandardsSupport’
其中最夸张的是ActionDispatch::RequestId
middleware,只有在大型应用部署在群集环境下进行线上调试才可能用到的功能,有什么必要做成默认的功能呢?
我们看一个Rubyweb框架请求处理性能评测
Web框架 | 处理速度 |
---|---|
Rack | 1570.43 request/s |
Camping | 1166.16 request/s |
Sinatra | 912.81 request/s |
Padrino | 648.68 request/s |
Rails | 291.27 request/s |
Sinatra至少是Rails速度的3倍以上。
Rails加载的框架和依赖库过多,内存消耗过度
Rails自身依赖库非常多,造成的结果就是Rails应用持续运行以后内存消耗非常高。举个例子:如果你用到了Rails的assetpipeline功能,那么项目需要依赖一个JS引擎来编译JS和CSS,默认会使用libv8这个库。尽管只是编译阶段使用libv8,运行期并不需要它,但是仍然会加载libv8,这意味着你的每个ruby进程会多占20MB内存。在我们其中一个大项目上,总共开了40个ruby进程,直接浪费了800MB内存。于是我们不得不在生产服务器上安装了node.js,替换了libv8。
此外,一旦其中某个依赖库有内存泄露,整个应用也可能出现内存泄露,这种内存泄露是很讨厌的事情,Rails如此肆无忌惮不加限制的使用第三方依赖库也是一个潜在的隐患。
最后,Rails的Restful路由也是内存消耗大户,它默认会生成全套的URL路由helpers,无论你实际是否使用到,造成的结果就是内存会消耗很多,而且URL路由请求的处理速度会很慢,以致于有第三方专门开发了插件去关闭无用的路由。
我做了一个稍完整的案例比较,分别使用Sinatra,Padrino和Rails框架开发一个简单的数据库CRUD应用,数据库访问都是用ActiveRecord,在我的iMac电脑上,3个ruby应用单进程消耗的内存分别是:
Web框架 | 物理内存 |
---|---|
Sinatra | 45MB |
Padrino | 60MB |
Rails | 85MB |
Rails传统多进程模型的IO并发能力很低
Rails的多进程并发模型的IO并发能力很低,开多少个进程,就只能同时响应多少个并发请求,但Ruby进程的内存消耗是很大的,多进程调度的CPU开销也很高,这决定了单台服务器上能开的进程数是非常有限的,一般不会超过30个。但是对于WebService类型的应用,需要很高的IO并发处理能力,传统Rails多进程很容易就会出现负载的瓶颈。
提高Web应用的IO并发能力,必须抛弃多进程模型,改用多线程模型,纤程模型或者事件驱动的并发编程模型。关于这个话题,我写过一个ppt,请参考:Web并发编程模型的粗浅探讨
从Rails4.0开始,默认也开启了多线程模式,也可以支持多线程方式运行Rails应用。但就目前来说,Rails使用多线程,还面临一些兼容性问题:大量的Rails插件和代码不是线程安全的,在多线程模型下运行,会出现意想不到的bug;另外Rails的多线程应用尚未得到广泛应用,可能会有潜在的bug:
我们尝试在一个实际的生产系统上打开Rails3.2的多线程模式运行,对代码和插件都进行了兼容性修改和仔细的代码审查。但实际跑下来发现,应用系统出现了隐蔽的内存泄露问题,Ruby进程内存会一直增长下去,直到服务器内存占满,进程失去响应,这个bug至今未能找到原因。
总之Rails适合开发Website,但不太适合WebService,而移动时代的发展趋势就是:未来服务器端会更多的使用WebService而不是Website,这也意味着Rails将越来越不适合时代的发展
我们应该用什么Ruby框架?
我一直觉得Ruby社区的很多开发者长期以来待在Rails的舒适区里面,完全丧失了探索和尝试其他东西的勇气,其实在Rails的世界之外,Ruby社区的好东西还有很多很多。这里简单介绍3个Ruby轻量级框架,性能都远远超过Rails,很适合做WebService:
-
Sinatra本身也是Ruby社区非常流行和著名的轻量级Web框架,核心源代码不超过1000行,文档只有1页。对于Rails开发者来说,花了几个小时,就可以快速使用Sinatra开发WebService了。Sinatra对多线程支持的非常好,可以用rainbows来跑多线程Sinatra,IO并发处理能力很好。Github也是用它来提供开放API服务的。我自己写了一个Sinatra的项目模版,如果你用Sinatra开发WebService,可以参考。
-
Padrino是一个基于Sinatra之上的轻量级Web框架,在Sinatra基础之上提供了命名路由,模块化项目组织,页面helpers和generators等等。Padrino是一个高度模仿Rails的框架,API的命名和Rails很像,Rails开发者花1-2天看看文档就可以快速上手开发了。Padrino相比Rails易学易用,多线程支持良好,性能比Rails好很多,开发Website推荐使用。我自己的网站也是用Padrino开发的,源代码在:robbin_site
-
Goliath是一个Ruby的纤程开发框架,性能非常好,作者本身是在开发PostRank产品过程中开发的Goliath。PostRank是一个用户社交行为实时跟踪工具,需要很高的性能来支撑,PostRank被Google收购了,作者现在在Google工作。Goliath适合用来开发对性能非常敏感的WebService或者real-time的应用,但使用Goliath有一些门槛,你不能使用普通的阻塞IO库,必须使用作者封装的一些纤程的库。
总之,无论是Linkedin的移动API网关还是Iron.io的后台任务系统,用Ruby来编写,本身并不是问题,实践也有大量案例证明使用Goliath或者Sinatra编写高性能WebService都是可行的。问题只是在于我们应该:
如何去Rails化
掌握一门编程语言实际上包括两部分:
-
编程语言语法以及核心类库
无论你用不用Rails,是否开发Web应用,这些都是必须牢固掌握的,即使你不用Rails了,这些知识和技能也不会过时。
-
开发特定领域应用所需要的第三方类库
当你用Rails开发一个项目的时候,仍然需要依赖大量的第三方类库,每当你在Gemfile里面require一个类库的时候,都意味着你付出了一定的学习成本。而Rails本身也不过就是几个核心Gem包而已,具体来说最核心的就是ActiveRecord和ActionPack这两个库。
学习Rails无非意味着你花了时间熟悉ActiveRecord和ActionPack以及相关库的功能而已,所谓去Rails化也仅仅只是放弃使用ActionPack,换一个更轻量级更简单的URL路由处理器,例如换成Grape,Sinatra,Padrino或者Camping而已。这对一个长期使用Rails的Ruby开发者来说,应该是举手之劳的事情。所以自己动手,根据实际应用场景挑选最合适的组件。例如ActionPack不太适合写WebService,那我换成Sinatra就行了,但是ActiveRecord照常用,这并不需要你付出多少学习成本,更不需要你放弃什么。
为何不用node.js和Go?
有一点是毫无疑问的,node.js的V8引擎,Go的静态编译进去的GC,性能远远好于Ruby的虚拟机,尽管在实际的应用中,未必会表现出来这么明显的差距。那么,一个随之而来的问题就是:为何不用node.js和Go呢?
每个程序员都有自己的倾向性,答案可能都不同。我在去年底花了很多时间了解node.js和Go,最终还是觉得用Ruby对我来说最合适:
-
用Sinatra或者Goliath这样的轻量级框架写Web Service,性能已经足够好了,特别是@黄志敏的案例证明,16核已经可以支撑每天1.5亿次请求了,对我来说已经不太可能遇到超过这个负载量的应用了。而Ruby的开发效率,代码表达能力和可维护性对我来说还是很重要的。
-
node.js的EventIO编程风格在我看来是“反人类”的,极其变态的。用来写代码上规模的应用,代码的可读性和可维护性都很差。EventIO是很底层的技术,我很难理解为何不封装成coroutine来使用。node.js只适合用来开发real-time类型的应用。
-
Go的主要问题在于现阶段还不成熟:一方面Go自身还在演进当中;另一方面Go的类库还是过于贫瘠了,用来开发项目还是需要自己写很多东西的,感觉很不方便。
此文章通过 python 爬虫创建,原文是自己的csdn 地址: Ruby社区应该去Rails化了