腾讯大讲堂08 可扩展web架构探讨

可扩展 Web 架构探讨 echouzhou

高性能网站每秒能处理成千上万个请求，关键是 Scalability 良好的可伸缩性 Caching 无处不在的缓存

Scalability 是系统适应不断增长用户数量的能力性能平稳负载均衡、容错接入保护、 Cache 缓冲扩容容易所有组件都应当可以简单扩展无共享架构可控状态

Vertical Scaling 更大的服务器更快的 CPU 扩展性 / 价格比很差超级计算机都是平行扩展的！

可伸缩性 vs. 高性能在系统可扩展的前提下提高性能

Web 的可扩展性 Web 服务器负载均衡南北互通

Web 服务器的选择 Apache 不适合静态文件的支持内存、 CPU 占用比较大非常成熟，功能强大，配置丰富 TWS 架构中心自主开发对 CGI 的支持比较独特 CGI 性能非常好 Qhttpd 公司内部软件只适合静态文件的支持非常稳定可靠 Lighttpd 、 Nginx 内存、 CPU 开销小静态文件性能胜出很多越来越多的网站开始用它

性能改进动态、静态内容分开静态文件： qhttpd/lighttpd/nginx 动态内容： Apache 某些静态文件压缩传输： lighttpd 的 mod_compress 动态内容性能提升传统 CGI PHP 、 Rails 、 SSI FastCGI TWS CGI

FastCGI 出现很早的技术减少传统 CGI 调用的消耗基本保持源代码级的兼容性 #include <stdio.h> #include <fcgi_stdio.h> While (FCGI_Accept() >= 0) { // CGI 代码 }

负载均衡 (Load Balancing) 是可扩展性的关键提高网站的可用性接入保护、失效检测

DNS 轮询是最简单的负载均衡域名设置多条 A 记录， DNS 轮询

硬件负载均衡 Cisco Alteon Foundry F5

软件负载均衡免费解决方案 Linux Virtural Server 基于内核 , 通过修改 TCP/IP 数据报文实现负载均衡，确保可用性的守护进程 ldirectord 高性能，部署相对麻烦，不便于观察 HAproxy 基于 layer 7 效率相对较低，部署容易，有 web 界面便于观察

Layer 4 TCP 层的交换根据源 / 目的地址和端口进行负载均衡负载均衡策略 round-robin 最少连接

Layer 7 基于 HTTP 请求最常用的是 URL 分发

双线服务器多个 IP 地址一个 IP 地址，多个路由深南花园：电信、网通、教育网三通机房北方网通访问深圳网通仍然很慢

动态 DNS 根据来自不同 ISP 的用户接入到就近的服务器公司自己开发的动态 DNS 软件自己开发的 DNS 服务器 IP 地址库和 IP 测速存在业务分布的问题

CDN Content Delivery Network 就近接入代理缓存域名解析增加 CNAME 即可

Web Cache 的类型浏览器 Cache 私有缓存可以缓存“ private” 响应 Cache Proxy Surrogates - 缓存代理 Web 加速共享缓存只能缓存“ public” 响应

一些数据多至 43% 的 Web 请求访问不可缓存的内容 Web 缓存命中率为 40% 左右是比较现实的

页面静态化理想状态：静态化所有页面——实际做不到如何静态化？由模板生成静态页面定时或有更新时困难：成千上万个页面的静态化不现实页面有变体，不适合静态化多台服务器维护麻烦页面既包含静态内容，又包含动态内容

页面缓存按需静态化前端 cache 存储动态页面内容 mod_cache Squid Varnish* 遵循 HTTP 的 Cache 规范可精细控制 Cache Expires Cache-control 适合 GET 类 CGI 请求

HTTP 的 Cache 规范要充分发挥 Cache 的效用，就必须了解 HTTP Cache 规范和机制条件请求 Expiration Cache-control Cookie

条件请求 If-Modified-Since/Last-Modified 1. 服务器响应： 200 OK Last-Modified: … 2. 浏览器请求 GET … HTTP/1.1 If-Modified-Since: … 3. 服务器响应 200 OK 或 304 Not Modified

条件请求 (2) If-None-Match / ETag 1. Server 响应 200 OK ETag: abcdef 2. 浏览器请求 GET … HTTP/1.1 If-None-Match: abcdef 3. Server 响应 200 OK 或 304 Not Modified

Expiration Expires 设置对象的绝对失效时间是 HTTP/1.0 规范 max-age 是 Cache-control 的一个指令设置对象的年龄（秒数）是 HTTP/1.1 规范 max-age 优先于 Expires

Cache-control no-cache=[Set-cookie] 浏览器和 squid 都不可以缓存再次使用前需发送条件请求 max-age=NNN 指定缓存有效时间（秒） public 浏览器和 squid 都可以缓存 max-age 指定缓存时间 private 只有浏览器可以缓存

Cookies HTTP 请求携带 Cookies: Cookie: name=profile,domain=www.bigmoney.com, path=mysecrets.html, cookie=day-trader HTTP 响应设置 Cookies: Set-cookie: name=profile,domain=www.bigmoney.com, path=mysecrets.html, cookie=day-trader Cached content 需要的时候才设置 Cookies—— 太理想化 Squid 添加一个 IMS 头

一些典型的 Cache 场景返回个人信息 Cache-control: private, max-age=NNN CGI 写操作 Cache-control: no-store, no-cache CGI 获取状态等信息 Cache-control: public, max-age=NNN

实践要点 3DNS + HAProxy 实现负载均衡、接入保护动态、静态文件分用不同服务器首页静态化某些频繁调用 CGI ： Squid 缓存视频播放： CDN 加速缩略图： Squid 缓存 Web 数据缓存： Memcached

QQvideo 的一些数据 HAProxy ：每天转发 HTTP 请求： 5500 万 CPU 占用率： 10~20% ＜增加图片＞图片 Squid: 命中率： 90% ＜增加图片＞ Memcached ：命中率： 40% 左右＜增加图片＞

HAProxy http://haproxy.1wt.eu 特色 L7 交换采用 epoll ，效率很高配置简单灵活，部署很容易 Graceful restart – 不影响已有连接 Web 监控界面 – 清晰直观内容分发（ Content Switching) ACL 定义规则 ACL 灵活组合选择分发 backend 请求 / 响应头改写负载均衡和过载保护负载均衡策略：加权 round-robin 、 Source 、 URL Sticky sessions 接入连接数限制后端服务器健康监测

HAproxy 与 LVS 比较 HAProxy 效率不如 LVS User 级 vs. 内核级 HAProxy 部署简单一个程序 vs. 内核 patch HAProxy 功能丰富 L7 vs. L4 HAProxy 性能可满足大部分网站需要，达到较大规模时可改用 LVS.

HAproxy 配置 URL 分发规则多个 server 池 Sticky sessions 健康检测和接入限制

Memcached http://www.danga.com/memcached 高性能的，分布式的内存对象缓存系统 Epoll 驱动，效率高高效的内存管理机制缓存对象可设置 Expire 时间使用简单，部署更简单万金油 Web Cache 昵称缓存用户观看历史后台管理系统用户操作频率控制

Squid http://www.squid-cache.org 有力的竞争者 Varnish!

腾讯大讲堂08 可扩展web架构探讨

More Related Content

腾讯大讲堂08 可扩展web架构探讨