资讯专栏INFORMATION COLUMN

上云采购季！| 爆款云服务器低至4.6元/月，首单享0.9折

免费试用
首页/文章专栏/大型网站技术架构-入门梳理

大型网站技术架构-入门梳理

icyfire / 276人阅读

摘要：使用缓存两个前提条件数据访问热点不均衡数据某时段内有效，不会很快过期反向代理本地缓存分布式缓存异步旨在系统解耦。

大型网站技术架构-入门梳理

标签 ： 架构设计

[TOC]

罗列了大型网站架构涉及到的概念，附上了简单说明

前言

本文是对《大型网站架构设计》(李智慧 著)一书的梳理，类似文字版的“思维导图”

全文主要围绕“性能，可用性，伸缩性，扩展性，安全”这五个要素

性能，可用性，伸缩性这几个要素基本都涉及到应用服务器，缓存服务器，存储服务器这几个方面

概述

三个纬度：演化、模式、要素

五个要素： 性能，可用性，伸缩性，扩展性，安全

演化历程

图例可参考 大型网站架构演化历程：

初始阶段的网站架构：一台服务器，上面同时拥有应用程序，数据库，文件，等所有资源。例如 LAMP 架构

应用和数据服务分离：三台服务器（硬件资源各不相同），分别是应用服务器，文件服务器和数据库服务器

使用缓存改善网站性能：分为两种，缓存在应用服务器上的本地缓存和缓存在专门的分布式缓存服务器的远程缓存

使用应用服务器集群改善网站并发处理能力：通过负载均衡调度服务器来将访问请求分发到应用服务器集群中的任何一台机器

数据库读写分离：数据库采用主从热备，应用服务器在写数据时访问主数据库，主数据库通过主从复制机制将数据更新同步到从数据库。应用服务器使用专门的数据访问模块从而对应用透明

使用反向代理和 CDN 加速网站响应：这两者基本原理都是缓存。反向代理部署在网站的中心机房，CDN 部署在网络提供商的机房

使用分布式文件系统和分布式数据库系统：数据库拆分的最后手段，更常用的是业务分库

使用 NoSQL 和搜索引擎：对可伸缩的分布式有更好的支持

业务拆分：将整个网站业务拆分成不同的应用，每个应用独立部署维护，应用之间通过超链接建立联系/消息队列进行数据分发/访问同一数据存储系统

分布式服务：公共业务提取出来独立部署

演化的价值观

大型网站架构的核心价值是随网站所需灵活应对

驱动大型网站技术发展的主要力量是网站的业务发展

误区

一味追随大公司的解决方案

为了技术而技术

企图用技术解决所有问题

架构模式

模式的关键在于模式的可重复性

分层：横向切分

分割：纵向切分

分布式：分层和分割的主要目的是为了切分后的模块便于分布式部署。常用方案：

分布式应用和服务

分布式静态资源

分布式数据和存储

分布式计算

分布式配置，分布式锁，分布式文件，等等

集群：多台服务器部署相同的应用构成一个集群，通过负载均衡设备共同对外提供服务

缓存：将数据放距离计算最近的位置加快处理速度，改善性能第一手段，可以加快访问速度，减小后端负载压力。使用缓存 两个前提条件 ：1.数据访问热点不均衡；2.数据某时段内有效，不会很快过期

CDN

反向代理

本地缓存

分布式缓存

异步：旨在系统解耦。异步架构是典型的消费者生产者模式，特性如下：

提高系统可用性

加快网站访问速度

消除并发访问高峰

冗余：实现高可用。数据库的冷备份和热备份

自动化：包括发布过程自动化，自动化代码管理，自动化测试，自动化安全检测，自动化部署，自动化监控，自动化报警，自动化失效转移，自动化失效恢复，自动化降级，自动化分配资源

安全：密码，手机校验码，加密，验证码，过滤，风险控制

核心要素

架构是“最高层次的规划，难以改变的规定”。主要关注五个要素：

性能

可用性(Availability)

伸缩性(Scalability)

扩展性(Extensibility)

安全性

架构

下面依次对这五个要素进行归纳

高性能

性能的测试指标主要有：

响应时间：指应用执行一个操作需要的时间

并发数：指系统能够同时处理请求的数目

吞吐量：指单位时间内系统处理的请求数量

性能计数器：描述服务器或者操作系统性能的一些数据指标

性能测试方法：

性能测试

负载测试

压力测试

稳定性测试

性能优化,根据网站分层架构，可以分为三大类：

Web 前端性能优化

浏览器访问优化

减少 http 请求

使用浏览器缓存

启用压缩

CSS 放在页面最上面，JavaScript 放在页面最下面

减少 Cookie 传输

CDN 加速：本质是一个缓存，一般缓存静态资源

反向代理

保护网站安全

通过配置缓存功能加速 Web 请求

实现负载均衡

应用服务器性能优化：主要手段有 缓存、集群、异步

分布式缓存(网站性能优化第一定律：优化考虑使用缓存优化性能)

异步操作(消息队列，削峰作用)

使用集群

代码优化

多线程(设计为无状态，使用局部对象，并发访问资源使用锁)

资源复用(单例，对象池)

数据结构

垃圾回收

存储服务器性能优化

机械硬盘 vs. 固态硬盘

B+ 树 vs. LSM 树

RAID vs. HDFS

高可用

高可用的网站架构：目的是保证服务器硬件故障时服务依然可用、数据依然保存并能够被访问，主要手段数据和服务的冗余备份及失效转移

高可用的应用：显著特点是应用的无状态性

通过负载均衡进行无状态服务的失效转移

应用服务器集群的 Session 管理

Session 复制

Session 绑定

利用 Cookie 记录 Session

Session 服务器

高可用的服务：无状态的服务，可使用类似负载均衡的失效转移策略，此外还有如下策略

分级管理

超时设置

异步调用

服务降级

幂等性设计

高可用的数据：主要手段是数据备份和失效转移机制

CAP 原理

数据一致性(Consisitency)

数据可用性(Availibility)

分区耐受性(Partition Tolerance)

数据备份

冷备：缺点是不能保证数据最终一致和数据可用性

热备：分为异步热备和同步热备

失效转移：由以下三部分组成

失效确认

访问转移

数据恢复

高可用网站的软件质量保证

网站发布

自动化测试

预发布验证

代码控制

主干开发、分支发布

分支开发、主干发布

自动化发布

灰度发布

网站运行监控

监控数据采集

用户行为日志采集（服务器端和客户端）

服务器性能监控

运行数据报告

监控管理

警报系统

失效转移

自动优雅降级

伸缩性

大型网站的“大型”是指：

用户层面：大量用户及大量访问

功能方面：功能庞杂，产品众多

技术层面：网站需要部署大量的服务器

伸缩性的分为如下几个方面

网站架构的伸缩性设计

不同功能进行物理分离实现伸缩

纵向分离(分层后分离)

横向分离(业务分割后分离)

单一功能通过集群规模实现伸缩

应用服务器集群的伸缩性设计

HTTP 重定向负载均衡

DNS 域名解析负载均衡

反向代理负载均衡(在 HTTP 协议层面，应用层负载均衡)

IP 负载均衡(在内核进程完成数据分发)

数据链路层负载均衡(数据链路层修改 mac 地址，三角传输模式，LVS)

负载均衡算法

轮询(Round Robin, RR)

加权轮询(Weighted Round Robin, WRR)

随机(Random)

最少链接(Least Connections)

源地址散列(Source Hashing)

分布式缓存集群的伸缩性设计

Memcached 分布式缓存集群的访问模型

Memcached 客户端（包括 API，路由算法，服务器列表，通信模块）

Memcached 服务器集群

Memcached 分布式缓存集群的伸缩性挑战

分布式缓存的一致性 Hash 算法(一致性 Hash 环，虚拟层)

数据存储服务集群的伸缩性设计

关系数据库集群的伸缩性设计

NoSQL 数据库的伸缩性设计

可扩展

系统架构设计层面的“开闭原则”

构建可扩展的网站架构

利用分布式消息队列降低耦合性

事件驱动架构(Event Driven Architecture)

分布式消息队列

利用分布式服务打造可复用的业务平台

Web Service 与企业级分布式服务

大型网站分布式服务的特点

分布式服务框架设计(Thrift, Dubbo)

可扩展的数据结构(如 ColumnFamily 设计)

利用开放平台建设网站生态圈

安全

XSS 攻击和 SQL 注入攻击是构成网站应用攻击最主要的两种手段，此外还包括 CSRF,Session 劫持等手段。

攻击与防御

XSS 攻击：跨站点脚本攻击（Cross Site Script）

反射型

持久型

XSS 防御手段

消毒(即对某些 html 危险字符转义)

HttpOnly

注入攻击

SQL 注入攻击

OS 注入攻击

注入防御

避免被猜到数据库表结构信息

消毒

参数绑定

CSRF 攻击：跨站点请求伪造（Cross Site Request Forgery）

CSRF 防御：主要手段是识别请求者身份

表单 Token

验证码

Referer Check

其他攻击和漏洞

Error Code

HTML 注释

文件上传

路径遍历

Web 应用防火墙（ModSecurity）

网站安全漏洞扫描

信息加密技术及密钥安全管理

单向散列加密：不同输入长度的信息通过散列计算得到固定长度的输出

不可逆，非明文

可加盐(salt)增加安全性

输入的微小变化会导致输出完全不同

对称加密：加密和解密使用同一个密钥

非对称加密

信息传输：公钥加密，私钥解密

数字签名：私钥加密，公钥解密

密钥安全管理：信息安全传输是靠密钥保证的，改善手段有：

把密钥和算法放在一个独立的服务器上

将加解密算法放在应用系统中，密钥放在独立服务器

信息过滤与反垃圾

文本匹配

分类算法

黑名单

作者@brianway 更多文章：个人网站 | CSDN | oschina
专线服务 云服务器 大型网站技术架构 大型网站技术架构pdf 大型分布式网站架构 大型网站架构设计图

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/34775.html

相关文章

  • 大型网站技术架构-入门梳理

    摘要：使用缓存两个前提条件数据访问热点不均衡数据某时段内有效，不会很快过期反向代理本地缓存分布式缓存异步旨在系统解耦。 大型网站技术架构-入门梳理 标签 ： 架构设计 [TOC] 罗列了大型网站架构涉及到的概念，附上了简单说明 前言 本文是对《大型网站架构设计》(李智慧 著)一书的梳理，类似文字版的思维导图 全文主要围绕性能，可用性，伸缩性，扩展性，安全这五个要素 性能，可用性，伸缩性...

    wawor4827 评论0 收藏0

  • 杂货 - 收藏集 - 掘金

    摘要：消息队列技术介绍后端掘金一消息队列概述消息队列中间件是分布式系统中重要的组件，主要解决应用耦合异步消息流量削锋等问题。的内存优化后端掘金声明本文内容来自开发与运维一书第八章，如转载请声明。 消息队列技术介绍 - 后端 - 掘金一、 消息队列概述 消息队列中间件是分布式系统中重要的组件，主要解决应用耦合、异步消息、流量削锋等问题。实现高性能、高可用、可伸缩和最终一致性架构。是大型分布式系...

    loostudy 评论0 收藏0

  • 高并发

    摘要：表示的是两个，当其中任意一个计算完并发编程之是线程安全并且高效的，在并发编程中经常可见它的使用，在开始分析它的高并发实现机制前，先讲讲废话，看看它是如何被引入的。电商秒杀和抢购，是两个比较典型的互联网高并发场景。 干货：深度剖析分布式搜索引擎设计 分布式，高可用，和机器学习一样，最近几年被提及得最多的名词，听名字多牛逼，来，我们一步一步来击破前两个名词，今天我们首先来说说分布式。 探究...

    supernavy 评论0 收藏0

  • 高并发

    摘要：表示的是两个，当其中任意一个计算完并发编程之是线程安全并且高效的，在并发编程中经常可见它的使用，在开始分析它的高并发实现机制前，先讲讲废话，看看它是如何被引入的。电商秒杀和抢购，是两个比较典型的互联网高并发场景。 干货：深度剖析分布式搜索引擎设计 分布式，高可用，和机器学习一样，最近几年被提及得最多的名词，听名字多牛逼，来，我们一步一步来击破前两个名词，今天我们首先来说说分布式。 探究...

    ddongjian0000 评论0 收藏0

  • 高并发

    摘要：表示的是两个，当其中任意一个计算完并发编程之是线程安全并且高效的，在并发编程中经常可见它的使用，在开始分析它的高并发实现机制前，先讲讲废话，看看它是如何被引入的。电商秒杀和抢购，是两个比较典型的互联网高并发场景。 干货：深度剖析分布式搜索引擎设计 分布式，高可用，和机器学习一样，最近几年被提及得最多的名词，听名字多牛逼，来，我们一步一步来击破前两个名词，今天我们首先来说说分布式。 探究...

    wangdai 评论0 收藏0

发表评论

登陆后可评论

0条评论

icyfire

男|高级讲师
我要私信

TA的文章

阅读更多

云社区相关服务

提问 提问 学习 学习 认证 认证 产品 产品 技术服务 技术服务 售前咨询 售前咨询
最新活动
阅读需要支付1元查看
<