用户访问网站原理及流程
1、大纲：
• 用户访问网站流程框架
• DNS解析原理 *****
• tcp/ip三次握手原理 *****
•http协议原理（www服务的请求过程）请求报文细节！
• 大规模网站集群架构细节。
•http协议原理（www服务的响应过程）响应报文细节！
• tcp/ip四次挥手过程原理 *****
2、两大步骤：
• 将域名解析成ip的过程，
•通过ip找到网站服务器，请求打开具体的网页，服务器响应请求，客户端浏览器收到响应报文后，渲染html文档，最终得到我们看到的网页页面。
3、DNS的工作原理及过程
工作原理：
DNS的工作原理及过程分下面几个步骤：
第一步：客户机提出域名解析请求，并将该请求发送给本地的域名服务器。
第二步：当本地的域名服务器收到请求后，就先查询本地的缓存，如果有该纪录项，则本地的域名服务器就直接把查询的结果返回。
第三步：如果本地的缓存中没有该纪录，则本地域名服务器就直接把请求发给根域名服务器，然后根域名服务器再返回给本地域名服务器一个所查询域(根的子域)的主域名服务器的地址。
第四步：本地服务器再向上一步返回的域名服务器发送请求，然后接受请求的服务器查询自己的缓存，如果没有该纪录，则返回相关的下级的域名服务器的地址。
第五步：重复第四步，直到找到正确的纪录。
第六步：本地域名服务器把返回的结果保存到缓存，以备下一次使用，同时还将结果返回给客户机。
工作过程：
• • 客户机发出请求解析域名 www.element.org 的报文；
• •本地的域名服务器收到请求后，查询本地缓存，假设没有该纪录，则本地域名服务器 dns.company.com 则向根域名服务器 ns.inter.net发出请求解析域名 www.element.org ；
• • 根 域名服务器ns.inter.net 收到请求后查询本地记录得到如下结果：element.org NS dns.element.org （表 示 element.org域中的域名服务器为：dns.element.org ），同时给出 dns.element.org 的地址，并将结果返 回给域名服务器dns.company.com ；
• • 域名服务器dns.company.com 收到回应后，再发出请求解析域名 www.element.org的报文；
• • 域 名服务器dns.element.org 收到请求后，开始查询本地的记录，找到如下一条记 录： www.element.orgA 211.120.3.12 （表示 element.org 域中域名服务 器 dns.element.org的IP地址为：211.120.3.12），并将结果返回给客户本地域名服务 器 dns.company.com ；
• •客户本地域名服务器将返回的结果保存到本地缓存，同时将结果返回给客户机。
从客户端到本地DNS服务器是属于递归查询，而DNS服务器之间就是的交互查询就是迭代查询。
域名服务器分类：
• •缓存域名服务器
(1) 也称为 高速缓存服务器
(2)通过向其他域名服务器查询获得域名->IP地址记录
(3)将域名查询结果缓存到本地，提高重复查询时的速度
• •主域名服务器
(1)特定DNS区域的官方服务器，具有唯一性，权威性
(2)负责维护该区域内所有域名->IP地址的映射记录
• •从域名服务器
(1) 也称为辅助域名服务器，非权威域名服务器
(2) 具备容错功能，其维护的域名->IP地址记录 来源于主域名服务器
4、TCP三次握手协议
在TCP/IP协议中,TCP协议提供可靠的连接服务,采用三次握手建立一个连接.
••第一次握手：建立连接时,客户端发送syn包(syn=j)到服务器,并进入SYN_SEND状态,等待服务器确认；
SYN：同步序列编号(SynchronizeSequence Numbers)
••第二次握手：服务器收到syn包,必须确认客户的SYN（ack=j+1）,同时自己也发送一个SYN包（syn=k）,即SYN+ACK包,此时服务器进入SYN_RECV状态；
••第三次握手：客户端收到服务器的SYN＋ACK包,向服务器发送确认包ACK(ack=k+1),此包发送完毕,客户端和服务器进入ESTABLISHED状态,完成三次握手.
完成三次握手,客户端与服务器开始传送数据
5、HTTP协议
• •简介
HTTP协议是Hyper TextTransfer Protocol（超文本传输协议）的缩写,是用于从万维网（WWW:World Wide Web ）服务器传输超文本到本地浏览器的传送协议。
HTTP是一个基于TCP/IP通信协议来传递数据（HTML文件, 图片文件, 查询结果等）。
HTTP是一个属于应用层的面向对象的协议，由于其简捷、快速的方式，适用于分布式超媒体信息系统。它于1990年提出，经过几年的使用与发展，得到不断地完善和扩展。目前在WWW中使用的是HTTP/1.0的第六版，HTTP/1.1的规范化工作正在进行之中，而且HTTP-NG(NextGeneration of HTTP)的建议已经提出。
HTTP协议工作于客户端-服务端架构为上。浏览器作为HTTP客户端通过URL向HTTP服务端即WEB服务器发送所有请求。Web服务器根据接收到的请求后，向客户端发送响应信息。
• •主要特点
简单快速：客户向服务器请求服务时，只需传送请求方法和路径。请求方法常用的有GET、HEAD、POST。每种方法规定了客户与服务器联系的类型不同。由于HTTP协议简单，使得HTTP服务器的程序规模小，因而通信速度很快。
灵活：HTTP允许传输任意类型的数据对象。正在传输的类型由Content-Type加以标记。
无连接：无连接的含义是限制每次连接只处理一个请求。服务器处理完客户的请求，并收到客户的应答后，即断开连接。采用这种方式可以节省传输时间。
无状态：HTTP协议是无状态协议。无状态是指协议对于事务处理没有记忆能力。缺少状态意味着如果后续处理需要前面的信息，则它必须重传，这样可能导致每次连接传送的数据量增大。另一方面，在服务器不需要先前信息时它的应答就较快。
模式：支持B/S及C/S模式。B/S结构(Browser/Server,浏览器/服务器模式)；C/S结构,即Client/Server(客户机/服务器)结构
6、HTTP之请求消息Request
客户端发送一个HTTP请求到服务器的请求消息包括以下格式：
请求行（requestline）、请求头部（header）、空行和请求数据四个部分组成。
请求行以一个方法符号开头，以空格分开，后面跟着请求的URI和协议的版本。
①Get请求例子，使用Charles抓取的request：
GET/562f25980001b1b106000338.jpg HTTP/1.1
Host img.mukewang.com
User-Agent Mozilla/5.0 (Windows NT 10.0; WOW64)AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.106 Safari/537.36
Accept image/webp,image/*,*/*;q=0.8
Referer http://www.imooc.com/
Accept-Encoding gzip, deflate, sdch
Accept-Language zh-CN,zh;q=0.8
第一部分：请求行，用来说明请求类型,要访问的资源以及所使用的HTTP版本.
GET说明请求类型为GET,[/562f25980001b1b106000338.jpg]为要访问的资源，该行的最后一部分说明使用的是HTTP1.1版本。
第二部分：请求头部，紧接着请求行（即第一行）之后的部分，用来说明服务器要使用的附加信息
从第二行起为请求头部，HOST将指出请求的目的地.User-Agent,服务器端和客户端脚本都能访问它,它是浏览器类型检测逻辑的重要基础.该信息由你的浏览器来定义,并且在每个请求中自动发送等等
第三部分：空行，请求头部后面的空行是必须的
即使第四部分的请求数据为空，也必须有空行。
第四部分：请求数据也叫主体，可以添加任意的其他数据。
这个例子的请求数据为空。
②POST请求例子，使用Charles抓取的request：
POST / HTTP1.1
Host:www.wrox.com
User-Agent:Mozilla/4.0(compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 2.0.50727; .NET CLR3.0.04506.648; .NET CLR 3.5.21022)
Content-Type:application/x-www-form-urlencoded
Content-Length:40
Connection: Keep-Alive
name=Professional%20Ajax&publisher=Wiley
第一部分：请求行，第一行明了是post请求，以及http1.1版本。
第二部分：请求头部，第二行至第六行。
第三部分：空行，第七行的空行。
第四部分：请求数据，第八行。
7、HTTP之响应消息Response
一般情况下，服务器接收并处理客户端发过来的请求后会返回一个HTTP的响应消息。
HTTP响应也由四个部分组成，分别是：状态行、消息报头、空行和响应正文。
例子
HTTP/1.1 200 OK
Date: Fri, 22 May 200906:07:21 GMT
Content-Type:text/html; charset=UTF-8
<html>
<head></head>
<body>
<!--body goes here-->
</body>
</html>
第一部分：状态行，由HTTP协议版本号，状态码， 状态消息 三部分组成。
第一行为状态行，（HTTP/1.1）表明HTTP版本为1.1版本，状态码为200，状态消息为（ok）
第二部分：消息报头，用来说明客户端要使用的一些附加信息
第二行和第三行为消息报头，
Date:生成响应的日期和时间；Content-Type:指定了MIME类型的HTML(text/html),编码类型是UTF-8
第三部分：空行，消息报头后面的空行是必须的
第四部分：响应正文，服务器返回给客户端的文本信息。
空行后面的html部分为响应正文。
8、HTTP之状态码
状态代码有三位数字组成，第一个数字定义了响应的类别，共分五种类别:
1xx：指示信息--表示请求已接收，继续处理
2xx：成功--表示请求已被成功接收、理解、接受
3xx：重定向--要完成请求必须进行更进一步的操作
4xx：客户端错误--请求有语法错误或请求无法实现
5xx：服务器端错误--服务器未能实现合法的请求
常见状态码：
200OK //客户端请求成功
301-MovedPermanently //永久跳转，所请求的网页将永久跳转到被设定的新位置
400 Bad Request //客户端请求有语法错误，不能被服务器所理解
401 Unauthorized //请求未经授权，这个状态代码必须和WWW-Authenticate报头域一起使用
403 Forbidden //服务器收到请求，但是拒绝提供服务
404 Not Found //请求资源不存在，eg：输入了错误的URL
500 Internal ServerError //服务器发生不可预期的错误
503 ServerUnavailable //服务器当前不能处理客户端的请求，一段时间后可能恢复正常
更多状态码http://www.runoob.com/http/http-status-codes.html
9、HTTP请求方法
根据HTTP标准，HTTP请求可以使用多种请求方法。
HTTP1.0定义了三种请求方法： GET,POST 和 HEAD方法。
HTTP1.1新增了五种请求方法：OPTIONS,PUT, DELETE, TRACE 和 CONNECT 方法。
GET 请求指定的页面信息，并返回实体主体。
HEAD 类似于get请求，只不过返回的响应中没有具体的内容，用于获取报头
POST 向指定资源提交数据进行处理请求（例如提交表单或者上传文件）。数据被包含在请求体中。POST请求可能会导致新的资源的建立和/或已有资源的修改。
PUT 从客户端向服务器传送的数据取代指定的文档的内容。
DELETE 请求服务器删除指定的页面。
CONNECT HTTP/1.1协议中预留给能够将连接改为管道方式的代理服务器。
OPTIONS 允许客户端查看服务器的性能。
TRACE 回显服务器收到的请求，主要用于测试或诊断。
10、HTTP工作原理
HTTP协议定义Web客户端如何从Web服务器请求Web页面，以及服务器如何把Web页面传送给客户端。HTTP协议采用了请求/响应模型。客户端向服务器发送一个请求报文，请求报文包含请求的方法、URL、协议版本、请求头部和请求数据。服务器以一个状态行作为响应，响应的内容包括协议的版本、成功或者错误代码、服务器信息、响应头部和响应数据。
以下是 HTTP 请求/响应的步骤：
• •客户端连接到Web服务器
一个HTTP客户端，通常是浏览器，与Web服务器的HTTP端口（默认为80）建立一个TCP套接字连接。例如，http://www.oakcms.cn。
• •发送HTTP请求
通过TCP套接字，客户端向Web服务器发送一个文本的请求报文，一个请求报文由请求行、请求头部、空行和请求数据4部分组成。
• •服务器接受请求并返回HTTP响应
Web服务器解析请求，定位请求资源。服务器将资源复本写到TCP套接字，由客户端读取。一个响应由状态行、响应头部、空行和响应数据4部分组成。
• •释放连接TCP连接
若connection模式为close，则服务器主动关闭TCP连接，客户端被动关闭连接，释放TCP连接;若connection模式为keepalive，则该连接会保持一段时间，在该时间内可以继续接收请求;
• •客户端浏览器解析HTML内容
客户端浏览器首先解析状态行，查看表明请求是否成功的状态代码。然后解析每一个响应头，响应头告知以下为若干字节的HTML文档和文档的字符集。客户端浏览器读取响应数据HTML，根据HTML的语法对其进行格式化，并在浏览器窗口中显示。
例如：在浏览器地址栏键入URL，按下回车之后会经历以下流程：
• 浏览器向 DNS 服务器请求解析该 URL中的域名所对应的 IP 地址;
• 解析出 IP 地址后，根据该 IP地址和默认端口 80，和服务器建立TCP连接;
• 浏览器发出读取文件(URL中域名后面部分对应的文件)的HTTP 请求，该请求报文作为 TCP 三次握手的第三个报文的数据发送给服务器;
• 服务器对浏览器请求作出响应，并把对应的html 文本发送给浏览器;
• 释放 TCP连接;
• 浏览器将该 html 文本并显示内容;
11、tcp/ip四次挥手过程原理
当Client与Server双方通过三次握手建立连接后，双方均处于ESTABLISHED状态，此状态下双方可以进行正常的数据传送。断开连接时步骤：
• •第一次挥手
Client发送一个FIN=1（FIN：释放连接）及 一个序号seq = u，用来关闭 Client 到 Server 的数据传送，代表 Client 一侧不再有数据发送给 Server了，但是还能接收数据。随即 Client 进入 FIN_WAIT_1 状态。
• •第二次挥手
Server 收到 FIN 后，知道Client 一侧不再有数据发送过来，请求断开连接。Server 发送一个ACK给 Client ，确认序号 ack 为接收序号 +1， 并发送序号 seq= v.随即进入 CLOSE_WAIT状态。
• •第三次挥手
Server 发送一个 FIN，用来关闭Server 到 Client 的数据传送， Server 进入LAST_ACK 状态。在二、三次挥手期间，Server 仍然可以给Client传输数据（先前 Client 申请断开连接的时候可能 Server的数据还没有发送完，可在这时将剩余没有发送完的数据发送完毕）。
• •第四次挥手
Client 收到FIN后，Client 进入TIME_WAIT 状态，接着发送一个ACK 给Server，确认序号ack为收到序号再+1，Server收到后进入CLOSED状态。
完成四次挥手，连接断开。以上主动方是Client，被动方是Server。如果主动方是Server，被动方是Client的话同理，角色交换一下即可。
12、HTTP之URL
HTTP使用统一资源标识符（UniformResource Identifiers, URI）来传输数据和建立连接。URL是一种特殊类型的URI，包含了用于查找某个资源的足够的信息
URL,全称是UniformResourceLocator,中文叫统一资源定位符,是互联网上用来标识某一处资源的地址。以下面这个URL为例，介绍下普通URL的各部分组成：
http://www.aspxfans.com:8080/news/index.asp?boardID=5&ID=24618&page=1#name
从上面的URL可以看出，一个完整的URL包括以下几部分：
协议部分：该URL的协议部分为“http：”，这代表网页使用的是HTTP协议。在Internet中可以使用多种协议，如HTTP，FTP等等本例中使用的是HTTP协议。在"HTTP"后面的“//”为分隔符。
域名部分：该URL的域名部分为“www.aspxfans.com”。一个URL中，也可以使用IP地址作为域名使用。
端口部分：跟在域名后面的是端口，域名和端口之间使用“:”作为分隔符。端口不是一个URL必须的部分，如果省略端口部分，将采用默认端口。
虚拟目录部分：从域名后的第一个“/”开始到最后一个“/”为止，是虚拟目录部分。虚拟目录也不是一个URL必须的部分。本例中的虚拟目录是“/news/”。
文件名部分：从域名后的最后一个“/”开始到“？”为止，是文件名部分，如果没有“?”,则是从域名后的最后一个“/”开始到“#”为止，是文件部分，如果没有“？”和“#”，那么从域名后的最后一个“/”开始到结束，都是文件名部分。本例中的文件名是“index.asp”。文件名部分也不是一个URL必须的部分，如果省略该部分，则使用默认的文件名。
锚部分：从“#”开始到最后，都是锚部分。本例中的锚部分是“name”。锚部分也不是一个URL必须的部分。
参数部分：从“？”开始到“#”为止之间的部分为参数部分，又称搜索部分、查询部分。本例中的参数部分为“boardID=5&ID=24618&page=1”。参数可以允许有多个参数，参数与参数之间用“&”作为分隔符。
• •URI和URL的区别
URI，是uniform resourceidentifier，统一资源标识符，用来唯一的标识一个资源。
Web上可用的每种资源如HTML文档、图像、视频片段、程序等都是一个来URI来定位的
URI一般由三部组成：
①访问资源的命名机制
②存放资源的主机名
③资源自身的名称，由路径表示，着重强调于资源。
URL是uniform resourcelocator，统一资源定位器，它是一种具体的URI，即URL可以用来标识一个资源，而且还指明了如何locate这个资源。
URL是Internet上用来描述信息资源的字符串，主要用在各种WWW客户程序和服务器程序上，特别是著名的Mosaic。
采用URL可以用一种统一的格式来描述各种信息资源，包括文件、服务器的地址和目录等。URL一般由三部组成：
①协议(或称为服务方式)
②存有该资源的主机IP地址(有时也包括端口号)
③主机资源的具体地址。如目录和文件名等
URN，uniform resourcename，统一资源命名，是通过名字来标识资源，比如mailto:java-net@java.sun.com。
URI是以一种抽象的，高层次概念定义统一资源标识，而URL和URN则是具体的资源标识的方式。URL和URN都是一种URI。笼统地说，每个URL 都是 URI，但不一定每个 URI 都是 URL。这是因为 URI 还包括一个子类，即统一资源名称 (URN)，它命名资源但不指定如何定位资源。上面的mailto、news 和 isbn URI 都是 URN 的示例。
在Java的URI中，一个URI实例可以代表绝对的，也可以是相对的，只要它符合URI的语法规则。而URL类则不仅符合语义，还包含了定位该资源的信息，因此它不能是相对的。
在Java类库中，URI类不包含任何访问资源的方法，它唯一的作用就是解析。
相反的是，URL类可以打开一个到达资源的流。
13、HTTP之静态页面、动态页面和伪静态页面
• • 静态页面
优点：相对于其他两种页面(动态页面和伪静态页面)，速度最快，而且不需要从数据库里面提取数据，速度快的同时，也不会对服务器产生压力。
缺点：由于数据都是存储在HTML里面，所以导致文件非常大。并且最严重的问题是，更改源代码必须全部更改，而不能改一个地方，全站静态页面就自动更改了。如果是大型网站有较多的数据，那会占用大量的服务器空间，每次添加内容都会生成新的HTML页面。如果不是专业人士维护比较麻烦。
• • 动态页面
优点：空间使用量非常小，一般几万条数据的网站，使用动态页面，可能只有几M的文件大小，而使用静态页面少则十几M,多则几十M甚至更多。因为数据库是从数据库里面调出来的，如果需要修改某些值，直接更改数据库，那么所有的动态网页，就会自动更新了。这一点相比静态页面优点就显而易见了。
缺点：用户访问速度较慢，为什么会访问动态页面较慢呢？这个问题要从动态页面的访问机制说起了，其实我们的服务器上面有一个解释引擎，当用户访问的时候，这个解释引擎就会把动态页面翻译为静态页面，这样大家就能够在浏览器里面查看源码了。而这个源码就是解释引擎翻译之后的源码。除访问速度较慢以外，动态页面的数据是从数据库里面调用过来的如果访问的人数较多，数据库的压力会非常大。不过现在的动态程序多数都使用了缓存技术。但是总体来讲，动态页面对于服务器的压力比较大一些。同时动态页面的网站一般对于服务器的要求比较高一些，同时访问的人越多也会造成服务器的压力越大。
• • 伪静态页面
伪静态页面定义：“假”静态页面，实质上是动态页面。
优点：相比静态页面而言，并没有速度上的明显提升，因为是“假”静态页面，其实还是一个动态页面，也是同样需要翻译为静态页面的。最大的好处就是让搜索引擎(SearchEngine)把自己的网页当做静态页面来处理。
缺点：顾名思义，“伪静态”就是“假静态”，搜索引擎不会把他当做静态页面来处理，这只是我们靠经验考逻辑去分析的，并不一定准确。或许搜索引擎直接把它认为是动态页面。
14、网站流量度量 ip pv uv
• • • • 什么是PV值
PV（pageview）即页面浏览量或点击量，是衡量一个网站或网页用户访问量。具体的说，PV值就是所有访问者在24小时（0点到24点）内看了某个网站多少个页面或某个网页多少次。PV是指页面刷新的次数，每一次页面刷新，就算做一次PV流量。
度量方法就是从浏览器发出一个对网络服务器的请求（Request），网络服务器接到这个请求后，会将该请求对应的一个网页（Page）发送给浏览器，从而产生了一个PV。那么在这里只要是这个请求发送给了浏览器，无论这个页面是否完全打开（下载完成），那么都是应当计为1个PV。
• • • • 什么是UV值
UV（uniquevisitor）即独立访客数，指访问某个站点或点击某个网页的不同IP地址的人数。在同一天内，UV只记录第一次进入网站的具有独立IP的访问者，在同一天内再次访问该网站则不计数。UV提供了一定时间内不同观众数量的统计指标，而没有反应出网站的全面活动。通过IP和cookie是判断UV值的两种方式：
用Cookie分析UV值
当客户端第一次访问某个网站服务器的时候，网站服务器会给这个客户端的电脑发出一个Cookie，通常放在这个客户端电脑的C盘当中。在这个Cookie中会分配一个独一无二的编号，这其中会记录一些访问服务器的信息，如访问时间，访问了哪些页面等等。当你下次再访问这个服务器的时候，服务器就可以直接从你的电脑中找到上一次放进去的Cookie文件，并且对其进行一些更新，但那个独一无二的编号是不会变的。
• • • • IP即独立IP数
IP可以理解为独立IP的访问用户，指1天内使用不同IP地址的用户访问网站的数量，同一IP无论访问了几个页面，独立IP数均为1。但是假如说两台机器访问而使用的是同一个IP，那么只能算是一个IP的访问。
IP和UV之间的数据不会有太大的差异，通常UV量和比IP量高出一点，每个UV相对于每个IP更准确地对应一个实际的浏览者。
①UV大于IP
这种情况就是在网吧、学校、公司等，公用相同IP的场所中不同的用户，或者多种不同浏览器访问您网站，那么UV数会大于IP数。
②UV小于IP
在家庭中大多数电脑使用ADSL拨号上网，所以同一个用户在家里不同时间访问您网站时，IP可能会不同，因为它会根据时间变动IP，即动态的IP地址，但是实际访客数唯一，便会出现UV数小于IP数。
15、并发连接
1、网站并发连接：
• • 网站服务器每秒能够接收的最大用户请求数
• • 网站服务器每秒能够响应的最大用户请求数
• •网站服务器在单位时间内能够处理的最大连接数
2、其他服务并发连接
• • QPS （Query PerSecond，每秒查询率）
每秒查询率QPS是用于衡量一个特定的查询服务器在规定时间内所处理流量多少的标准，DNS系统及数据库等服务的查询性能经常用每秒查询率来衡量。
• • IOPS（Input/OutputOperations Per Second）
IOPS即每秒进行读写的（I/O）操作的次数，多用于数据库等场合，衡量随机访问的性能。存储端的IOPS性能和主机端的I/O是不同的，IOPS是指存储每秒可接受多少次主机发出的访问，主机的一次I/O需要多次访问存储才可以完成。例如，主机写入一个最小的数据块，也要经过“发送写入请求、写玉数据、收到写入确认”三个步骤，也就是3个存储端访问。
VIM Linux Life