用户用浏览器访问的都是网页,网页背后对应的是web程序,而在浏览器与web程序之间,走的就是HTTP协议
所以,要深入研究WEB层,HTTP协议是你必须首先掌握的
- 1、HTTP协议,全称Hyper Text Transfer Protocol(超文本传输协议)
普通文本内包含的只是一堆文字
而超文本/超级文本,则是指在文本内容包含了很多链接、还可以有托盘、音频、视频等
这要比普通文本内容丰富的多
- 2、HTTP协议工作于B/S架构上
浏览器作为HTTP客户端通过URL向HTTP服务端即WEB服务器发送请求Request。
Web服务器根据接收到的请求后,向客户端发送响应信息Response。
- 3、HTTP协议是基于TCP/IP通信协议来传递数据的(HTML 文件, 图片文件等),如下图
迄今为止,HTTP协议的发展经历了3个版本的演化
HTTP/0.9
| 第一个HTTP协议诞生于1989年3月,已过时。 |
| |
| |
| |
| |
| |
| |
| |
| 一次HTTP 0.9的传输首先要建立一个由客户端到Web服务器的TCP连接,由客户端发起一个请求,然后由Web服务器返回页面内容,然后连接会关闭。如果请求的页面不存在,也不会返回任何错误码。 |
| |
| |
| |
| http://www.w3.org/Protocols/HTTP/AsImplemented.html |
HTTP/1.0
| HTTP/1.0是HTTP协议的第二个版本,至今仍被广泛采用。首次在通讯中指定版本号,相对于HTTP 0.9 增加了如下主要特性: |
| |
| |
| |
| |
| |
| |
| |
HTTP/1.1
HTTP/2.0
| HTTP 2.0是下一代HTTP协议,目前应用还非常少。主要特点有: |
| |
| HTTP 2.0最大的特点: 不会改动HTTP 的语义,HTTP 方法、状态码、URI 及首部字段,等等这些核心概念上一如往常,却能致力于突破上一代标准的性能限制,改进传输性能,实现低延迟和高吞吐量。而之所以叫2.0,是在于新增的二进制分帧层。在二进制分帧层上, HTTP 2.0 会将所有传输的信息分割为更小的消息和帧,并对它们采用二进制格式的编码 ,其中HTTP1.x的首部信息会被封装到Headers帧,而我们的request body则封装到Data帧里面。 |
| HTTP 2.0 通信都在一个连接上完成,这个连接可以承载任意数量的双向数据流。相应地,每个数据流以消息的形式发送,而消息由一或多个帧组成,这些帧可以乱序发送,然后再根据每个帧首部的流标识符重新组装。 |
| |
| |
| 当一个客户端向相同服务器请求许多资源时,像来自同一个网页的图像,将会有大量的请求看上去几乎同样的,这就需要压缩技术对付这种几乎相同的信息。 |
| |
| |
| HTTP1.1一个缺点是当HTTP信息有一定长度大小数据传输时,你不能方便地随时停止它,中断TCP连接的代价是昂贵的。使用HTTP2的RST_STREAM将能方便停止一个信息传输,启动新的信息,在不中断连接的情况下提高带宽利用效率。 |
| |
| 客户端请求一个资源X,服务器端判断也许客户端还需要资源Z,在无需事先询问客户端情况下将资源Z推送到客户端,客户端接受到后,可以缓存起来以备后用。 |
| |
| |
| 每个流都有自己的优先级别,会表明哪个流是最重要的,客户端会指定哪个流是最重要的,有一些依赖参数,这样一个流可以依赖另外一个流。优先级别可以在运行时动态改变,当用户滚动页面时,可以告诉浏览器哪个图像是最重要的,你也可以在一组流中进行优先筛选,能够突然抓住重点流。 |
HTTP/1.1详解
HTTP/1.1是HTTP协议的第三个版本,是目前主流的HTTP协议版本
HTTP 1.1引入了许多关键性能优化:keepalive连接,请求流水线,chunked编码传输,字节范围请求等
1、Persistent Connection(keepalive连接)
| |
| HTTP 1.1 默认开启长连接,即 TCP 连接默认不会关闭,可以被多个 HTTP 请求和响应复用, |
| 减少了创建和关闭连接的消耗和延迟。 |
| |
| |
| 在HTTP1.0中使用长连接需要添加请求头 Connection: Keep-Alive, |
| 而在HTTP 1.1 所有的连接默认都是长连接, |
| 除非特殊声明不支持( HTTP请求报文首部加上Connection: close ) |
测试主动关闭keepalive:搭个nginx当服务端,配置文件设置keepalived为0
| http { |
| ...... |
| |
| keepalive_timeout 0; |
不建议你用谷歌浏览器测试(建议用火狐,谷歌浏览器做了很多优化机制会影响测试效果比如谷歌浏览器里访问一次url地址谷歌浏览器会与服务端建立2个tcp链接,用火狐浏览器最好),哪怕你用谷歌也要清理下历史记录再测试
把服务端nginx的keepalived_timeout设置为5,打开火狐浏览器清理下历史记录后访问
http://192.168.71.114:8080/1.txt
去服务器后台查看,5s后会立即回收该tcp连接
2、Pipelining(请求流水线化/管道化)
| A client that supports persistent connections MAY "pipeline" its requests |
| (i.e., send multiple requests without waiting for each response). |
| A server MUST send its responses to those requests in the same order that the requests were received. |
| 在同一个 TCP 连接中,客户端可以发送多个 HTTP 请求, |
| 而无需等待每个请求的响应,从而降低了网络延迟。 |
| 服务器必须按照与收到请求的相同顺序来向这些请求发送响应。 |
3、分块传输编码chunked
| |
| 分块编码传输是一种允许服务器在不知道全部响应大小的情况,(比如由数据库动态产生的数据) |
| 通过多个小"块"的形式逐步发送HTTP响应给客户端的技术。 |
| |
| |
| 当响应头里包含Transfer-Encoding: chunked,代表分块编码, |
| 会把「报文」分割成若干个大小已知的块, |
| 块之间是紧挨着发送的,这样就不需要在发送之前知道整个报文的大小了, |
| 也意味着不需要写回Content-Length首部了。 |
| |
| |
| 当使用持久连接时,在服务器发送主体内容之前,必须计算出主体内容的大小, |
| 然后放到响应头里(Content-Length:主体的字节数)发送给客户端。 |
| 如果服务器动态创建内容(比如由数据库动态产生的数据),可能在发送之前无法知道主体大小, |
| 分块编码就是为了解决这种情况:服务器把主体逐块发送,说明每一块的大小。 |
| 服务器再用大小为0的块作为结束块。,为下一个响应做准备,此时响应头里便不再需要Content-Length了 |
| |
| 总结一句话: |
| 除非使用了分块编码Transfer-Encoding: chunked,否则响应头首部必须使用Content-Length首部 |
| |
| |
| 如果请求头包含Accept-Encoding': 'gzip',则服务端会将内容压缩后返回, |
| 此时内容的Content-Length长度是压缩后的长度, |
| 如果请求头不包含Accept-Encoding': 'gzip', |
| 服务器就不会采取gzip压缩,同时我司服务器设定也不进行分块编码。 |
| 所以返回响应头的Content-Length首部是必须的,但是这个值的大小肯定是没有进行过压缩的文件大小。 |
4、HTTP 1.1还新增了如下特性:
| |
| 在HTTP1.0中认为每台服务器都绑定一个唯一的IP地址,因此,请求消息中的URL并没有传递主机名。 |
| 但随着虚拟主机技术的发展,在一台物理服务器上可以存在多个虚拟主机(Multi-homed Web Servers), |
| 并且它们共享一个IP地址。因此,Host头的引入就很有必要了。 |
| |
| |
| HTTP1.1增加了OPTIONS,PUT, DELETE, TRACE, CONNECT方法 |
| |
| |
| HTTP 1.1 引入了更为丰富的缓存控制策略,如 ETag、Cache-Control 等头部字段。 |
什么是URI与URL
| |
| HTTP使用统一资源标识符(Uniform Resource Identifiers, URI)来传输数据和建立连接。 |
| |
| |
| URL是一种特殊类型的URI,包含了用于查找某个资源的足够的信息 |
| |
| URL,全称是UniformResourceLocator, 中文叫统一资源定位符,是互联网上用来标识某一处资源的地址。 |
| |
| |
| http://www.aspxfans.com:8080/news/index.asp?boardID=5&ID=24618&page=1 |
| |
| 一个完整的URL包括以下几部分: |
| |
| 该URL的协议部分为“http:”,在"HTTP"后面的“//”为分隔符。这代表网页使用的是HTTP协议。 |
| 在Internet中可以使用多种协议,如HTTP,FTP等等。 |
| ===>如果不写,浏览器会自动补全,但必须有 |
| |
| |
| 一个URL中,也可以使用IP地址作为域名使用 |
| ===>必须有 |
| |
| |
| 跟在域名后面的是端口,域名和端口之间使用“:”作为分隔符。 |
| ===>端口不是一个URL必须的部分,如果省略端口部分,将采用默认端口80 |
| |
| |
| 从域名后的第一个“/”开始到最后一个“/”为止,是虚拟目录部分。 |
| ===>虚拟目录也不是一个URL必须的部分。 |
| |
| |
| 从域名后的最后一个“/”开始到“?”为止,是文件名部分,如果没有“?”,则是从域名后的最后一个“/”开始到“ |
| ===>文件名部分也不是一个URL必须的部分,如果省略该部分,则使用默认的文件名 |
| |
| |
| 从“?”开始到“ |
| ===>参数部分非必须 |
| |
| |
| 从“ |
| ===>锚部分也不是一个URL必须的部分 |
URI与URL的区别
| #1、URI,是uniform resource identifier,统一资源标识符,用来唯一的标识一个资源。 |
| Web上可用的每种资源如HTML文档、图像、视频片段、程序等都是一个来URI来定位的 |
| URI一般由三部组成: |
| ①访问资源的命名机制 |
| ②存放资源的主机名 |
| ③资源自身的名称,由路径表示,着重强调于资源。 |
| |
| #2、URL是uniform resource locator,统一资源定位器,它是一种具体的URI, |
| 即URL可以用来标识一个资源,而且还指明了如何locate这个资源。 |
| URL是Internet上用来描述信息资源的字符串,主要用在各种WWW客户程序和服务器程序上,特别是著名的Mosaic。 |
| 采用URL可以用一种统一的格式来描述各种信息资源,包括文件、服务器的地址和目录等。URL一般由三部组成: |
| ①协议(或称为服务方式) |
| ②存有该资源的主机IP地址(有时也包括端口号) |
| ③主机资源的具体地址。如目录和文件名等 |
| |
| #3、URN,uniform resource name,统一资源命名,是通过名字来标识资源,比如mailto:java-net@java.sun.com。 |
| URI是以一种抽象的,高层次概念定义统一资源标识,而URL和URN则是具体的资源标识的方式。 |
| URL和URN都是一种URI。笼统地说,每个 URL 都是 URI,但不一定每个 URI 都是 URL。 |
| 这是因为 URI 还包括一个子类,即统一资源名称 (URN),它命名资源但不指定如何定位资源。 |
| 上面的 mailto、news 和 isbn URI 都是 URN 的示例 |
客户端发送一个HTTP请求到服务器的请求消息格式由四部分组成
- 请求行(request line)
- 请求头部(header)
- 空行
- 请求数据
request请求详解:
| 请求行以一个方法GET或POST开头,以空格分开,后面跟着请求的URI和协议的版本。详细解释如下 |
| GET /linhaifeng/p/7278389.html HTTP/1.1 |
| Host: www.cnblogs.com |
| Connection: keep-alive |
| Cache-Control: max-age=0 |
| Upgrade-Insecure-Requests: 1 |
| User-Agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Safari/537.36 |
| Accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8 |
| Accept-Encoding: gzip, deflate |
| Accept-Language: zh-CN,zh;q=0.9 |
| |
| |
| GET说明请求类型为GET |
| /linhaifeng/p/7278389.html为要访问的资源 |
| 该行的最后一部分说明使用的是HTTP1.1版本 |
| |
| |
| HOST将指出请求的目的地. |
| User-Agent,服务器端和客户端脚本都能访问它,它是浏览器类型检测逻辑的重要基础.该信息由你的浏览器来定义,并且在每个请求中自动发送等等 |
| |
| |
| 即使第四部分的请求数据为空,也必须有空行。 |
| |
| |
| 这个例子的请求数据为空。只有POST方法才有请求体,可以用浏览器登录一个网站,输错账号密码来抓取POST请求 |
| POST / HTTP1.1 |
| Host:www.wrox.com |
| User-Agent:Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 2.0.50727; .NET CLR 3.0.04506.648; .NET CLR 3.5.21022) |
| Content-Type:application/x-www-form-urlencoded |
| Content-Length:40 |
| Connection: Keep-Alive |
| |
| name=Professional%20Ajax&publisher=Wiley |
例如登录www.baidu.com,发送post请求,在浏览器F12里—》载荷,可以看到请求体
自己编写代码测试post请求
a.html
a.py
| |
| import socket |
| |
| server=socket.socket(socket.AF_INET,socket.SOCK_STREAM) |
| |
| server.bind(('0.0.0.0',8899)) |
| server.listen(5) |
| |
| while True: |
| conn,addr=server.accept() |
| data = conn.recv(1024) |
| print(data.decode('utf-8')) |
| |
| with open('a.html',mode='rb') as f: |
| res=f.read() |
| |
| conn.send(b"HTTP/1.1 200 OK\r\nContent-Type: text/html\r\n\r\n%s" %res) |
| |
| conn.close() |
HTTP请求方法了解:
| |
| HTTP1.0定义了三种请求方法: GET, POST 和 HEAD方法。 |
| HTTP1.1新增了五种请求方法:OPTIONS, PUT, DELETE, TRACE 和 CONNECT 方法。 |
| |
| |
| GET 请求指定的页面信息,并返回实体主体。 |
| HEAD 类似于get请求,只不过返回的响应中没有具体的内容,用于获取报头 |
| POST 向指定资源提交数据进行处理请求(例如提交表单或者上传文件)。数据被包含在请求体中。 |
| POST请求可能会导致新的资源的建立和/或已有资源的修改。 |
| PUT 提交更新某个内容。 |
| DELETE 请求服务器删除指定的页面。 |
| CONNECT HTTP/1.1协议中预留给能够将连接改为管道方式的代理服务器。 |
| OPTIONS 一般用作预检请求,在发真正请求之前先发个options请求预检一下服务端支持哪些http方法、跨域检测等。 |
| TRACE 回显服务器收到的请求,主要用于测试或诊断。 |
| |
| |
| 就对应着对这个资源的查,改,增,删4个操作。 |
| |
| |
GET与POST的区别
| |
| GET提交的数据会放在URL之后,以?分割URL和传输数据,参数之间以&相连, |
| 例 如:login.action?name=hyddd&password=idontknow&verify=%E4%BD%A0 %E5%A5%BD。 |
| 如果数据是英文字母/数字,原样发送,如果是空格,转换为+,如果是中文/其他字符, |
| 则直接把字符串用BASE64加密,得出如: %E4%BD%A0%E5%A5%BD, |
| 其中%XX中的XX为该符号以16进制表示的ASCII。 |
| |
| POST方法是把提交的数据放在HTTP包的Body中. |
| 因此,GET提交的数据会在地址栏中显示出来,而POST提交,地址栏不会改变 |
| |
| |
| 首先声明:HTTP协议没有对传输的数据大小进行限制,HTTP协议规范也没有对URL长度进行限制。 |
| |
| 而在实际开发中存在的限制主要有: |
| GET:特定浏览器和服务器对URL长度有限制,例如 IE对URL长度的限制是2083字节(2K+35)。 |
| 对于其他浏览器,如Netscape、FireFox等,理论上没有长度限制,其限制取决于操作系 统的支持。 |
| 因此对于GET提交时,传输数据就会受到URL长度的 限制。 |
| |
| POST:由于不是通过URL传值,理论上数据不受 限。但实际各个WEB服务器会规定对post提交数据大小进行限制,Apache、IIS6都有各自的配置。 |
| |
| 可以简单总结为: |
| GET提交的数据大小有限制(因为浏览器对URL的长度有限制),而POST方法提交的数据没有限制. |
| GET方式需要使用Request.QueryString来取得变量的值,而POST方式通过Request.Form来获取变量的值。 |
| |
| |
| POST的安全性要比GET的安全性高。比如:通过GET提交数据,用户名和密码将明文出现在URL上, |
| 因为(1)登录页面有可能被浏览器缓存;(2)其他人查看浏览器的历史纪录, |
| 那么别人就可以拿到你的账号和密码了,除此之外,使用GET提交数据还可能会造成Cross-site request forgery攻击 |
服务器接收并处理客户端发过来的请求后会返回一个HTTP的响应消息Response
HTTP响应也由四个部分组成,分别是:
详解
| |
| 第一行为状态行,(HTTP/1.1)表明HTTP版本为1.1版本,状态码为200,状态消息为(ok) |
| |
| |
| Date:生成响应的日期和时间; |
| Content-Type:指定了MIME类型的HTML(text/html),编码类型是UTF-8 |
| |
| |
| |
| |
| 空行后面的html部分为响应正文。 |
HTTP响应状态码
| 状态代码有三位数字组成,第一个数字定义了响应的类别,共分五种类别: |
| |
| 1xx:指示信息--表示请求已接收,继续处理 |
| 2xx:成功--表示请求已被成功接收、理解、接受 |
| 3xx:重定向--要完成请求必须进行更进一步的操作 |
| 4xx:客户端错误--请求有语法错误或请求无法实现 |
| 5xx:服务器端错误--服务器未能实现合法的请求 |
| 常见状态码: |
| |
| 200 OK |
| 400 Bad Request |
| 401 Unauthorized |
| 403 Forbidden |
| 404 Not Found |
| 500 Internal Server Error |
| 503 Server Unavailable |
| 更多状态码http: |
HTTP协议定义Web客户端如何从Web服务器请求Web页面,以及服务器如何把Web页面传送给客户端。HTTP协议采用了请求/响应模型。客户端向服务器发送一个请求报文,请求报文包含请求的方法、URL、协议版本、请求头部和请求数据。服务器以一个状态行作为响应,响应的内容包括协议的版本、成功或者错误代码、服务器信息、响应头部和响应数据。
以下是 HTTP 请求/响应的步骤:
1、请求一个url地址,先拿着域名去问本地dns要到ip地址
2、客户端连接到Web服务器
与Web服务器的HTTP端口(默认为80)建立一个TCP套接字连接。例如,https://egonlin.com
3、发送HTTP请求
通过TCP套接字,客户端向Web服务器发送一个文本的请求报文,一个请求报文由请求行、请求头部、空行和请求数据4部分组成。
4、服务器接受请求并返回HTTP响应
Web服务器解析请求,定位请求资源。服务器将资源复本写到TCP套接字,由客户端读取。一个响应由状态行、响应头部、空行和响应数据4部分组成。
5、释放连接TCP连接
若connection 模式为close,则服务器主动关闭TCP连接,客户端被动关闭连接,释放TCP连接;若connection 模式为keepalive,则该连接会保持一段时间,在该时间内可以继续接收请求;
6、客户端浏览器解析HTML内容
客户端浏览器
首先解析状态行,查看表明请求是否成功的状态代码。
然后解析每一个响应头,响应头告知以下为若干字节的HTML文档和文档的字符集。
然后读取并且解析响应数据HTML,有可能发起二次请求拿css、js、图片等,最终浏览器窗口中显示完整页面内容。
| |
| 客户向服务器请求服务时,只需传送请求方法和路径。 |
| 请求方法常用的有GET、HEAD、POST。每种方法规定了客户与服务器联系的类型不同。 |
| 由于HTTP协议简单,使得HTTP服务器的程序规模小,因而通信速度很快。 |
| |
| |
| HTTP允许传输任意类型的数据对象。正在传输的类型由Content-Type加以标记。 |
| |
| |
| |
| |
| 先来储备两个知识 |
| 储备知识1 |
| http协议传输数据没有确认与重试机制,而传输层的tcp协议有这些功能 |
| |
| 储备知识2 |
| (1)我们每次发送http请求前,都会先建立tcp连接 |
| (2)然后再发送http请求,拿到http响应后,会直接断开tcp连接 |
| 总结:http协议无连接指的是它每次利用完tcp连接后就会立即断开,不会保留tcp连接 |
| 这种高并发场景效果会很多,因为一个客户端可能在短期内要重复与服务端通信多次 |
| http协议无连接的特点,会使得客户端与服务端频繁进行tcp建链接与销毁链接的操作 |
| 针对http无连接,人们设计了持久连接。 |
| 1、针对同一个客户端,发送http请求时,会在请求头里加上connection:keep-alive字段, |
| 服务端收到请求后,发现该字段,会在发送完http响应包时,保留tcp的链接一段时间 |
| 下次再发,可以省去tcp三次握手的开销 |
| 2、响应头里也会带上connection: keep-alive字段,告知客户端,服务端支持长连接 |
| |
| |
| 所谓http是无状态协议,言外之意是说http协议没法保存客户机信息, |
| 无状态的优点是: |
| 在服务器不需要先前信息时它的应答就较快。 |
| 无状态的缺点是: |
| 缺少状态意味着如果后续处理需要前面的信息,则它必须重传。 |
| 这样可能导致每次连接传送的数据量增大 |
| |
| 关于http无状态阻碍了交互式应用程序的实现。比如记录用户浏览哪些网页、 |
| 判断用户是否拥有权限访问等。于是, |
| 两种用于保持HTTP状态的技术就应运而生了,一个是Cookie,而另一个则是Session。 |
自定义套接字服务端抓取浏览器发来的HTTP请求
| import socket |
| |
| server=socket.socket(socket.AF_INET,socket.SOCK_STREAM) |
| server.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1) |
| server.bind(('127.0.0.1',8080)) |
| server.listen(5) |
| |
| while True: |
| conn,client_addr=server.accept() |
| |
| request=conn.recv(1024) |
| |
| print(request.decode('utf-8')) |
| |
| conn.send(b'HTTP/1.1 200 OK\r\n\r\n<h1>hello</h1>') |
| conn.close() |
从文件中读取内容返回给浏览器
| import socket |
| |
| server=socket.socket(socket.AF_INET,socket.SOCK_STREAM) |
| server.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1) |
| server.bind(('127.0.0.1',8080)) |
| server.listen(5) |
| |
| while True: |
| conn,client_addr=server.accept() |
| |
| request=conn.recv(1024) |
| |
| print(request.decode('utf-8')) |
| |
| with open('index.html','rb') as f: |
| data=f.read() |
| conn.send(b'HTTP/1.1 200 OK\r\n\r\n%s' %data) |
| conn.close() |
旧版博客-》http协议:https://egonlin.com/?p=305