本文目录一览：
Python爬虫笔记（二）requests模块get，post，代理
import requests
base_url = ''
response = requests.get(base_url)
url=请求url，
headers =请求头字典，
params = 请求参数字典。
timeout = 超时时长，
)----response对象
服务器响应包含：状态行（协议，状态码）、响应头，空行，响应正文
字符串格式：response.text
bytes类型：response.content
response.headers['cookie']
response.text获取到的字符串类型的响应正文，
其实是通过下面的步骤获取的：
response.text = response.content.decode(response.encoding)
产生的原因：编码和解码的编码格式不一致造成的。
str.encode('编码')---将字符串按指定编码解码成bytes类型
bytes.decode('编码')---将bytes类型按指定编码编码成字符串。
a、response.content.decode('页面正确的编码格式')
meta http-equiv="content-type" content="text/html;charset=utf-8"
b、找到正确的编码，设置到response.encoding中
response.encoding = 正确的编码
response.text---正确的页面内容。
a、没有请求参数的情况下，只需要确定url和headers字典。
b、get请求是有请求参数。
在chrome浏览器中，下面找query_string_params,
将里面的参数封装到params字典中。
c、分页主要是查看每页中，请求参数页码字段的变化，
找到变化规律，用for循环就可以做到分页。
requests.post(
url=请求url，
headers = 请求头字典，
data=请求数据字典
timeout=超时时长
)---response对象
post请求一般返回数据都是json数据。
（1）response.json()---json字符串所对应的python的list或者dict
（2）用 json 模块。
json.loads(json_str)----json_data(python的list或者dict)
json.dumps(json_data)---json_str
post请求能否成功，关键看**请求参数**。
如何查找是哪个请求参数在影响数据获取？
---通过对比，找到变化的参数。
变化参数如何找到参数的生成方式，就是解决这个ajax请求数据获取的途径。
**寻找的办法**有以下几种：
（1）写死在页面。
（2）写在js中。
（3）请求参数是在之前的一条ajax请求的数据里面提前获取好的。
代理形象的说，他是网络信息中转站。
实际上就是在本机和服务器之间架了一座桥。
a、突破自身ip访问现实，可以访问一些平时访问不到网站。
b、访问一些单位或者团体的资源。
c、提高访问速度。代理的服务器主要作用就是中转，
所以一般代理服务里面都是用内存来进行数据存储的。
d、隐藏ip。
FTP代理服务器---21,2121
HTTP代理服务器---80,8080
SSL/TLS代理：主要用访问加密网站。端口：443
telnet代理 ：主要用telnet远程控制，端口一般为23
高度匿名代理：数据包会原封不动转化，在服务段看来，就好像一个普通用户在访问，做到完全隐藏ip。
普通匿名代理：数据包会做一些改动，服务器有可能找到原ip。
透明代理：不但改动数据，还会告诉服务，是谁访问的。
间谍代理：指组织或者个人用于记录用户传输数据，然后进行研究，监控等目的的代理。
proxies = {
'代理服务器的类型':'代理ip'
}
response = requests.get(proxies = proxies)
代理服务器的类型:http,https,ftp
代理ip:
Python爬虫（七）数据处理方法之JSON
JSON 指的是 JavaScript 对象表示法（JavaScript Object Notation），是轻量级的文本数据交换格式，且具有自我描述性，更易理解。
JSON看起来像python类型（列表，字典）的字符串。
在之前的文章中，我们说到了怎么用response的方法，获取到网页正确解码后的字符串。如果还有不懂的，可以先阅读 Python爬虫（三）Requests库 。接下来以有道翻译为例子，说说怎么通过网页解码后的字符串，提取到翻译结果。
再结合上述有道翻译的例子，得到字典类型的返回结果，并提取出来翻译结果。
将上述例子的dict_json换成str字符串，再写入文本中。
执行完上述的程序，会得到一个fanyi.txt的文件，其结果如下：{"type": "ZH_CN2EN", "errorCode": 0, "elapsedTime": 1, "translateResult": [[{"src": "\u4eba\u751f\u82e6\u77ed\uff0c\u6211\u7528python", "tgt": "Life is too short, I use python"}]]}。这样子的一份文档，中文部分显示的是二进制，且格式非常不利于阅读，这并不是我们想要的结果。好在json.dumps()为我们提供的两个方法，以帮助我们更好阅读文档。
1.ensure_ascii，能够让中文显示成中文；
2.indent，能够让下一行在第一行的基础上空格。
其用法如下：
Python与爬虫有什么关系？
Python是一门编程语言，爬虫只是Python的一个发展方向，有专业的库来实现各种爬虫操作。
因为Python提供了如urllib、re、json、pyquery等模块，同时又有很多成型框架，如Scrapy框架、PySpider爬虫系统等，本身又是十分的简洁方便，所以和爬虫联系在一起。
Python是完全面向对象的语言。函数、模块、数字、字符串都是对象。并且完全支持继承、重载、派生、多继承，有益于增强源代码的复用性。Python支持重载运算符和动态类型。相对于Lisp这种传统的函数式编程语言，Python对函数式设计只提供了有限的支持。有两个标准库(functools, itertools)提供了Haskell和Standard ML中久经考验的函数式程序设计工具。
扩展资料：
网页爬虫的行为通常是四种策略组合的结果。
1、选择策略，决定所要下载的页面；
2、重新访问策略，决定什么时候检查页面的更新变化；
3、平衡礼貌策略，指出怎样避免站点超载；
4、并行策略，指出怎么协同达到分布式抓取的效果。
