您的位置:

jsoup携带cookie(jsoup怎么用)

jsoup携带cookie(jsoup怎么用)

更新:

本文目录一览:

jsoup教程

jsoup是一款Java的HTML解析器,主要用来对HTML解析。 官网 中文文档

在爬虫的时候,当我们用HttpClient之类的框架,获取到网页源码之后,需要从网页源码中取出我们想要的内容,

就可以使用jsoup这类HTML解析器了。可以非常轻松的实现。

虽然jsoup也支持从某个地址直接去爬取网页源码,但是只支持HTTP,HTTPS协议,支持不够丰富。

所以,主要还是用来对HTML进行解析。

◆其中,要被解析的HTML可以是一个HTML的字符串,可以是一个URL,可以是一个文件。

org.jsoup.Jsoup把输入的HTML转换成一个org.jsoup.nodes.Document对象,然后从Document对象中取出想要的元素。

org.jsoup.nodes.Document继承了org.jsoup.nodes.Element,Element又继承了org.jsoup.nodes.Node类。里面提供了丰富的方法来获取HTML的元素。

◇从URL获取HTML来解析

其中Jsoup.connect("xxx")方法返回一个org.jsoup.Connection对象。

在Connection对象中,我们可以执行get或者post来执行请求。但是在执行请求之前,

我们可以使用Connection对象来设置一些请求信息。比如:头信息,cookie,请求等待时间,代理等等来模拟浏览器的行为。

◆获得Document对象后,接下来就是解析Document对象,并从中获取我们想要的元素了。

Document中提供了丰富的方法来获取指定元素。

◇使用DOM的方式来取得

getElementById(String id):通过id来获取

getElementsByTag(String tagName):通过标签名字来获取

getElementsByClass(String className):通过类名来获取

getElementsByAttribute(String key):通过属性名字来获取

getElementsByAttributeValue(String key, String value):通过指定的属性名字,属性值来获取

getAllElements():获取所有元素

◇通过类似于css或jQuery的选择器来查找元素

使用的是Element类的下记方法:

public Elements select(String cssQuery)

通过传入一个类似于CSS或jQuery的选择器字符串,来查找指定元素。

例子:

选择器的更多语法(可以在org.jsoup.select.Selector中查看到更多关于选择器的语法):

tagname: 通过标签查找元素,比如:a

ns|tag: 通过标签在命名空间查找元素,比如:可以用 fb|name 语法来查找 fb:name 元素

#id: 通过ID查找元素,比如:#logo

.class: 通过class名称查找元素,比如:.masthead

[attribute]: 利用属性查找元素,比如:[href]

[^attr]: 利用属性名前缀来查找元素,比如:可以用[^data-] 来查找带有HTML5 Dataset属性的元素

[attr=value]: 利用属性值来查找元素,比如:[width=500]

[attr^=value], [attr$=value], [attr=value]: 利用匹配属性值开头、结尾或包含属性值来查找元素,比如:[href=/path/]

[attr~=regex]: 利用属性值匹配正则表达式来查找元素,比如: img[src~=(?i).(png|jpe?g)]

*: 这个符号将匹配所有元素

Selector选择器组合使用

el#id: 元素+ID,比如: div#logo

el.class: 元素+class,比如: div.masthead

el[attr]: 元素+class,比如: a[href]

任意组合,比如:a[href].highlight

ancestor child: 查找某个元素下子元素,比如:可以用.body p 查找在"body"元素下的所有 p元素

parent child: 查找某个父元素下的直接子元素,比如:可以用div.content p 查找 p 元素,也可以用body * 查找body标签下所有直接子元素

siblingA + siblingB: 查找在A元素之前第一个同级元素B,比如:div.head + div

siblingA ~ siblingX: 查找A元素之前的同级X元素,比如:h1 ~ p

el, el, el:多个选择器组合,查找匹配任一选择器的唯一元素,例如:div.masthead, div.logo

伪选择器selectors

:lt(n): 查找哪些元素的同级索引值(它的位置在DOM树中是相对于它的父节点)小于n,比如:td:lt(3) 表示小于三列的元素

:gt(n):查找哪些元素的同级索引值大于n,比如: div p:gt(2)表示哪些div中有包含2个以上的p元素

:eq(n): 查找哪些元素的同级索引值与n相等,比如:form input:eq(1)表示包含一个input标签的Form元素

:has(seletor): 查找匹配选择器包含元素的元素,比如:div:has(p)表示哪些div包含了p元素

:not(selector): 查找与选择器不匹配的元素,比如: div:not(.logo) 表示不包含 class="logo" 元素的所有 div 列表

:contains(text): 查找包含给定文本的元素,搜索不区分大不写,比如: p:contains(jsoup)

:containsOwn(text): 查找直接包含给定文本的元素

:matches(regex): 查找哪些元素的文本匹配指定的正则表达式,比如:div:matches((?i)login)

:matchesOwn(regex): 查找自身包含文本匹配指定正则表达式的元素

注意:上述伪选择器索引是从0开始的,也就是说第一个元素索引值为0,第二个元素index为1等

◆通过上面的选择器,我们可以取得一个Elements对象,它继承了ArrayList对象,里面放的全是Element对象。

接下来我们要做的就是从Element对象中,取出我们真正需要的内容。

通常有下面几种方法:

◇Element.text()

这个方法用来取得一个元素中的文本。

◇Element.html()或Node.outerHtml()

这个方法用来取得一个元素中的html内容

◇Node.attr(String key)

获得一个属性的值,例如取得超链接a href=""中href的值

json字符串-数组类型与JSONArray之间的转换

复杂json格式字符串与JSONObject之间的转换

Jsoup或者HttpClient抓取web页面时,data,userAgent,cookie(),timeout(),post();为什么要设置这些?

userAgent让服务器感觉访问者更像一个真实的浏览器在访问,cookie是看服务器需不需要,timeout还需要解释吗,你不设置有一个默认的超时时间

使用OkHttp进行重定向拦截处理

网上有很多的OkHttp的教程,但是并没有一个是关于如何OkHttp处理重定向的。这里的处理重定向的意思是:把重定向请求拦截下来,然后我们自己去请求重定向后的网页,然后通过Jsoup解析自己需要的网页数据。比如说我们模拟用户登录,然后自己去请求解析登陆后跳转的网页的内容。为什么要做这样的一个东西呢?比如说课程表的查成绩功能,就可以使用这种方法来获取成绩。

大概的原理是怎样的呢?

我们先来说一下浏览器是怎么样做用户登录的:浏览器会将你输入的帐号和密码通过POST请求携带过去,当然可能还会有其它字段,因为这个POST请求是我们网页和服务器规定好的;登录成功后,服务器会返回一个 Set-Cookie 请求头字段,有了Cookie浏览器就可以通过GET请求访问登录后的网页,注意没有这个Cookie是无法请求登陆后的网页的,GET请求必须设置Cookie请求头字段,将服务器返回的Cookie携带过去。

明白了浏览器的行为之后,我们知道需要做的步骤就是4步:

我们需要通过抓包或者Chorme浏览器自带的请求查看功能来查看POST请求提交的表单是怎样的。Chorme按F12即可

输入帐号密码点击登录即可

点击登陆后我们可以看到,控制面板出现了一堆访问的记录,第一个就是我们要找的,第一个的Status标志是302,302是重定向的意思。我们点击(pass.asp)这个请求,然后查看它的POST的请求头(点击Headers)。

我们看到了一堆的Set-Cookie字段,字段对应的内容就是我们要携带做GET请求的

同时我们可以看到POST提交的表单内容,有些网站的提交参数是经过加密的,如果要做通用的,我们需要找到它加密的方法,做同样的加密处理。

接下来使用OkHttp进行操作

由于OkHttp提供了自动携带Cookie进行请求的功能,于是我们可以很方便地进行处理了。

为什么设置CookieJar就能自动携带Cookie了呢?给你看一段OkHttp的源码就知道了。

于是接下来我们就是做POST请求了

拿到内容后就可以自己进行内容的解析和展示了。

java的Jsoup登录有验证码网页获取登录后的cookie

首先是jar仓库:

dependency

groupIdorg.seleniumhq.selenium/groupId

artifactIdselenium-java/artifactId

version[3.0.1,)/version//获取最新的版本库

/dependency

dependency

groupIdorg.jsoup/groupId

artifactIdjsoup/artifactId

version1.8.2/version

typejar/type

/dependency

代码:

public static void getIndex2() {

//之前运行程序发现生成了N多个chrome driver进程,搞不懂为什么会有那么多进程产生,网上查了下,说起这个service有用,拿来试下,效果未知

ChromeDriverService service = new

ChromeDriverService.Builder().usingDriverExecutable(new

File("./driver/chromedriver.exe")).usingAnyFreePort().build();

try {

service.start();

} catch (IOException ex) {

Logger.getLogger(kechengbiaoIndex.class.getName()).log(Level.SEVERE, null, ex);

}

//end

//正式开始

//先定义浏览器驱动,我用chrome浏览器,网上下载一个chromedriver.exe,启动时需要加载

System.getProperties().setProperty("webdriver.chrome.driver", "./driver/chromedriver.exe");

jsoup携带cookie(jsoup怎么用)

本文目录一览: 1、jsoup教程 2、Jsoup或者HttpClient抓取web页面时,data,userAgent,cookie(),timeout(),post();为什么要设置这些? 3、使

2023-12-08
jsoup带cookies(jsoup是什么意思)

本文目录一览: 1、Jsoup发送http请求,get和post两种方式,分别带参数和不带参数 2、求真正有效的可以模拟登录新浪微博的java代码,后续可以用Jsoup进行抓取。急急!!登录成功马上给

2023-12-08
jsoup填充cookie获取数据,jsoup设置cooki

2023-01-04
jsoup设置cookie,jsoup修改html内容

2023-01-03
jsoup获取headercookie,jsoup获取标签内

2022-11-27
javajsoup用法(java jsoup)

本文目录一览: 1、java jsoup怎样爬取特定网页内的数据 2、java怎样读取html文件 3、java使用jsoup采集网站数据 4、详解如何基于Java用Jsoup爬虫HTML数据 jav

2023-12-08
jsoup程序中使用代理(jsoup教程)

本文目录一览: 1、如何在爬虫中设置代理服务器HttpClient,可以连续爬取,请老师给具体代码,谢谢! 2、java jsoup怎样爬取特定网页内的数据 3、Jsoup如何在设有有代理的网络中解析

2023-12-08
java使用jsoup简单爬虫,jsoup爬取网页

本文目录一览: 1、java jsoup怎样爬取特定网页内的数据 2、java爬虫抓取指定数据 3、如何用java爬虫爬取招聘信息 java jsoup怎样爬取特定网页内的数据 1、Jsoup简述 J

2023-12-08
JSoup在Web页面解析中的应用

2023-05-20
利用JSoup和Maven优化网页元素

2023-05-16
跨域携带cookie的实现

2023-05-21
使用Maven和Jsoup提高网站的搜索引擎排名

2023-05-16
java实现网页爬虫的示例讲解(java爬虫爬取网页内容)

2022-11-14
java模拟登录,java模拟登录获取cookie

2023-01-09
爬虫java,爬虫java框架

2023-01-09
java爬虫,java爬虫代码

2023-01-09
java模拟登陆,Java模拟登陆

2023-01-10
java爬虫系列第五讲(JAVA爬虫)

2022-11-12
Java爬虫框架介绍

2023-05-22
java爬虫,java爬虫与python爬虫的区别

2022-11-27