一、介绍
在社交媒体当中,微博是一个非常受欢迎的平台,而微博评论也是很关键的部分。如果你对某个话题或者某个人感兴趣,想要了解更多关于这个话题或者这个人的细节,那么爬取微博评论就是非常必要和有用的。而Python就是一个非常强大的工具来实现这个目标。
通过Python,我们可以用爬虫程序来自动化地提取微博数据,包括发帖的内容和评论,以及粉丝数、转发数等各种有关数据。Python爬虫程序的优点是速度非常快,并且能够自动化的获取数据。
二、正文
1、Python根据关键字爬取微博
如果你想了解一个话题的热度或者一个人的言论,那么可以根据关键字来爬取微博。以Python作为爬虫工具,你需要先通过微博开放平台申请一个App Key,然后使用该App Key和App Secret去访问微博API。代码如下:
import requests app_key = 'your_app_key' app_secret = 'your_app_secret' # 根据关键字获取微博 def get_weibo_by_keyword(keyword): url = 'https://api.weibo.com/2/search/statuses.json' params = { 'q': keyword, 'count': 100, 'access_token': app_key + '&' + app_secret } response = requests.get(url, params=params) return response.json()['statuses']
以上代码会返回一个包含最多100条微博的JSON数据。
2、Python爬取微博内容和评论
在爬取微博时,你可能需要爬取某个用户的所有微博内容和评论,这时需要用到微博API提供的userInfo和comments接口。代码如下:
import requests app_key = 'your_app_key' app_secret = 'your_app_secret' # 根据用户ID获取所有微博 def get_weibo_by_user_id(user_id): url = 'https://api.weibo.com/2/statuses/user_timeline.json' params = { 'uid': user_id, 'count': 100, 'access_token': app_key + '&' + app_secret } response = requests.get(url, params=params) return response.json()['statuses'] # 根据微博ID获取评论 def get_comments_by_weibo_id(weibo_id): url = 'https://api.weibo.com/2/comments/show.json' params = { 'id': weibo_id, 'count': 100, 'access_token': app_key + '&' + app_secret } response = requests.get(url, params=params) return response.json()['comments']
以上代码可以获取某个用户的所有微博内容和评论,并以JSON数据的形式返回。
3、Python爬取微博数据
如果你想获取某个话题或者某个人的所有微博数据,那么你需要用到微博API提供的statuses接口。代码如下:
import requests app_key = 'your_app_key' app_secret = 'your_app_secret' # 根据用户ID获取所有微博 def get_weibo_by_user_id(user_id): url = 'https://api.weibo.com/2/statuses/user_timeline.json' params = { 'uid': user_id, 'count': 100, 'access_token': app_key + '&' + app_secret } response = requests.get(url, params=params) return response.json()['statuses'] # 根据微博ID获取评论 def get_comments_by_weibo_id(weibo_id): url = 'https://api.weibo.com/2/comments/show.json' params = { 'id': weibo_id, 'count': 100, 'access_token': app_key + '&' + app_secret } response = requests.get(url, params=params) return response.json()['comments'] # 根据关键字获取微博 def get_weibo_by_keyword(keyword): url = 'https://api.weibo.com/2/search/statuses.json' params = { 'q': keyword, 'count': 100, 'access_token': app_key + '&' + app_secret } response = requests.get(url, params=params) return response.json()['statuses']
以上代码可以获取某个用户的所有微博数据,包括发帖内容、评论数、转发数等各种数据,并以JSON数据的形式返回。
4、Python爬取微博评论
如果你只想获取某个微博的评论数据,那么可以使用微博API提供的comments接口。代码如下:
import requests app_key = 'your_app_key' app_secret = 'your_app_secret' # 根据微博ID获取评论 def get_comments_by_weibo_id(weibo_id): url = 'https://api.weibo.com/2/comments/show.json' params = { 'id': weibo_id, 'count': 100, 'access_token': app_key + '&' + app_secret } response = requests.get(url, params=params) return response.json()['comments']
以上代码可以获取某个微博的所有评论数据,并以JSON数据的形式返回。
5、Python爬取微博评论代码
下面是一个具体的案例,演示如何用Python爬取某个微博的评论数据:
import requests app_key = 'your_app_key' app_secret = 'your_app_secret' # 根据微博ID获取评论 def get_comments_by_weibo_id(weibo_id): url = 'https://api.weibo.com/2/comments/show.json' params = { 'id': weibo_id, 'count': 100, 'access_token': app_key + '&' + app_secret } response = requests.get(url, params=params) comments = response.json()['comments'] while len(comments) < response.json()['total_number']: params['max_id'] = comments[-1]['id'] response = requests.get(url, params=params) comments += response.json()['comments'] return comments # 爬取某个微博的评论数据 weibo_id = '4479404381472511' comments = get_comments_by_weibo_id(weibo_id) for comment in comments: print(comment['text'])
以上代码可以爬取某个微博的所有评论,并把评论的文字内容打印出来。
6、用Python爬取微博热搜
如果你想要了解当前的热门话题或者热门事件,那么可以爬取微博热搜榜。代码如下:
import requests from bs4 import BeautifulSoup url = 'https://weibo.com/topgirls' headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3' } response = requests.get(url, headers=headers) soup = BeautifulSoup(response.text) # 获取微博热搜榜 hot_list = soup.select('.td_1') for hot in hot_list: print(hot.get_text())
以上代码可以爬取微博热搜榜,包括话题的名称和热度值,并把结果打印出来。
7、Python爬取某人所有微博
假设你想要了解某个用户的所有微博内容,那么可以使用微博API提供的statuses/user_timeline接口。代码如下:
import requests app_key = 'your_app_key' app_secret = 'your_app_secret' # 根据用户ID获取所有微博 def get_weibo_by_user_id(user_id): url = 'https://api.weibo.com/2/statuses/user_timeline.json' params = { 'uid': user_id, 'count': 100, 'access_token': app_key + '&' + app_secret } response = requests.get(url, params=params) weibos = response.json()['statuses'] while len(weibos) < response.json()['total_number']: params['page'] += 1 response = requests.get(url, params=params) weibos += response.json()['statuses'] return weibos # 爬取某个用户所有微博 user_id = '5050574794' weibos = get_weibo_by_user_id(user_id) for weibo in weibos: print(weibo['text'])
以上代码可以爬取某个用户的所有微博,并把微博内容打印出来。