前言

随着现在直播的兴起，主播这个职业逐渐走入人们的视野。越来越多有颜值、有才艺的人纷纷加入到主播这个行业。但是主播最难熬的就是前期粉丝的积累，粉丝多人气就高。

接下来带大家爬取主播直播间人气数据，发现人气王！！

喜欢的朋友欢迎点击右上角关注小编，除了分享技术文章之外还有很多福利，私信学习资料可以领取包括不限于Python实战演练、PDF电子文档、面试集锦、学习资料等。

展示效果：

颜值区的主播人气值

本文知识点：

1、系统性的网页分析

2、数据处理

3、jsonpath模块的使用

环境介绍：

python 3.6

pycharm

requests

josnpath

爬虫的一般思路

1、分析目标网页,确定爬取的url路径，headers参数

2、发送请求 -- requests 模拟浏览器发送请求，获取响应数据

3、解析数据 -- jsonpath模块：JsonPath 是一种信息抽取类库，是从JSON文档中抽取指定信息的工具

4、数据输出

爬取数据

1、导入相关的数据库

import jsonpath
import requests
import pprint

2、分析目标网页,确定爬取的url路径，headers参数

URL地址：

headers参数：

base_url = 'https://www.douyu.com/gapi/rknc/directory/yzRec/1'
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.142 Safari/537.36'}

3、发送请求 -- requests 模拟浏览器发送请求，获取响应数据

response = requests.get(url=base_url, headers=headers)
json_data = response.json()

4、解析数据 -- jsonpath模块：JsonPath 是一种信息抽取类库，是从JSON文档中抽取指定信息的工具

字典根据值降序排列

sorted方法，sorted的三个参数：

iterable ：可迭代对象。

key ：主要是用来进行比较的元素，只有一个参数，具体的函数的参数就是取自于可迭代对象中，可以指定可迭代对象中的一个元素来进行排序。

reverse ：排序规则，reverse = True 降序， reverse = False 升序（默认）。

names = jsonpath.jsonpath(json_data, '$..nn')  # $ 从根节点提取  .. 跨节点提取
hot = jsonpath.jsonpath(json_data, '$..ol')
print(names)
print(hot)

item_dict = {}
for name, value in zip(names, hot):
    # print(name, value)
    item_dict[name] = value
print(item_dict)

print(item_dict.items())  # items() 函数以列表返回可遍历的(键, 值) 元组数组。

change_score = sorted(item_dict.items(), key=lambda x: x[1], reverse=True)  # lambda中的1是元组的索引
print(change_score)

5、数据输出

enumerate枚举 enumerate多用于在for循环中得到计数，利用它可以同时获得索引和值，即需要index和value值的时候可以使用enumerate

or player, hot_num in enumerate(change_score):
    print('第{}名=======是{}========人气值为:{}'.format(player + 1, change_score[player][0], change_score[player][1]))

Python实现主播人气排行榜，带你发现人气王

前言

爬取数据