当前位置：首页 > news >正文

爬取央视热榜并存储到MongoDB

news 来源：原创 2024/9/20 15:43:47

1. 环境准备

在开始之前，确保你已经安装了以下Python库：

pip install requests pymongo

2. 爬取网页内容

首先，我们需要爬取央视热榜的网页内容。通过requests.get()方法，我们可以获取网页的HTML内容，并通过re.findall()方法来提取我们感兴趣的部分。

import requests
import reheaders = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (HTML, like Gecko) Chrome/127.0.0.0 Safari/537.36"
}
url = 'https://tv.cctv.com/top/index.shtml?spm=C28340.PdNvWY0LYxCP.EtmP5mypaGE4.11'
res = requests.get(url, headers=headers)
con = res.content.decode("utf8")

在这一步中，我们访问了央视的热榜页面，并将网页内容解码为UTF-8格式。

3. 解析数据

我们使用正则表达式来提取每个榜单的具体内容。通过re.findall()方法，我们可以从HTML中提取出特定的榜单数据。

datas = re.findall(r'<ul>.*?</ul>', con, re.S)

4. 解析每个榜单的数据

我们将热榜分为几个类别，如热播榜、动画片、电视剧、纪录片和特别节目。分别对每个类别的数据进行解析：

result = {"热播榜": {"name": "热播榜", "items": []},"动画片": {"name": "动画片", "items": []},"电视剧": {"name": "电视剧", "items": []},"纪录片": {"name": "纪录片", "items": []},"特别节目": {"name": "特别节目", "items": []}
}# 热播榜
items = re.findall(r'<li.*?lazy="(.*?)".*?<div class="text"><a href=".*?" target="_blank">(.*?)</a>'r'</div>.*?<div class="column"><i class="icon_l"></i><a href=".*?" target="_blank">(.*?)</a>'r'<i class="icon_r"></i></div>.*?</li>',datas[1], re.S)
for item in items:result["热播榜"]["items"].append({"img": item[0],"title": item[1],"category": item[2]})# 动画片
items = re.findall(r'<li.*?lazy="(.*?)" width="188" height="250"></a>.*?<span class="number"><i class="icon_l">'r'</i><i class="txt">(.*?)</i><i class="icon_r"></i></span>.*?</div>.*?'r'<a class="cover" href=".*?" target="_blank">.*?</a>.*?<div class="text">'r'<a href=".*?" target="_blank">(.*?)</a></div>.*?<p><a href=".*?" target="_blank">(.*?)</a></p>.*?</li>', datas[2], re.S
)
for item in items:result["动画片"]["items"].append({"img": item[0],"title": item[2],"category": item[1],"synopsis": item[3]})# 电视剧
items = re.findall(r'<li.*?lazy="(.*?)" width="188" height="250"></a>.*?<span class="number">'r'<i class="icon_l"></i><i class="txt">(.*?)</i><i class="icon_r"></i></span>.*?</div>.*?'r'<a class="cover" href=".*?" target="_blank">.*?</a>.*?<div class="text"><a href=".*?" target="_blank">(.*?)</a>'r'</div>.*?<p><a href=".*?" target="_blank">(.*?)</a></p>.*?</li>',datas[3], re.S
)
for item in items:result["电视剧"]["items"].append({"img": item[0],"title": item[2],"episode": item[1],"synopsis": item[3]})# 纪录片
items = re.findall(r'<li.*?lazy="(.*?)" width="188" height="250"></a>.*?<span class="number">'r'<i class="icon_l"></i><i class="txt">(.*?)</i><i class="icon_r"></i>'r'</span>.*?</div>.*?<a class="cover" href=".*?" target="_blank">.*?</a>.*?<div class="text">'r'<a href=".*?" target="_blank">(.*?)</a></div>.*?<p><a href=".*?" target="_blank">(.*?)</a></p>.*?</li>',datas[4], re.S
)
for item in items:result["纪录片"]["items"].append({"img": item[0],"title": item[2],"category": item[1],"synopsis": item[3]})# 特别节目
items = re.findall(r'<li.*?lazy="(.*?)" width="188" height="250"></a>.*?<span class="number">'r'<i class="icon_l"></i><i class="txt">(.*?)</i><i class="icon_r"></i></span>.*?</div>.*?'r'<a class="cover" href=".*?" target="_blank">.*?</a>.*?<div class="text"><a href=".*?" target="_blank">(.*?)</a>'r'</div>.*?<p><a href=".*?" target="_blank">(.*?)</a></p>.*?</li>',datas[5], re.S
)
for item in items:result["特别节目"]["items"].append({"img": item[0],"title": item[2],"tv": item[1],"synopsis": item[3]})

在这段代码中，我们通过正则表达式分别提取了每个榜单的数据。每个榜单的数据结构可能略有不同，因此我们为每个榜单编写了相应的解析规则。

数据字段说明：

img: 每个节目对应的封面图片链接。
title: 节目的标题。
category: 节目的种类（如：动画片、电视剧等）。
episode: 电视剧的集数（仅电视剧榜单有此字段）。
synopsis: 节目的简要介绍。
tv: 电视台信息（仅特别节目榜单有此字段）。

5. 存储数据到MongoDB

解析完成后，我们将获取的数据存储到MongoDB中。首先，我们需要连接到MongoDB，然后将解析结果插入到相应的集合中。

import pymongoclient = pymongo.MongoClient()
db = client.get_default_database("cctv")
collection = db.get_collection("top")
collection.insert_one(result)
client.close()

上述代码连接到本地的MongoDB实例，并将数据插入到名为cctv的数据库中的top集合中。最后，关闭数据库连接。

6. 总结

通过以上步骤，我们成功地爬取了央视热榜的数据，并将其存储到MongoDB中。这种方法可以用来定期更新数据，构建自己的数据分析系统，或者为其他应用提供数据支持。

代码：

import reimport pymongo
import requestsheaders = {# 请求工具标识"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (HTML, like Gecko) ""Chrome/127.0.0.0 Safari/537.36"
}
url = 'https://tv.cctv.com/top/index.shtml?spm=C28340.PdNvWY0LYxCP.EtmP5mypaGE4.11'
res = requests.get(url, headers=headers)
con = res.content.decode("utf8")
datas = re.findall(r'<ul>.*?</ul>', con, re.S)
result = {"热播榜": {"name": "热播榜","items": []},"动画片": {"name": "动画片","items": []},"电视剧": {"name": "电视剧","items": []},"纪录片": {"name": "纪录片","items": []},"特别节目": {"name": "特别节目","items": []}
}
# print(datas[1])
items = re.findall(r'<li.*?lazy="(.*?)".*?<div class="text"><a href=".*?" target="_blank">(.*?)</a>'r'</div>.*?<div class="column"><i class="icon_l"></i><a href=".*?" target="_blank">(.*?)</a>'r'<i class="icon_r"></i></div>.*?</li>',datas[1], re.S)
for item in items:# print(item)result["热播榜"]["items"].append({"img": item[0],"title": item[1],"category": item[2]})# pass
# print(datas[2])
items = re.findall(r'<li.*?lazy="(.*?)" width="188" height="250"></a>.*?<span class="number"><i class="icon_l">'r'</i><i class="txt">(.*?)</i><i class="icon_r"></i></span>.*?</div>.*?'r'<a class="cover" href=".*?" target="_blank">.*?</a>.*?<div class="text">'r'<a href=".*?" target="_blank">(.*?)</a></div>.*?<p><a href=".*?" target="_blank">(.*?)</a></p>.*?</li>', datas[2], re.S
)
for item in items:# print(item)result["动画片"]["items"].append({"img": item[0],"title": item[2],"category": item[1],"synopsis": item[3]})# pass
# print(datas[3])
items = re.findall(r'<li.*?lazy="(.*?)" width="188" height="250"></a>.*?<span class="number">'r'<i class="icon_l"></i><i class="txt">(.*?)</i><i class="icon_r"></i></span>.*?</div>.*?'r'<a class="cover" href=".*?" target="_blank">.*?</a>.*?<div class="text"><a href=".*?" target="_blank">(.*?)</a>'r'</div>.*?<p><a href=".*?" target="_blank">(.*?)</a></p>.*?</li>', datas[3], re.S
)
for item in items:# print(item)result["电视剧"]["items"].append({"img": item[0],"title": item[2],"episode": item[1],"synopsis": item[3]})# pass
# print(datas[4])
items = re.findall(r'<li.*?lazy="(.*?)" width="188" height="250"></a>.*?<span class="number">'r'<i class="icon_l"></i><i class="txt">(.*?)</i><i class="icon_r"></i>'r'</span>.*?</div>.*?<a class="cover" href=".*?" target="_blank">.*?</a>.*?<div class="text">'r'<a href=".*?" target="_blank">(.*?)</a></div>.*?<p><a href=".*?" target="_blank">(.*?)</a></p>.*?</li>', datas[4], re.S
)
for item in items:# print(item)result["纪录片"]["items"].append({"img": item[0],"title": item[2],"category": item[1],"synopsis": item[3]})# pass
# print(datas[5])
items = re.findall(r'<li.*?lazy="(.*?)" width="188" height="250"></a>.*?<span class="number">'r'<i class="icon_l"></i><i class="txt">(.*?)</i><i class="icon_r"></i></span>.*?</div>.*?'r'<a class="cover" href=".*?" target="_blank">.*?</a>.*?<div class="text"><a href=".*?" target="_blank">(.*?)</a>'r'</div>.*?<p><a href=".*?" target="_blank">(.*?)</a></p>.*?</li>', datas[5], re.S
)
for item in items:# print(item)result["特别节目"]["items"].append({"img": item[0],"title": item[2],"tv": item[1],"synopsis": item[3]})# pass
# print(result)
client = pymongo.MongoClient()
db = client.get_default_database("cctv")
collection = db.get_collection("top")
collection.insert_one(result)
client.close()