相关动态
最全Python爬虫入门教程28:爬取微博热搜榜并做动态数据展示(1),2024年最新渣本逆袭大厂面经分享
2024-11-10 16:54

(1)Python所有方向的学习路线(新版

最全Python爬虫入门教程28:爬取微博热搜榜并做动态数据展示(1),2024年最新渣本逆袭大厂面经分享

这是我花了几天的时间去把Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。

最近我才对这些路线做了一下新的更新,知识体系更全面了。

在这里插入图片描述

(2)Python学习视频

包含了Python入门、爬虫、数据分析和web开发的学习视频,总共100多个,虽然没有那么全面,但是对于入门来说是没问题的,学完这些之后,你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。

在这里插入图片描述

(3)100多个练手项目

我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了,只是里面的项目比较多,水平也是参差不齐,大家可以挑自己能做的项目去练练。

在这里插入图片描述

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友,可以戳这里获取

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导,让我们一起学习成长

PS:如有需要 以及 的小伙伴可以加点击下方链接自行获取

python免费学习资料以及群交流解答点击即可加入

基本开发环境💨


  • Python 3.6

  • Pycharm

相关模块的使用💨


import requests

import parsel

import csv

import time

安装Python并添加到环境变量,pip安装需要的相关模块即可。

💥需求数据来源分析


在这里插入图片描述

热搜榜数据, 每次刷新上面的热度数值都是会发生边改变,每隔一段时间可以爬取一下榜单数据,然后可以做一个数据展示。

热搜榜数据内容还是比较好爬的, 因为是静态网页数据内容, 如果大家有认真看过之前的问题,那么这个网站还是很好爬取的。

在这里插入图片描述

💥代码实现


每一分钟爬取一次数据内容

import requests

import parsel

import csv

import time

f = open(‘热榜.csv’, mode=‘a’, encoding=‘utf-8’, newline=‘’)

csv_writer = csv.DictWriter(f, fieldnames=[

‘时间’,

‘排名’,

‘标题’,

‘热度’,

])

csv_writer.writeheader()

while True:

now_time = int(time.time())

timeArray = time.localtime(now_time)

date = time.strftime(“%Y-%m-%d %H:%M:%S”, timeArray)

url = ‘https://s.weibo.com/top/summary?cate=realtimehot’

headers = {

‘user-agent’: ‘Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.90 Safari/537.36’,

}

response = requests.get(url=url, headers=headers)

selector = parsel.Selector(response.text)

trs = selector.css(‘#pl_top_realtimehot tbody tr’)[:11]

for tr in trs:

num = tr.css(‘td.td-01.ranktop::text’).get()

if num:

if num.isdigit():

title = tr.css(‘.td-02 a::text’).get()

hot = tr.css(‘.td-02 span::text’).get()

dit = {

‘时间’: date,

‘排名’: num,

‘标题’: title,

‘热度’: hot,

}

print(dit)

csv_writer.writerow(dit)

time.sleep(60)

💥动态数据展示


tl = Timeline()

for i in range(20):

bar = (

Bar()

.add_xaxis(list(data[‘标题’])[i10:i10+10][::-1])

.add_yaxis(“微博热搜榜”, list(data[‘热度’])[i10:i10+10][::-1])

.reversal_axis()

.set_global_opts(

title_opts=opts.TitleOpts(“{}”.format(list(data[‘时间’])[i*10]),pos_right=‘0%’,pos_bottom=‘15%’),

xaxis_opts=opts.AxisOpts(

splitline_opts=opts.SplitLineOpts(is_show=True)),

yaxis_opts=opts.AxisOpts(splitline_opts=opts.SplitLineOpts(is_show=True),

axislabel_opts=opts.LabelOpts(color=‘#FF7F50’)),)

.set_series_opts(label_opts=opts.LabelOpts(position=“right”,color=‘#9400D3’))

)

grid = (

Grid()

.add(bar, grid_opts=opts.GridOpts(pos_left=“25%”,pos_right=“0%”))

)

tl.add(grid, “{}年”.format(i)) #设置标签

tl.add_schema(

最后

🍅 硬核资料:关注即可领取PPT模板、简历模板、行业经典书籍PDF。 🍅 技术互助:技术群大佬指点迷津,你的问题可能不是问题,求资源在群里喊一声。 🍅 面试题库:由技术群里的小伙伴们共同投稿,热乎的大厂面试真题,持续更新中。 🍅 知识体系:含编程语言、算法、大数据生态圈组件(Mysql、Hive、Spark、Flink)、数据仓库、Python、前端等等。

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友,可以戳这里获取

    以上就是本篇文章【最全Python爬虫入门教程28:爬取微博热搜榜并做动态数据展示(1),2024年最新渣本逆袭大厂面经分享】的全部内容了,欢迎阅览 ! 文章地址:http://zleialh.xhstdz.com/news/897.html 
     栏目首页      相关文章      动态      同类文章      热门文章      网站地图      返回首页 物流园资讯移动站 http://zleialh.xhstdz.com/mobile/ , 查看更多   
最新文章
国际站:SEO Checker诊断工具助力商家诊断详情页,提升seo效果
国际站商家看过来:众所周知,一个优质的商品描述,可以提升买家转化的同时,还可以带来更多免费流量,从而让商家获得更多询盘和
【富蕴网站优化】在网站优化中有哪些常用的网站推广方式?
1、,百度,google的优化,针对,音乐,mp3下载,电影、游戏等一级,二级,甚至关键字优化。Seo介绍的网站很多,就不在这里重复
公众号简单爬虫--把公众号文章全部转载到网站(二)
根据上一篇的方法,我们得到了一个获取列表信息的地址,而且是用get方法就可以的地址.那么事情就变得很简单了,就是常规的爬取信息
1.【typecho】个人博客安装—使用群晖演示
哈喽,大家好今天给大家带来的是最近在群晖上安装一个博客的演示。先给大家看一下安装好之后的效果。虽然说现在使用博客和看博客
SEO优化攻略,揭秘网站排名提升与流量最大化技巧
本文深入解析SEO优化策略,通过关键词研究、高质量内容创作、链接建设等技术手段,帮助提升网站在搜索引擎中的排名,从而实现流
【HMNOTE搜狗手机输入法下载】小米HMNOTE搜狗手机输入法12.1.1免费下载
搜狗输入法,拥有超大中文词库,输入更加精准,智能。搜狗智能旺仔带你用表达,斗图,妙语,输入更加有趣。******特色功能******
vivo S19 Pro:全焦段人像拍照的5G游戏续航新宠
在智能手机市场日益同质化的今天,vivo S19 Pro以其独特的全焦段人像拍照功能、强大的5G性能以及出色的游戏续航能力,成为了众多
12月12日,星期四, 每天60秒读懂全世界!
新闻来源:百度热搜榜1. 25年老员工被开除 法院判赔98万近日,工作25年的李某被安排学习员工手册,全程玩手机遭公司开除,引发热
刚子扯谈:网站运营在左 技术在右 真TM扯
2013年8月5日,雨未下,天猴焖开片语:今天的扯谈内容是我转载我Java学习交流群里面一个哥们,当然我推荐他加入了朋友的网络分析
做seo营销网站/百度惠生活商家入驻
假定我们定义了一个Persion的message type,我们的用法可能如下定义 和 package tutorial;message Person {required int
相关文章