当前位置: 首页 > wzjs >正文

成都 网站建设培训南昌seo排名公司

成都 网站建设培训,南昌seo排名公司,网页设计表单注册代码,php做网站为什么比java快本工具仅限学术交流使用,严格遵循相关法律法规,符合平台内容的合法及合规性,禁止用于任何商业用途! 一、背景分析 1.1 开发背景 微博是国内极具影响力的社交媒体平台,具有内容形式短平快、热点事件实时性强、舆论快速…

本工具仅限学术交流使用,严格遵循相关法律法规,符合平台内容的合法及合规性,禁止用于任何商业用途!

一、背景分析

1.1 开发背景

微博是国内极具影响力的社交媒体平台,具有内容形式短平快、热点事件实时性强、舆论快速发酵、用户群体年轻且活跃等特点。其中,评论区是用户公开表达观点的重要场域,可通过评论区的数据,实时追踪情绪倾向、挖掘公众诉求、捕捉热点趋势、构建群体画像、从而进行社会学和传播学的研究等。

基于此,我用python开发了一个爬虫采集软件,叫"爬微博评论软件",下面详细介绍。

1.2 软件界面

软件界面,如下:
软件运行截图

1.3 结果展示

爬取结果:(截图中展示的就是全部字段了)
采集结果-评论数据

1.4 软件说明

几点重要说明,请详读了解:

1. Windows用户可直接双击打开使用,无需Python运行环境,非常方便!
2. 软件通过爬虫程序爬取,经本人专门测试,运行持久,稳定性较高!
3. 先在cookie.txt中填入自己的cookie值,方便重复使用(内附cookie获取方法)
4. 支持多个帖子链接串行爬取
5. 支持选择是否包含二级评论、指定评论排序(按热度/按时间)、指定爬取前几页
6. 爬取过程中,每爬一页,存一次csv。并非爬完最后一次性保存!防止因异常中断导致丢失前面的数据(每条间隔1~2s)
7. 爬取过程中,有log文件详细记录运行过程,方便回溯 
8. 结果csv含14个字段,有:wb链接,帖子id,页码,评论者昵称,评论者粉丝数,评论者关注数,评论者主页链接,评论者性别,评论者签名,评论时间,点赞数,评论内容IP属地,评论级别,评论内容

以上是现有功能,软件版本持续更新中。

1.5 演示视频

软件运行过程演示:
123

二、主要技术

2.1 模块分工

软件全部模块采用python语言开发,主要分工如下:

tkinter:GUI软件界面
requests:爬虫发送请求
json:解析返回的响应数据
pandas:保存csv结果
logging:日志记录

出于版权考虑,暂不公开源码,仅向用户提供软件使用。

2.2 部分代码

部分代码实现:

发送请求并解析数据:

# 发送请求
r = requests.get(url, headers=h1, params=params)
# 解析数据
json_data = r.json()

解析响应数据,以“评论内容”字段为例:

for data in json_data['data']:# 评论内容text = data['text_raw']text_list.append(text)

保存结果数据到csv文件:

# 保存数据
df = pd.DataFrame({'帖子链接': weibo_url,'帖子id': weibo_id,'页码': page,'评论者昵称': screen_name_list,'评论者粉丝数': followers_count_list,'评论者关注数': friends_count_list,'评论者主页链接': user_home_url_list,'评论者性别': gender_list,'评论者签名': desc_list,'评论时间': create_time_list,'点赞数': like_counts_list,'评论内容IP属地': source_list,'评论级别': comment_level_list,'评论内容': text_list,}
)
# 保存csv文件
df.to_csv(self.result_file, mode='a+', index=False, header=header, encoding='utf_8_sig')
self.tk_show('结果保存成功:{}'.format(self.result_file))

软件界面底部版权:

# 版权信息
copyright = tk.Label(root, text='@马哥python说 All rights reserved.', font=('仿宋', 10), fg='grey')
copyright.place(x=290, y=625)

日志模块:

def get_logger(self):self.logger = logging.getLogger(__name__)# 日志格式formatter = '[%(asctime)s-%(filename)s][%(funcName)s-%(lineno)d]--%(message)s'# 日志级别self.logger.setLevel(logging.DEBUG)# 控制台日志sh = logging.StreamHandler()log_formatter = logging.Formatter(formatter, datefmt='%Y-%m-%d %H:%M:%S')# info日志文件名info_file_name = time.strftime("%Y-%m-%d") + '.log'# 将其保存到特定目录case_dir = r'./logs/'info_handler = TimedRotatingFileHandler(filename=case_dir + info_file_name,when='MIDNIGHT',interval=1,backupCount=7,encoding='utf-8')

三、使用介绍

3.0 填写cookie

开始采集前,先把自己的cookie值填入cookie.txt文件。
pc端cookie获取说明:
cookie获取方法

然后把复制的cookie值填写到当前文件夹的cookie.txt文件中。

3.1 软件登录

用户登录界面:
用户登录

3.2 采集wb评论

根据自己的实际情况,在软件界面填写采集条件,点击开始按钮:
界面说明

完成采集后,在当前文件夹生成对应的csv文件,文件名以时间戳命名,方便查找。


END、文章出处

引自: 【爬虫工具】2025微博评论采集软件,根据帖子链接批量爬评论,包含二级评论!

http://www.dtcms.com/wzjs/481436.html

相关文章:

  • 怎么注册免费个人网站班级优化大师app下载
  • 专教做蛋糕的网站百度优化点击软件
  • 衣服网站建设策划书市场调研的内容
  • 网络商城平台怎么做灰色seo关键词排名
  • 微信商城和微网站建设网络营销顾问是做什么的
  • 做带支付平台的协会网站大概网站seo优化步骤
  • 网站标签系统网站开发软件有哪些
  • 网络公司网站源码 网络建设工作室网站模板 织梦广告设计公司源码购物链接
  • 高端网站建设公司服务好吗google关键词搜索量
  • 没有网站可以做搜索引擎营销吗百度搜索下载app
  • 部署一个网站要做哪些工作高州新闻 头条 今天
  • 了解网站建设的流程百度提升排名
  • 一个网站里面只放一个图片怎么做网上的推广公司
  • 免费企业网站建设单位设计网页
  • 山东省建设工程网站网站快速优化排名方法
  • 深圳正规制作网站网络营销师培训费用是多少
  • 网站常见 8宁波网络建站模板
  • 优秀网站建设空间线上广告
  • 北京网站优化什么价格临沂做网络优化的公司
  • 怎样用dw做新闻发布网站百度指数数据官网
  • 电脑怎么做网站关键词排名优化报价
  • 网站pv怎么统计宣传网站站点最有效的方式是
  • 五通桥移动网站建设免费的api接口网站
  • 石狮网站建设公司哪家好苏州整站优化
  • 厦门网站建设设计如何网上免费打广告
  • 什么是推广员无锡seo优化
  • 俄语培训网站建设南宁seo外包服务商
  • 网站工程工资一般多少钱茂名网络推广
  • 织梦网站手机页怎么做女生做sem专员的工作难吗
  • 网站建设的生存期模型微商软文