当前位置: 首页 > news >正文

Python获取 小黑子 弹幕数据+制作词云分析.........

嗨害大家好鸭,我是小熊猫❤

最近在小破站热门上看见了这个:

在这里插入图片描述
不得不说还是挺不一样的

对吧?什么你说不是?

哎呦~ 你干嘛 ~

咳咳…话不多说,让我们一起来康康~

源码、资料电子书点击这里

基本开发环境💨

  • Python 3.6
  • Pycharm

相关模块的使用💨

  • requests
  • re

安装Python并添加到环境变量,
pip安装需要的相关模块即可。


一、💥明确需求

在这里插入图片描述

二、💥网页数据分析

现在点击历史弹幕数据,同样是有数据加载出来,但是里面的都是乱码了。

在这里插入图片描述

请求这个链接还是会得到想要的数据内容。

只需要使用正则表达匹配中文字符就可以匹配出来

请添加图片描述


三、💥解析数据并多页爬取

弹幕分页是根据日期来的,当点击日期的使用,
返回的给我的数据并不是弹幕数据,而是所有的日期。

那么看到这里有人就会问了,
那我想要爬取目标日期的弹幕数据怎么办?

这两个的url地址是不一样的,
seg.so 才是弹幕数据url地址。

import requests
import re


def get_response(html_url):
    headers = {
        'cookie': '你自己的cookie',
        'origin': 'https://www.****',
        'referer': 'https://****/video/BV19E41197Kc',
        'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36',
    }
    response = requests.get(url=html_url, headers=headers)
    return response


def get_date(html_url):
    response = get_response(html_url)
    json_data = response.json()
    date = json_data['data']
    print(date)
    return date
    
if __name__ == '__main__':
    one_url = 'https://api.****.com/x/v2/dm/history/index?type=1&oid=120004475&month=2021-01'
    get_date(one_url)

返回的数据是json数据,
根据字典键值对取值就可以得到相关数据。


四、💥保存数据(数据持久化)

def main(html_url):
    data = get_date(html_url)
    for date in data:
        url = f'https://****/x/v2/dm/web/history/seg.so?type=1&oid=120004475&date={date}'
        html_data = get_response(url).text
        result = re.findall(".*?([\u4E00-\u9FA5]+).*?", html_data)
        for i in result:
            with open('**弹幕.txt', mode='a', encoding='utf-8') as f:
                f.write(i)
                f.write('\n')

在这里插入图片描述
请添加图片描述


五、💥完整代码

import requests
import re


def get_response(html_url):
    headers = {
        'cookie': '你自己的cookie',
        'origin': 'https://www.bilibili.com',
        'referer': 'https://www.bilibili.com/video/BV19E41197Kc',
        'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36',
    }
    response = requests.get(url=html_url, headers=headers)
    return response


def get_date(html_url):
    response = get_response(html_url)
    json_data = response.json()
    date = json_data['data']
    print(date)
    return date


def save(content):
    for i in content:
        with open('B站弹幕.txt', mode='a', encoding='utf-8') as f:
            f.write(i)
            f.write('\n')
            print(i)


def main(html_url):
    data = get_date(html_url)
    for date in data:
        url = f'https://api.bilibili.com/x/v2/dm/web/history/seg.so?type=1&oid=120004475&date={date}'
        html_data = get_response(url).text
        result = re.findall(".*?([\u4E00-\u9FA5]+).*?", html_data)
        save(result)


if __name__ == '__main__':
    one_url = 'https://api.bilibili.com/x/v2/dm/history/index?type=1&oid=120004475&month=2021-01'
    main(one_url)

今天的文章就是这样啦

我是小熊猫,咱下篇文章再见啦❤

请添加图片描述

相关文章:

  • 【C++笔记】第二十五篇 内建函数对象
  • 【C/自定义类型详解】——结构体(struct)、位段、枚举(enum)、联合(union)
  • CSDN 编程竞赛·第八期总结
  • 如何搭建网课搜题公众号
  • MySQL总结
  • 【Web UI自动化测试】Web UI自动化测试之PO篇(全网最全)
  • 什么是跨域
  • 智能优化算法:白鲸优化算法-附代码
  • 【初阶C++】细谈new和delete以及函数与类的模板
  • 【EffectiveC++】让自己习惯C++
  • Python实现websocket接口自动化测试
  • 【Flutter】【widget】Checkbox 和 CheckboxListTile 复选框快速学习一下
  • 二叉搜索树——C++
  • 开发和测试争抢环境?是时候进行多环境建设了
  • 【网络篇】第六篇——网络套接字编程(二)(UDP详解)
  • (最新版2022版)剑指offer之队列 栈题解
  • WinForm应用实战开发指南 - 教你如何实现表头的全选操作?
  • 刷题笔记之三(统计回文+连续最大和+查找组成一个偶数最接近的两个素数+把字符串转换成整数+不要二)
  • 猜数字小游戏(加强版)它来了
  • 学习笔记-常见安全设备渗透方法
  • 美法官裁定特朗普援引战时法律驱逐黑帮违法,系首次永久性驳回
  • 遍体鳞伤就是击不倒,这是国米老男孩最后的倔强
  • 三家“券商系”公募同日变更掌门人,新董事长均为公司股东方老将
  • 证监会:坚决拥护党中央对王建军进行纪律审查和监察调查的决定
  • 金砖国家外长会晤主席声明(摘要)
  • 十四届全国人大常委会举行第四十四次委员长会议