当前位置: 首页 > wzjs >正文

招聘网站建设及推广广东广电网络东莞分公司

招聘网站建设及推广,广东广电网络东莞分公司,南京市建设工程网站,自己建立网站要钱吗Pandas作为数据科学领域鳌头独占的利器,有着丰富多样的函数,能实现各种意想不到的功能。 作为学习者没办法一次性掌握Pandas所有的方法,需要慢慢积累,多看多练。 这次为大家介绍一个非常实用且神奇的函数-read_html()&#xff0…

Pandas作为数据科学领域鳌头独占的利器,有着丰富多样的函数,能实现各种意想不到的功能。

作为学习者没办法一次性掌握Pandas所有的方法,需要慢慢积累,多看多练。

这次为大家介绍一个非常实用且神奇的函数-read_html(),它可免去写爬虫的烦恼,自动帮你抓取静态网页中的表格。

简单用法:pandas.read_html(url)

主要参数:

  • io:接收网址、文件、字符串
  • header:指定列名所在的行
  • encoding:The encoding used to decode the web page
  • attrs:传递一个字典,用其中的属性筛选出特定的表格

只需要传入url,就可以抓取网页中的所有表格,抓取表格后存到列表,列表中的每一个表格都是dataframe格式。

我们先简单抓取天天基金网的基金净值表格,目标url:http://fund.eastmoney.com/fund.html

可以看到上面html里是table表格数据,刚好适合抓取。

import pandas as pd
url = "http://fund.eastmoney.com/fund.html"
data = pd.read_html(url,attrs = {'id': 'oTable'})
# 查看表格数量
tablenum = len(data)
print(tablenum)

输出:1

通过'id': 'oTable'的筛选后,只有一个表格,我们直接爬取到了基金净值表。

data[1]

但这里只爬取了第一页的数据表,因为天天基金网基金净值数据每一页的url是相同的,所以read_html()函数无法获取其他页的表格,这可能运用了ajax动态加载技术来防止爬虫。

附:一般来说,一个爬虫对象的数据一次展现不完全时,就要多次展示,网站的处理办法有两种: 1、下一个页面的url和上一个页面的url不同,即每个页面的url是不同的,一般是是序号累加,处理方法是将所有的html页面下载至本地,从而拿到所有数据;(天天基金网显示不是这种类型) 2、下一个页面的url和上一个页面的url相同,即展示所有数据的url是一样的,这样的话网页上一般会有“下一页”或“输入框”与“确认”按钮,处理方法是将代码中触发“下一页”或“输入框”与“确认”按钮点击事件来实现翻页,从而拿到所有数据。(天天基金网是这种类型)

刚只是简单地使用了read_html()获取web表格的功能,它还有更加复杂的用法,需要了解其参数含义。

详细用法

pandas.read_html( io, match='.+', flavor=None, header=None, index_col=None, skiprows=None, attrs=None, parse_dates=False, thousands=', ', encoding=None, decimal='.', converters=None, na_values=None, keep_default_na=True, displayed_only=True)

详细参数

io: str, path object 或 file-like objectURL,file-like对象或包含HTML的原始字符串。请注意,lxml仅接受http,ftp和文件url协议。如果您的网址以'https'您可以尝试删除's'。
match: str 或 compiled regular expression, 可选参数将返回包含与该正则表达式或字符串匹配的文本的表集。除非HTML非常简单,否则您可能需要在此处传递非空字符串。默认为“。+”(匹配任何非空字符串)。默认值将返回页面上包含的所有表。此值转换为正则表达式,以便Beautiful Soup和lxml之间具有一致的行为。
flavor: str 或 None要使用的解析引擎。 ‘bs4’和‘html5lib’彼此同义,它们都是为了向后兼容。默认值None尝试使用lxml解析,如果失败,它会重新出现bs4+html5lib。
header: int 或 list-like 或 None, 可选参数该行(或MultiIndex)用于创建列标题。
index_col: int 或 list-like 或 None, 可选参数用于创建索引的列(或列列表)。
skiprows: int 或 list-like 或 slice 或 None, 可选参数解析列整数后要跳过的行数。从0开始。如果给出整数序列或切片,将跳过该序列索引的行。请注意,单个元素序列的意思是“跳过第n行”,而整数的意思是“跳过n行”。
attrs: dict 或 None, 可选参数这是属性的词典,您可以传递该属性以用于标识HTML中的表。在传递给lxml或Beautiful Soup之前,不会检查它们的有效性。但是,这些属性必须是有效的HTML表属性才能正常工作。例如, attrs = {'id': 'table'} 是有效的属性字典,因为‘id’ HTML标记属性是任何HTML标记的有效HTML属性,这个文件。 attrs = {'asdf': 'table'} 不是有效的属性字典,因为‘asdf’即使是有效的XML属性,也不是有效的HTML属性。可以找到有效的HTML 4.01表属性这里。可以找到HTML 5规范的工作草案这里。它包含有关现代Web表属性的最新信息。
parse_dates: bool, 可选参数参考read_csv()更多细节。
thousands: str, 可选参数用来解析成千上万个分隔符。默认为','。
encoding: str 或 None, 可选参数用于解码网页的编码。默认为NoneNone保留先前的编码行为,这取决于基础解析器库(例如,解析器库将尝试使用文档提供的编码)。
decimal: str, 默认为 ‘.’可以识别为小数点的字符(例如,对于欧洲数据,请使用“,”)。
converters: dict, 默认为 None用于在某些列中转换值的函数的字典。键可以是整数或列标签,值是采用一个输入参数,单元格(而非列)内容并返回转换后内容的函数。
na_values: iterable, 默认为 None自定义NA值。
keep_default_na: bool, 默认为 True如果指定了na_values并且keep_default_na为False,则默认的NaN值将被覆盖,否则将附加它们。
displayed_only: bool, 默认为 True是否应解析具有“display:none”的元素。

最后, read_html() 仅支持静态网页解析,你可以通过其他方法获取动态页面加载后response.text 传入 read_html() 再获取表格数据。


文章转载自:

http://yZ5N629H.pcwzb.cn
http://eKi5Ass5.pcwzb.cn
http://NOdxyijH.pcwzb.cn
http://HKDQkJCG.pcwzb.cn
http://yCcZ7Ac5.pcwzb.cn
http://GeTB1KBE.pcwzb.cn
http://3mNd6ipH.pcwzb.cn
http://j0wRQ3Wo.pcwzb.cn
http://GjSPe6Ci.pcwzb.cn
http://IGP24EI9.pcwzb.cn
http://4tCmi9fn.pcwzb.cn
http://g3bxYU9C.pcwzb.cn
http://8PzvzPvJ.pcwzb.cn
http://ZTBbnaqj.pcwzb.cn
http://AsGUxXSR.pcwzb.cn
http://2WfLdwGi.pcwzb.cn
http://cvq27FzC.pcwzb.cn
http://jxYnE8zN.pcwzb.cn
http://IMUemiaw.pcwzb.cn
http://6kPQHg5d.pcwzb.cn
http://grMAjyyB.pcwzb.cn
http://MHkuN7em.pcwzb.cn
http://voMviUEI.pcwzb.cn
http://sYMLr6Sj.pcwzb.cn
http://H20J39S2.pcwzb.cn
http://Kta3yRhy.pcwzb.cn
http://ehXgdg5t.pcwzb.cn
http://WwifO0h0.pcwzb.cn
http://i1egkqdn.pcwzb.cn
http://HUmxwX2o.pcwzb.cn
http://www.dtcms.com/wzjs/667276.html

相关文章:

  • 崂山区建设局网站注册一个有限公司需要多少钱
  • dede做网站地图简单的网页设计作品源码
  • 做哪种网站赚钱网络营销主要做什么
  • 专门帮人做网站的公司建设小说网站风险分析
  • 江苏省住房和建设部网站广州外贸营销型网站建设公司
  • 做c 题的网站江门seo咨询
  • 网站建设文件夹做网站的时候宽高
  • 网站建设重要网站开发兴趣组
  • 源码下载网站有哪些可以做查询功能的网站
  • 建设娱乐网站的要求游戏平台网站制作
  • 建个网站费用上海平台网站建设报
  • 用django做的网站河南旅游集团 网站建设
  • 用zend做饿了么网站电商网站详细设计
  • 网站的第二域名怎么用asp开发网站
  • ps做网站大小网站建设与seo
  • 新网站必须做301定向吗如何批量入侵WordPress站
  • 郑州上海做网站的公司有哪些做网站的管理员咋找
  • 受欢迎的做pc端网站企业管理制度标准范本
  • 如何做网站推广营销美工网站
  • 贵阳建站公司模板微网站开发 付费阅读
  • 雏鸟短视频app软件下载网站拓者设计网
  • wordpress 音乐网站互动营销网站
  • 重庆企业网站设计制作用jquery做的书籍网站
  • 教务管理系统数据库设计百度seo网站优化
  • 无锡网站app微信号js获取网站域名
  • 网站如何做微信分享推广网站建设 app开发网站
  • 东莞企业网站设计排名网站数据库分离怎么做
  • 网站做下载word世界上有一个wordpress站点
  • 中小企业网站开发如何设置中国建设银行网站首页
  • 来宾城乡建设局网站世界500强企业排名