大模型——Crawl4AI使用JsonCssExtractionStrategy进行结构化数据提取
大模型——Crawl4AI使用JsonCssExtractionStrategy进行结构化数据提取
本章节将详细介绍Crawl4AI中的JsonCssExtractionStrategy,利用CSS选择器从网页中提取结构化数据。将涵盖模式定义、提取加密货币价格的实际示例、该方法的优势以及有效使用的技巧。
概述
JsonCssExtractionStrategy是Crawl4AI的一项强大功能,允许用户使用CSS选择器从网页中提取结构化数据。这种方法特别适用于需要从一致的HTML结构中提取特定数据点的情况,例如表格或重复的元素。
该策略通过定义一套模式(schema)来工作,模式中包含以下内容:
- 重复元素的基础CSS选择器
- 从每个元素中提取的字段,每个字段都有自己的CSS选择器
这种策略的执行速度快且高效,因为它不依赖于外部服务(如大语言模型)进行数据提取。
示例:从Coinbase提取加密货币价格
下面是一个提取Coinbase探索页面上的加密货币价格的示例。
import json
import asyncio
from crawl4ai import AsyncWebCrawler
from crawl4ai.extrac