当前位置：首页 > news >正文

Java爬虫能处理京东商品数据吗？

news 来源：原创 2025/5/16 10:55:30

Java爬虫完全可以处理京东商品数据。通过Java爬虫技术，可以高效地获取京东商品的详细信息，包括商品名称、价格、图片、描述等。这些信息对于市场分析、选品上架、库存管理和价格策略制定等方面具有重要价值。以下是一个完整的Java爬虫示例，展示如何按关键字搜索京东商品并获取其详细信息。

一、准备工作

（一）安装必要的库

确保你的项目中已经添加了以下依赖库：

Jsoup：用于解析HTML文档。
Apache HttpClient：用于发送HTTP请求。

可以通过Maven来管理这些依赖。以下是Maven的依赖配置示例：

xml

<dependency><groupId>org.jsoup</groupId><artifactId>jsoup</artifactId><version>1.10.2</version>
</dependency>

（二）注册京东开放平台账号

为了使用京东的API接口，需要在京东开放平台注册一个开发者账号。登录后，创建一个新的应用，获取应用的App Key和App Secret，这些凭证将用于后续的API调用。

二、编写爬虫代码

（一）发送HTTP请求

使用Jsoup库发送GET请求，获取商品页面的HTML内容。

java

import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;import java.io.IOException;public class JDProductCrawler {public static Document getHtml(String url) throws IOException {return Jsoup.connect(url).userAgent("Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.124 Safari/537.36").timeout(30000).get();}
}

（二）解析HTML内容

使用Jsoup解析HTML内容，提取商品详情。

java

import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;import java.util.ArrayList;
import java.util.List;public class JDProductParser {public static List<Product> parseHtml(Document doc) {List<Product> products = new ArrayList<>();Element goodsList = doc.getElementById("J_goodsList");Elements items = goodsList.getElementsByTag("li");for (Element item : items) {String img = item.getElementsByTag("img").eq(0).attr("src");String price = item.getElementsByClass("p-price").eq(0).text();String title = item.getElementsByClass("p-name").eq(0).text();String shop = item.getElementsByClass("p-shop").eq(0).text();Product product = new Product(title, img, price, shop);products.add(product);}return products;}
}

（三）按关键字搜索商品

根据关键字构建搜索URL，并获取多页搜索结果的HTML内容。

java

import java.io.IOException;
import java.util.List;public class JDProductSearch {public static List<Product> searchProducts(String keyword, int maxPages) {List<Product> allProducts = new ArrayList<>();String baseUrl = "https://search.jd.com/Search?keyword=" + keyword + "&enc=utf-8&wq=" + keyword;for (int page = 1; page <= maxPages; page++) {String url = baseUrl + "&page=" + page;try {Document doc = JDProductCrawler.getHtml(url);List<Product> products = JDProductParser.parseHtml(doc);allProducts.addAll(products);Thread.sleep(2000); // 避免请求过于频繁} catch (IOException | InterruptedException e) {e.printStackTrace();}}return allProducts;}
}

（四）整合代码

将上述功能整合到主程序中，实现完整的爬虫程序。

java

import java.util.List;public class Main {public static void main(String[] args) {String keyword = "耳机";int maxPages = 3;List<Product> products = JDProductSearch.searchProducts(keyword, maxPages);for (Product product : products) {System.out.println(product);}}
}

（五）Product类

定义一个简单的Product类来存储商品信息。

java

public class Product {private String title;private String img;private String price;private String shop;public Product(String title, String img, String price, String shop) {this.title = title;this.img = img;this.price = price;this.shop = shop;}@Overridepublic String toString() {return "Product{" +"title='" + title + '\'' +", img='" + img + '\'' +", price='" + price + '\'' +", shop='" + shop + '\'' +'}';}
}