当前位置：首页 > news >正文

利用 Java 爬虫按关键字搜索淘宝商品

news 来源：原创 2025/5/1 18:19:22

在电商领域，通过关键字搜索商品是常见的需求。淘宝作为国内知名的电商平台，提供了丰富的商品搜索功能。本文将详细介绍如何使用 Java 爬虫技术按关键字搜索淘宝商品，并获取搜索结果的详细信息。

一、准备工作

1. 注册淘宝开放平台账号

要使用淘宝商品搜索 API，首先需要在淘宝开放平台（淘宝开放平台）注册账号，并创建应用以获取 App Key 和 App Secret。这些是调用 API 所必需的凭证。

2. 安装必要的 Java 库

确保你的 Java 开发环境中已经安装了以下库：

HttpClient：用于发送 HTTP 请求。
Jackson 或 Gson：用于处理 JSON 数据。

如果尚未安装这些库，可以通过以下命令进行安装：

xml

<dependency><groupId>org.apache.httpcomponents</groupId><artifactId>httpclient</artifactId><version>4.5.13</version>
</dependency>
<dependency><groupId>com.fasterxml.jackson.core</groupId><artifactId>jackson-databind</artifactId><version>2.12.3</version>
</dependency>

二、代码实现

以下是一个完整的 Java 示例代码，展示如何按关键字搜索淘宝商品，并处理返回的数据。

1. 发送 HTTP 请求

使用 HttpClient 发送请求，并获取 API 返回的数据。

java

import org.apache.http.client.methods.HttpGet;
import org.apache.http.impl.client.CloseableHttpClient;
import org.apache.http.impl.client.HttpClients;
import org.apache.http.util.EntityUtils;
import com.fasterxml.jackson.databind.JsonNode;
import com.fasterxml.jackson.databind.ObjectMapper;import java.io.IOException;
import java.security.MessageDigest;
import java.util.HashMap;
import java.util.Map;public class TaobaoProductSearchCrawler {public static void main(String[] args) {String appKey = "your_app_key";  // 替换为你的 App KeyString appSecret = "your_app_secret";  // 替换为你的 App SecretString keyword = "iPhone 13";  // 替换为搜索关键字int page = 1;  // 替换为搜索结果的页码String response = search_taobao_products(appKey, appSecret, keyword, page);if (response != null) {parse_response(response);}}public static String search_taobao_products(String appKey, String appSecret, String keyword, int page) {String timestamp = String.valueOf(System.currentTimeMillis() / 1000);Map<String, String> params = new HashMap<>();params.put("method", "taobao.item.search");params.put("app_key", appKey);params.put("timestamp", timestamp);params.put("v", "2.0");params.put("keyword", keyword);params.put("page", String.valueOf(page));params.put("sign_method", "md5");params.put("sign", generate_signature(appKey, appSecret, timestamp, params));try (CloseableHttpClient httpClient = HttpClients.createDefault()) {HttpGet request = new HttpGet("https://gw.api.taobao.com/router.json?" + toQueryString(params));try (CloseableHttpResponse response = httpClient.execute(request)) {if (response.getStatusLine().getStatusCode() == 200) {return EntityUtils.toString(response.getEntity());} else {System.out.println("请求失败，状态码：" + response.getStatusLine().getStatusCode());}}} catch (IOException e) {e.printStackTrace();}return null;}public static String generate_signature(String appKey, String appSecret, String timestamp, Map<String, String> params) {StringBuilder signStr = new StringBuilder(appKey + timestamp + appSecret);for (Map.Entry<String, String> entry : params.entrySet()) {signStr.append(entry.getKey()).append(entry.getValue());}return md5(signStr.toString());}public static String md5(String input) {try {MessageDigest md = MessageDigest.getInstance("MD5");byte[] messageDigest = md.digest(input.getBytes());BigInteger no = new BigInteger(1, messageDigest);String hashtext = no.toString(16);while (hashtext.length() < 32) {hashtext = "0" + hashtext;}return hashtext;} catch (Exception e) {throw new RuntimeException(e);}}public static String toQueryString(Map<String, String> params) {StringBuilder sb = new StringBuilder();for (Map.Entry<String, String> entry : params.entrySet()) {if (sb.length() > 0) {sb.append("&");}sb.append(entry.getKey()).append("=").append(entry.getValue());}return sb.toString();}public static void parse_response(String jsonResponse) {try {ObjectMapper objectMapper = new ObjectMapper();JsonNode rootNode = objectMapper.readTree(jsonResponse);int code = rootNode.path("code").asInt();String errorMessage = rootNode.path("errorMessage").asText();if (code == 0) {JsonNode itemsNode = rootNode.path("item_search_response").path("items");for (JsonNode itemNode : itemsNode) {String title = itemNode.path("title").asText();String price = itemNode.path("price").asText();String picUrl = itemNode.path("pic_url").asText();String detailUrl = itemNode.path("detail_url").asText();System.out.println("商品标题: " + title);System.out.println("商品价格: " + price);System.out.println("商品图片: " + picUrl);System.out.println("商品详情页 URL: " + detailUrl);}} else {System.out.println("API 请求失败，错误信息: " + errorMessage);}} catch (Exception e) {e.printStackTrace();}}
}

三、代码说明

生成签名：
- 使用 generate_signature 方法生成签名，确保请求的安全性。
- 签名生成逻辑根据 appKey、appSecret、timestamp 和请求参数生成 MD5 哈希值。
发送请求：
- 使用 HttpClient 发送 GET 请求，并将生成的签名和其他参数附加到请求 URL 中。
解析响应：
- 使用 Jackson 库解析返回的 JSON 数据，并提取商品的详细信息。
主程序：
- 在主程序中调用 search_taobao_products 方法按关键字搜索商品，并调用 parse_response 方法解析返回的数据。