当前位置: 首页 > news >正文

Spring Boot 敏感词过滤组件实现:基于DFA算法的高效敏感词检测与替换

Spring Boot 敏感词过滤组件实现

本文将介绍如何在Spring Boot项目中实现一个高效的敏感词过滤组件,包含两种实现方式:基于DFA算法的优化版本和简单直接的实现版本。

组件功能:

1. 从文件加载敏感词库
2. 敏感词检测功能
3. 敏感词替换功能
4. 支持Spring Boot自动装配

实现方案一:DFA算法优化版

这里放入第一个SensitiveWordFilter类的完整代码

package com.example.utils;import jakarta.annotation.PostConstruct;
import org.springframework.core.io.ClassPathResource;
import org.springframework.stereotype.Component;import java.io.BufferedReader;
import java.io.IOException;
import java.io.InputStream;
import java.io.InputStreamReader;
import java.util.*;@Component
public class SensitiveWordFilter {private static final String REPLACEMENT = "***";private Map<Object, Object> sensitiveWordMap;@PostConstructpublic void init() {try {// 读取敏感词文件Set<String> keyWordSet = new HashSet<>();ClassPathResource resource = new ClassPathResource("sensitive-words.txt");InputStream inputStream = resource.getInputStream();BufferedReader reader = new BufferedReader(new InputStreamReader(inputStream));String line;while ((line = reader.readLine()) != null) {keyWordSet.add(line.trim());}reader.close();// 构建DFA算法模型addSensitiveWordToHashMap(keyWordSet);} catch (IOException e) {e.printStackTrace();}}private void addSensitiveWordToHashMap(Set<String> keyWordSet) {sensitiveWordMap = new HashMap(keyWordSet.size());String key;Map nowMap;Map<String, String> newWorMap;for (String aKeyWordSet : keyWordSet) {key = aKeyWordSet;nowMap = sensitiveWordMap;for (int i = 0; i < key.length(); i++) {char keyChar = key.charAt(i);Object wordMap = nowMap.get(keyChar);if (wordMap != null) {nowMap = (Map) wordMap;} else {newWorMap = new HashMap<>();newWorMap.put("isEnd", "0");nowMap.put(keyChar, newWorMap);nowMap = newWorMap;}if (i == key.length() - 1) {nowMap.put("isEnd", "1");}}}}public String filter(String text) {if (text == null || text.trim().isEmpty()) {return text;}StringBuilder result = new StringBuilder();Map nowMap = sensitiveWordMap;int start = 0;int point = 0;while (point < text.length()) {char key = text.charAt(point);nowMap = (Map) nowMap.get(key);if (nowMap != null) {point++;if ("1".equals(nowMap.get("isEnd"))) {result.append(REPLACEMENT);start = point;nowMap = sensitiveWordMap;}} else {result.append(text.charAt(start));point = ++start;nowMap = sensitiveWordMap;}}result.append(text.substring(start));return result.toString();}public boolean containsSensitiveWord(String text) {if (text == null || text.trim().isEmpty()) {return false;}Map nowMap = sensitiveWordMap;int point = 0;while (point < text.length()) {char key = text.charAt(point);nowMap = (Map) nowMap.get(key);if (nowMap != null) {point++;if ("1".equals(nowMap.get("isEnd"))) {return true;}} else {point = point - (point > 0 ? 1 : 0);nowMap = sensitiveWordMap;point++;}}return false;}
}

DFA算法特点:

  • 使用字典树(Trie)结构存储敏感词

  • 时间复杂度接近O(n),n为文本长度

  • 适合大规模敏感词库

  • 支持最长匹配原则

实现方案二:简单直接版

这里放入第二个SensitiveWordFilter类的完整代码

package com.example.utils;import org.springframework.core.io.ClassPathResource;
import org.springframework.stereotype.Component;import jakarta.annotation.PostConstruct;
import java.io.BufferedReader;
import java.io.IOException;
import java.io.InputStream;
import java.io.InputStreamReader;
import java.util.*;@Component
public class SensitiveWordFilter {private static final String REPLACEMENT = "***";private static final Set<String> sensitiveWords = new HashSet<>();// 初始化敏感词库@PostConstructpublic void init() {try {ClassPathResource resource = new ClassPathResource("sensitive-words.txt");InputStream inputStream = resource.getInputStream();BufferedReader reader = new BufferedReader(new InputStreamReader(inputStream));String line;while ((line = reader.readLine()) != null) {sensitiveWords.add(line.trim());}reader.close();} catch (IOException e) {e.printStackTrace();}}// 过滤敏感词public String filter(String text) {if (text == null || text.trim().isEmpty()) {return text;}for (String word : sensitiveWords) {if (text.contains(word)) {text = text.replaceAll(word, REPLACEMENT);}}return text;}// 检查是否包含敏感词public boolean containsSensitiveWord(String text) {if (text == null || text.trim().isEmpty()) {return false;}for (String word : sensitiveWords) {if (text.contains(word)) {return true;}}return false;}
}

简单版特点:

  • 实现简单直观

  • 适合小规模敏感词库

  • 使用String.contains()方法检测

  • 性能在词库较大时较差

使用说明

  1. 在resources目录下创建sensitive-words.txt文件

  2. 每行写入一个敏感词

  3. 在Spring Boot项目中注入组件:

//以下引入二选一// 引入
@Resource
private SensitiveWordFilter sensitiveWordFilter;// 引入
@Autowired
private SensitiveWordFilter sensitiveWordFilter;

    4. 调用方法

// 引入
@Resource
private SensitiveWordFilter sensitiveWordFilter;/*** 新增*/public void add(Comment comment) {// 过滤敏感词,哪个字段需要过滤就设置哪个// comment.setTitle(sensitiveWordFilter.filter(comment.getTitle()));comment.setContent(sensitiveWordFilter.filter(comment.getContent()));commentMapper.insert(comment);}

依赖配置

<!-- 敏感词处理依赖 -->
<dependency><groupId>jakarta.annotation</groupId><artifactId>jakarta.annotation-api</artifactId><version>2.1.1</version>
</dependency>

前端效果

性能对比

方案初始化时间检测时间内存占用
DFA算法较高O(n)较高
简单版O(n*m)

适用场景

  • DFA算法版:适合敏感词数量多(1000+)、性能要求高的场景

  • 简单版:适合敏感词数量少、快速开发的场景

扩展建议

  1. 可以添加动态更新敏感词库功能

  2. 支持多种替换策略(如随机替换、首字母保留等)

  3. 添加日志记录功能

  4. 支持多级敏感词(如政治、色情等分类)

总结

本文提供了两种不同复杂度的敏感词过滤实现,开发者可以根据项目需求选择合适的方案。DFA算法虽然实现复杂但性能优异,简单版则适合快速实现基本功能。

http://www.dtcms.com/a/338776.html

相关文章:

  • BROADCHIP广芯电子在各类电子产品的方案与应用
  • 3、栈和队列
  • Ansible 配置并行 - 项目管理笔记
  • 零知开源——基于STM32F407VET6与GY-271三轴地磁传感器的高精度电子罗盘设计与实现
  • TensorFlow 面试题及详细答案 120道(11-20)-- 操作与数据处理
  • Auto-CoT:大型语言模型的自动化思维链提示技术
  • OpenCV快速入门(C++版)
  • 常见的 Bash 命令及简单脚本
  • 从 0 到 1 开发校园二手交易系统:飞算 JavaAI 全流程实战
  • 无畏契约手游上线!手机远控模拟器畅玩、抢先注册稀有ID!
  • Windows/Centos 7下搭建Apache服务器
  • MySQL-分库分表(Mycat)
  • 第一章 认识单片机
  • 出现了常规系统错误: Unable to push signed certificate to host 192.168.1.2
  • 从数据表到退磁:Ansys Maxwell中N48磁体磁化指南
  • LINUX 软件编程 -- 线程
  • 决策树的学习(二)
  • MCP(模型上下文协议):是否是 AI 基础设施中缺失的标准?
  • jsPDF 不同屏幕尺寸 生成的pdf不一致,怎么解决
  • Ansible 中的文件包含与导入机制
  • java17学习笔记-Deprecate the Applet API for Removal
  • C语言基础:(十八)C语言内存函数
  • 连接远程服务器上的 jupyter notebook,解放本地电脑
  • 计算机毕设推荐:痴呆症预测可视化系统Hadoop+Spark+Vue技术栈详解
  • 生成式AI的能力边界与职业重构:从“百科实习生“到人机协作增强器
  • 人工智能学派简介
  • 当宠物机器人装上「第六感」:Deepoc 具身智能如何重构宠物机器人照看逻辑
  • Python字符串变量插值深度解析:从基础到高级工程实践
  • 安装DDNS-go
  • 【部署相关】DockerKuberbetes常用命令大全(速查+解释)