Documentation
敏感词管理
配置敏感词过滤规则，确保内容合规安全
敏感词管理帮助您配置内容审核规则，自动过滤敏感内容，确保生成的内容符合法规和企业标准。
功能概述
敏感词管理提供：
- 🚫 敏感词库 - 预置和自定义敏感词
- 🔍 自动审核 - 实时内容检测
- ⚠️ 多级拦截 - 灵活的处理策略
- 📊 审核日志 - 完整的操作记录
- ✅ 白名单 - 例外情况处理
敏感词库
词库列表
敏感词库管理
系统词库 (不可编辑)
┌─────────────────────────────────────┐
│ 法律禁止词库 2,340 个词 │
│ 更新时间: 2025-11-01 │
│ 状态: ✅ 启用 │
└─────────────────────────────────────┘
自定义词库
┌─────────────────────────────────────┐
│ 行业敏感词 156 个词 │
│ 更新时间: 2025-11-04 │
│ 状态: ✅ 启用 [编辑] │
├─────────────────────────────────────┤
│ 品牌保护词 89 个词 │
│ 更新时间: 2025-10-28 │
│ 状态: ✅ 启用 [编辑] │
├─────────────────────────────────────┤
│ 竞品品牌词 45 个词 │
│ 更新时间: 2025-10-15 │
│ 状态: ✅ 启用 [编辑] │
└─────────────────────────────────────┘
[新建词库]
统计信息:
• 总词数: 2,630 个
• 系统词: 2,340 个
• 自定义词: 290 个
• 白名单词: 23 个
创建词库
创建敏感词库
基本信息:
词库名称: 企业内部敏感词
描述: 公司内部资料相关的敏感词汇
敏感级别:
● 严重 (自动拦截)
○ 警告 (人工审核)
○ 提示 (仅标记)
应用范围:
☑ 内容创建
☑ SEO 分析报告
☑ AI 生成内容
☑ 用户评论
□ 文件上传
添加敏感词:
方式1: 手动输入
[输入敏感词，每行一个]
内部代号
项目代码
财务数据
...
方式2: 批量导入
[选择文件] 支持 TXT, CSV
格式: 每行一个词
方式3: 正则表达式
[输入正则表达式]
示例: \d{3}-\d{4}-\d{4} (匹配电话号码)
[创建词库]
编辑词库
编辑词库: 行业敏感词
词库信息:
名称: 行业敏感词
级别: 警告
应用: 内容创建, AI 生成
词数: 156 个
状态: 启用
敏感词列表:
搜索: [搜索敏感词]
词汇 类型 添加时间 操作
──────────────────────────────────────────────
未经审核的说法 精确 2025-10-28 [编辑][删除]
夸大宣传词 模糊 2025-10-25 [编辑][删除]
虚假承诺 精确 2025-10-20 [编辑][删除]
...
添加词汇:
[输入新的敏感词] [添加]
批量操作:
[批量导入] [批量删除] [导出词库]
[保存更改]
审核规则
规则配置
敏感词审核规则
级别1: 严重 (🔴 自动拦截)
┌─────────────────────────────────────┐
│ 使用词库: 法律禁止词库 │
│ 匹配方式: ● 精确匹配 ○ 模糊匹配 │
│ 处理方式: 立即拦截，不允许发布 │
│ 通知方式: 邮件 + 站内 + SMS │
│ 通知对象: 管理员 │
└─────────────────────────────────────┘
级别2: 警告 (🟡 人工审核)
┌─────────────────────────────────────┐
│ 使用词库: 行业敏感词, 品牌保护词 │
│ 匹配方式: ● 精确匹配 ☑ 模糊匹配 │
│ 处理方式: 标记待审核 │
│ 审核人: 内容管理员 │
│ 自动审核: 24小时后自动通过 │
└─────────────────────────────────────┘
级别3: 提示 (🔵 仅标记)
┌─────────────────────────────────────┐
│ 使用词库: 竞品品牌词 │
│ 匹配方式: ☑ 精确匹配 ○ 模糊匹配 │
│ 处理方式: 显示提示信息 │
│ 提示内容: "注意: 内容包含竞品信息" │
│ 允许发布: 是 │
└─────────────────────────────────────┘
高级选项:
☑ 检测变体词 (如: 敏-感-词)
☑ 检测拼音 (如: mingan)
☑ 检测英文 (如: sensitive)
□ 检测繁体字
[保存规则]
匹配方式
匹配方式设置
精确匹配:
• 完全匹配敏感词
• 区分大小写: ☑
• 包含标点: ☑
• 示例: "敏感词" 只匹配 "敏感词"
模糊匹配:
• 匹配相似词汇
• 相似度阈值: 80%
• 示例: "敏感词" 匹配 "敏 感 词"、"敏感-词"
正则匹配:
• 使用正则表达式
• 复杂模式匹配
• 示例: \b(敏感|违禁)\w*词\b
上下文理解:
• AI 语义分析
• 理解上下文含义
• 减少误判
测试匹配:
输入测试文本:
[这里有一些可能包含敏感词的文本...]
[测试匹配]
匹配结果:
✓ 找到 2 处匹配
• "敏感词" (精确匹配, 严重级别)
• "类似敏感的表述" (模糊匹配, 警告级别)
审核流程
自动审核
自动审核流程
内容创建/生成
↓
实时敏感词检测
↓
┌─────┴─────┐
│ │
检测到敏感词 未检测到
│ │
↓ ↓
按级别处理 直接发布
严重级别:
• 立即拦截
• 显示错误提示
• 记录审核日志
• 通知管理员
警告级别:
• 进入审核队列
• 等待人工审核
• 通知审核员
• 24小时自动通过
提示级别:
• 显示提示信息
• 允许用户确认
• 记录使用情况
• 继续发布流程
人工审核
审核队列
待审核内容 (12 项)
标题 类型 敏感词 提交时间
────────────────────────────────────────────────────
产品介绍文案 内容 "行业领先" 10分钟前
博客文章草稿 内容 "最佳选择" 25分钟前
SEO 分析报告 报告 "竞品A" 1小时前
...
审核详情: 产品介绍文案
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
提交人: 王五
提交时间: 2025-11-04 10:30
内容类型: 产品文案
检测到的敏感词:
• "行业领先" (警告级别)
匹配词库: 行业敏感词
上下文: "...我们的产品是行业领先的解决方案..."
风险评估:
• 风险级别: 中等
• 理由: 可能涉及夸大宣传
• 建议: 修改为 "专业的" 或提供数据支持
内容预览:
[完整内容...]
审核操作:
[✓ 通过] [✗ 拒绝] [修改建议] [添加白名单]
审核意见:
[输入审核意见...]
[提交审核结果]
审核日志
敏感词审核日志
时间 内容 敏感词 级别 结果 审核人
──────────────────────────────────────────────────────────────
11-04 10:30 产品介绍文案 行业领先 警告 通过 张三
11-04 10:15 博客文章草稿 违规词 严重 拒绝 系统
11-04 09:45 SEO报告 竞品A 提示 通过 -
11-03 18:00 用户评论 敏感内容 严重 拒绝 系统
11-03 15:30 内容草稿 夸大词 警告 修改 李四
筛选条件:
• 时间: 最近 7 天
• 级别: 全部
• 结果: 全部
• 审核人: 全部
统计数据:
• 总审核: 2,340 次
• 通过: 2,156 次 (92%)
• 拒绝: 134 次 (6%)
• 修改: 50 次 (2%)
[导出日志] [清除日志]
白名单
白名单管理
敏感词白名单
作用: 允许特定场景下使用敏感词
白名单规则:
全局白名单
┌─────────────────────────────────────┐
│ 规则: 在引用场景中允许 │
│ 词汇: "竞品A", "竞品B" │
│ 应用: 竞品分析报告 │
│ 添加时间: 2025-10-28 │
│ [编辑] [删除] │
└─────────────────────────────────────┘
特定用户白名单
┌─────────────────────────────────────┐
│ 用户: 张三 (管理员) │
│ 权限: 可使用所有警告级敏感词 │
│ 范围: 内容创建、报告编辑 │
│ 有效期: 永久 │
│ [编辑] [删除] │
└─────────────────────────────────────┘
特定场景白名单
┌─────────────────────────────────────┐
│ 场景: 客户案例 │
│ 词汇: 客户品牌名称列表 │
│ 条件: 标题包含 "[案例]" │
│ 添加时间: 2025-10-15 │
│ [编辑] [删除] │
└─────────────────────────────────────┘
[添加白名单规则]
创建白名单
添加白名单规则
白名单类型:
● 全局白名单
○ 用户白名单
○ 场景白名单
白名单词汇:
选择方式:
● 从敏感词库选择
○ 手动输入
选择敏感词:
☑ "竞品A品牌" (行业敏感词)
☑ "竞品B品牌" (行业敏感词)
□ "夸大宣传" (行业敏感词)
应用条件:
☑ 限定使用场景
• 场景: 竞品分析报告
• 内容类型: 报告、分析
☑ 限定用户角色
• 角色: 管理员、分析师
☑ 需要审批
• 审批人: 张三
有效期:
● 永久有效
○ 限定时间: [选择日期]
备注说明:
[用于竞品分析时的合理使用]
[添加白名单]
统计分析
审核统计
敏感词审核统计
本月统计 (2025-11)
┌─────────────────────────────────────┐
│ 总审核次数: 856 次 │
│ 拦截次数: 52 次 (6%) │
│ 人工审核: 28 次 (3%) │
│ 通过率: 94% │
└─────────────────────────────────────┘
趋势图:
100
75 ╭─╮
50 │ ╰─╮╭─
25 ╭╯ ╰╯
0 ┼──────────────
1 7 14 21 28
按级别分布:
• 严重: 52 次 (拦截)
• 警告: 28 次 (审核)
• 提示: 776 次 (通过)
最常触发的敏感词:
1. "行业领先" - 156 次
2. "最佳" - 98 次
3. "竞品A" - 76 次
4. "保证" - 54 次
5. "第一" - 42 次
[查看详细报告]
效果评估
审核效果评估
准确性分析:
┌─────────────────────────────────────┐
│ 正确拦截: 48 次 (92%) │
│ 误判拦截: 4 次 (8%) │
│ 漏检: 2 次 │
└─────────────────────────────────────┘
用户反馈:
• 审核及时性: 4.5/5.0
• 规则合理性: 4.2/5.0
• 误判率: 8%
• 满意度: 85%
优化建议:
1. 减少 "行业领先" 的误判
2. 增加上下文理解
3. 完善白名单机制
4. 提高审核效率
[应用优化]
最佳实践
词库维护
定期审查
审查清单:
每周:
□ 检查误判案例
□ 更新白名单
□ 审核待处理项
每月:
□ 分析触发频率
□ 优化敏感词库
□ 清理过时词汇
□ 更新审核规则
每季度:
□ 全面效果评估
□ 行业规范更新
□ 用户反馈收集
□ 策略优化调整
分级管理
建议分级策略:
严重级别 (自动拦截):
• 法律明确禁止
• 重大品牌风险
• 敏感政治内容
• 示例: 违法用语
警告级别 (人工审核):
• 可能存在风险
• 需要上下文判断
• 行业敏感用语
• 示例: 夸大宣传
提示级别 (仅提醒):
• 建议规避使用
• 品牌规范用语
• 竞品相关内容
• 示例: 竞品名称
审核优化
减少误判
- 启用上下文理解
- 完善白名单机制
- 优化匹配算法
- 收集用户反馈
提高效率
- 自动化常见审核
- 智能优先级排序
- 批量审核工具
- 审核规则优化
合规管理
法律合规
合规要点:
内容审核:
☑ 符合《广告法》
☑ 符合行业规范
☑ 符合平台规则
☑ 符合企业标准
定期更新:
• 关注法规变化
• 更新词库内容
• 调整审核策略
• 培训审核人员
常见问题
Q: 敏感词会完全阻止内容发布吗？ A: 取决于敏感词级别。严重级别会立即拦截，警告级别需要审核，提示级别只是提醒。
Q: 如何处理误判？ A: 可以将误判的词添加到白名单，或调整匹配规则。
Q: 可以自定义敏感词库吗？ A: 可以，支持创建自定义词库并配置不同的审核规则。
Q: 审核日志保留多久？ A: 默认保留 1 年，企业版可以自定义保留时间。
Q: 如何批量导入敏感词？ A: 可以通过 TXT 或 CSV 文件批量导入，每行一个词。
Q: 白名单如何使用？ A: 白名单可以允许在特定场景下使用敏感词，需要配置相应的规则和条件。