文本安全检测
配置腾讯云 TMS(Text Moderation System)文本内容安全审核服务。开启后,用户发布的话题和评论会自动经过文本安全检测,违规内容进入审核队列。
为什么需要文本审核?
- 自动过滤垃圾广告、色情、暴力、政治敏感等违规内容
- 减少人工审核的工作量
- 保护平台安全合规
工作原理
用户发布内容 → TMS 自动检测 → 安全:直接发布
→ 违规:自动拦截,进入审核队列
→ 可疑:自动拦截,进入审核队列审核队列在 内容审核 页面管理,管理员可以逐条或批量处理。
前提条件
需要在腾讯云开通 TMS 服务。
配置步骤
第一步:开通腾讯云 TMS
- 登录 腾讯云控制台
- 搜索「内容安全」或「文本安全」并进入
- 开通文本内容安全服务
第二步:获取密钥
- 进入腾讯云 访问管理 → API 密钥管理
- 获取 SecretId 和 SecretKey
第三步:填入系统设置
- 进入系统设置,找到「文本安全检测」卡片
- 启用开关:选择「启用」
- 启用后出现详细配置项:
| 配置项 | 说明 |
|---|---|
| 地域 | 选择 TMS 服务区域(默认 广州) |
| 源语言 | 审核语言(中文(zh) 或 英文(en)) |
| Secret ID | 腾讯云 API 密钥 ID |
| Secret Key | 腾讯云 API 密钥 |
| BizType | 业务类型标识,留空使用默认策略 |
- 填写完成后保存设置
第四步:测试服务连通性
- 在「文本安全检测」卡片底部找到测试区域
- 在文本框中输入一段测试文字
- 点击「测试」按钮
- 系统会调用 TMS 接口并返回检测结果
- 如果返回结果正常,说明配置成功
可选区域
| 区域 | 说明 |
|---|---|
| 广州 (ap-guangzhou) | 国内首选 |
| 上海 (ap-shanghai) | 华东地区 |
| 北京 (ap-beijing) | 华北地区 |
| 成都 (ap-chengdu) | 西南地区 |
| 香港 (ap-hongkong) | 海外内容 |
| 新加坡 (ap-singapore) | 东南亚 |
BizType 说明
BizType 是腾讯云 TMS 的业务策略类型。如果你在腾讯云 TMS 控制台自定义了审核策略,填入对应的 BizType 即可使用自定义策略。如果不填写,系统使用腾讯云的默认审核策略。
日常使用
开启文本审核后,需要定期处理审核队列:
- 进入 内容审核 页面
- 查看待审核的话题和评论
- 根据风险标签判断内容是否违规
- 通过或拒绝内容
提示
建议始终开启文本审核功能。定期使用测试按钮检查服务连通性,避免服务异常导致审核失效。
注意
TMS 是付费服务,按调用次数计费。不过腾讯云提供免费额度(每月 1000 次),一般社区够用。超出免费额度后按量付费,请关注腾讯云账单。