Skip to content

文本安全检测

配置腾讯云 TMS(Text Moderation System)文本内容安全审核服务。开启后,用户发布的话题和评论会自动经过文本安全检测,违规内容进入审核队列。

为什么需要文本审核?

  • 自动过滤垃圾广告、色情、暴力、政治敏感等违规内容
  • 减少人工审核的工作量
  • 保护平台安全合规

工作原理

用户发布内容 → TMS 自动检测 → 安全:直接发布
                             → 违规:自动拦截,进入审核队列
                             → 可疑:自动拦截,进入审核队列

审核队列在 内容审核 页面管理,管理员可以逐条或批量处理。

前提条件

需要在腾讯云开通 TMS 服务。

配置步骤

第一步:开通腾讯云 TMS

  1. 登录 腾讯云控制台
  2. 搜索「内容安全」或「文本安全」并进入
  3. 开通文本内容安全服务

第二步:获取密钥

  1. 进入腾讯云 访问管理API 密钥管理
  2. 获取 SecretIdSecretKey

第三步:填入系统设置

  1. 进入系统设置,找到「文本安全检测」卡片
  2. 启用开关:选择「启用」
  3. 启用后出现详细配置项:
配置项说明
地域选择 TMS 服务区域(默认 广州
源语言审核语言(中文(zh)英文(en)
Secret ID腾讯云 API 密钥 ID
Secret Key腾讯云 API 密钥
BizType业务类型标识,留空使用默认策略
  1. 填写完成后保存设置

第四步:测试服务连通性

  1. 在「文本安全检测」卡片底部找到测试区域
  2. 在文本框中输入一段测试文字
  3. 点击「测试」按钮
  4. 系统会调用 TMS 接口并返回检测结果
  5. 如果返回结果正常,说明配置成功

可选区域

区域说明
广州 (ap-guangzhou)国内首选
上海 (ap-shanghai)华东地区
北京 (ap-beijing)华北地区
成都 (ap-chengdu)西南地区
香港 (ap-hongkong)海外内容
新加坡 (ap-singapore)东南亚

BizType 说明

BizType 是腾讯云 TMS 的业务策略类型。如果你在腾讯云 TMS 控制台自定义了审核策略,填入对应的 BizType 即可使用自定义策略。如果不填写,系统使用腾讯云的默认审核策略。

日常使用

开启文本审核后,需要定期处理审核队列:

  1. 进入 内容审核 页面
  2. 查看待审核的话题和评论
  3. 根据风险标签判断内容是否违规
  4. 通过或拒绝内容

提示

建议始终开启文本审核功能。定期使用测试按钮检查服务连通性,避免服务异常导致审核失效。

注意

TMS 是付费服务,按调用次数计费。不过腾讯云提供免费额度(每月 1000 次),一般社区够用。超出免费额度后按量付费,请关注腾讯云账单。

基于 MIT 许可发布