Lumoswitch 文档

内容与头像审核

本页只描述 Lumoswitch 的社区内容与用户头像审核,不描述模型推理 Prompt 或 Response 的安全策略。启用 COMMUNITY_CONTENT_MODERATION_ENABLED 后,社区内容和头像会在公开前提交给配置的内容安全服务;管理员可以在控制台查看并调整最终审核状态。

该功能关闭时,业务服务会按“允许”处理并记录审核服务为 disabled。审核服务异常时采用实例配置的 allow/deny 失败策略,生产实例应明确选择并记录这一策略。

头像自动审核

用户上传头像后,系统会验证文件类型、大小和图片尺寸,再将图片提交给内容安全服务:

  1. 自动审核通过后,头像立即生效。
  2. 自动审核拒绝或需要复核时,头像不会公开展示。
  3. 审核服务异常时,按实例配置的失败策略允许或拒绝。
  4. 每次上传都会保留独立审核记录,包括自动结果、风险标签、置信度、服务方和审核时间。

管理员审核页面

平台管理员可以在 控制台 → 头像审核 查看全部头像审核记录,而不只是待审核记录。页面会分别显示:

  • 自动审核结果和最终生效状态;
  • 内容安全服务与风险标签;
  • 提交用户、图片规格和提交时间;
  • 管理员调整人、调整时间与拒绝原因。

管理员可以把任意记录调整为“通过”或“拒绝”。管理员决定拥有最高优先级,不会被原自动审核结果覆盖。若管理员拒绝当前正在使用的头像,系统会恢复该用户最近一个仍然通过的头像;没有可恢复头像时使用默认头像。

社区内容

社区评价、讨论、回复、共享 Prompt 和共享 Skill 在公开前执行文字审核。审核记录会保留在数据库中,但未通过的内容不会出现在社区页面。讨论图片在上传到对象存储后、绑定到帖子前执行图片审核。

平台管理员可以在 控制台 → 社区内容审核 查看全部社区文字和讨论图片审核记录。记录包含内容类型、内容预览、自动结果、最终状态、审核服务、风险标签和操作人。管理员可以把记录调整为“通过”或“拒绝”,人工结果优先于自动结果;调整后会立即影响社区公开页面的可见性。

社区页面可见性

管理员可以在 控制台 → 模块可见性 → 社区页面 分别控制社区动态、讨论和创作库对普通用户及管理员是否可见。关闭页面后,对应导航入口会隐藏,直接访问也会跳转到仍然可见的社区页面;讨论关闭后,讨论详情页也不可访问。

与推理内容安全的边界

客户端模型请求直达 Lumoswitch 推理服务,Lumoswitch Control API 不接收或审核 Prompt/Response。模型输入输出是否经过 Guardrail、Moderation 或渠道安全策略,取决于 Lumoswitch Runtime 和最终接入渠道的实际配置;未配置并验证前,不应向用户承诺已经启用推理内容审核。

审核记录与隐私

审核记录只用于平台安全、申诉处理和管理员复核。管理员应根据最小权限原则访问审核页面,不应复制或外传用户图片及身份信息。

On this page