Famoo 儿童安全标准
Famoo(以下简称「本应用」)由上海恒意引擎科技有限公司(Shanghai Hengyi Engine Technology Co., Ltd)开发并运营。
保护未成年人的安全,是我们不可让渡的底线责任。Famoo 是一款面向 15 岁以上用户的 AI 互动叙事应用,不面向儿童,但我们对任何形式的儿童性虐待与性剥削(Child Sexual Abuse and Exploitation,简称 CSAE)均采取「零容忍」政策。
本《儿童安全标准》(以下简称「本标准」)阐明我们为预防、发现、处置儿童性虐待材料(Child Sexual Abuse Material,简称 CSAM)及相关违规行为所采取的措施。本标准适用于所有用户以及本应用的全部产品与服务。
一、年龄限制与内容分级
1.1 本应用内容适合 15 岁以上用户。应用内的全部故事均标注为 15+,含悬疑与轻微惊悚描写。未满 15 周岁的未成年人不应注册或使用本应用。
1.2 已满 15 周岁但未满 18 周岁的未成年人,应在监护人知情并同意的前提下使用本应用。
1.3 注册需完成中国大陆手机号验证,本应用不提供匿名使用。
1.4 一经发现用户为未满 15 周岁的未成年人,我们有权立即限制或注销账户、删除相关数据并终止提供服务。
1.5 我们不主动向未成年人推广本应用,也不面向未成年人定向投放广告。
二、禁止的内容与行为(CSAE 与 CSAM)
2.1 我们严格禁止任何用户在本应用内创建、输入、诱导生成、传播、存储或以任何其他方式处理助长儿童性虐待与性剥削的内容或行为。
2.2 上述禁止行为包括但不限于:
- 儿童性虐待材料(CSAM),包括文字形式的描述;
- 对未成年人的性引诱、诱骗或胁迫(grooming);
- 使未成年人涉入色情、性暗示或性化的情节;
- 将虚构角色设定为未成年人并置于性或性暗示情境中;
- 任何剥削、危害或试图剥削、危害未成年人的行为。
2.3 上述禁令同样适用于完全虚构的叙事内容。无论用户以何种创作理由提出,我们都不会为其生成此类内容。
三、我们的预防措施
本应用的内容由人工智能模型生成,因此我们的预防工作贯穿内容生成的前、中、后三个环节。
3.1 内容源头:预先写定的故事剧本
应用内的全部故事均由我们自行创作,世界观、人物年龄与身份、情节走向在上线前逐一审定。每个故事的设定中都写入了明确的禁止项,模型在生成时必须遵守。应用内不存在用户自建故事或自定义世界观的入口。
3.2 生成之前:输入过滤与提示词约束
用户输入在提交给模型之前,会先经过本地规则过滤。涉及未成年人性化内容的输入将被直接拦截,不会进入生成流程。同时,我们在提示词层面设置了不可覆盖的安全约束,用于抵御提示词注入、角色扮演诱导、分段拆解、隐语替换等绕过手段。
3.3 生成之后:模型侧敏感度校验
模型返回的每一段剧情都会再经过一次安全校验。一旦命中涉及未成年人的敏感判定,该段内容将被拦截、不予展示,并为用户替换一个安全的续写方向。
3.4 结构上不存在传播通道
本应用没有任何社交功能:不设用户之间的聊天、好友、动态、评论、分享或内容发布,不支持上传图片、音频或视频,也不支持用户之间以任何形式互相看到对方的内容。用户的输入与生成的剧情仅其本人可见。这意味着本应用在结构上不具备 CSAM 的传播路径。
3.5 协议层面的明确禁止
《Famoo 用户协议》第七条已将涉及未成年人的色情、性暗示、性引诱、性剥削内容列为绝对禁止的内容红线,违反者将被立即处置。
四、应用内举报机制
4.1 用户可以对 AI 生成的任意一段内容直接举报。举报入口位于阅读界面的「更多 → 举报此段内容」,无需离开当前页面。
4.2 举报类别包括:色情或性暗示、暴力或血腥、仇恨或歧视、自残或自杀相关、违法内容及其他。用户可另行补充文字说明。
4.3 涉及未成年人安全的举报将被最高优先级处理。
4.4 我们仅审核被举报的该段输出及为判断所必需的上下文,不会公开举报人的完整对话内容。
4.5 用户也可通过本标准第七条的儿童安全专属渠道,直接向我们的儿童安全联络人反映问题。
五、执行、处置与向主管机关报告
5.1 一经获知任何 CSAM 或 CSAE 违规,我们将立即删除违规内容、永久封禁相关账户,并依法履行报告义务。
5.2 我们将按照法律要求保存必要的证据与记录,以配合调查,并在此期间限制相关账户的注销以免证据灭失。
5.3 我们将在法律要求或适用的情况下,向下列机构报告相关事件:
- 中华人民共和国公安机关及网信主管部门;
- 中央网信办违法和不良信息举报中心(12377);
- 美国国家失踪与受虐儿童中心(National Center for Missing & Exploited Children,NCMEC);
- 依据适用法律应当报告的其他执法机关或主管机构。
5.4 对于反复试探安全边界、试图诱导生成违规内容的账户,即使未最终生成违规内容,我们同样会采取限制或封禁措施。
六、内部管理
6.1 我们指定了专门的儿童安全联络人,负责接收、评估与处置全部涉及儿童安全的举报与问询。
6.2 接触审核内容的人员均受保密义务约束,访问按最小必要原则授权并留有操作日志。
6.3 我们会定期复核内容安全规则与拦截效果,并在发现新的绕过手段后及时更新规则。
6.4 我们承诺遵守所有适用的儿童安全法律法规,以及 Apple App Store 与 Google Play 关于儿童安全的开发者政策要求。
七、儿童安全专属联系方式
如您对本应用上的儿童安全问题有任何疑问、担忧,或需要举报,请通过以下专属渠道联系我们的儿童安全团队。我们承诺优先并尽快处理此类联系。
如果情况紧急,或涉及正在发生的儿童受害风险,请立即拨打当地报警电话(中国大陆:110),不要等待我们的回复。
您也可以向中央网信办违法和不良信息举报中心举报:www.12377.cn / 电话 12377。
本标准是《Famoo 用户协议》与《Famoo 隐私政策》的组成部分。我们会随着产品功能与法律要求的变化持续更新本标准,更新后的版本将在本页面公布。