划重点:
⚠️ 平台严肃处罚不当使用 AI 生成虚拟人物宣布违规内容
⚠️ 违规行为涵盖消费爱国心理、虚假情感诱导、低质吸粉等
⚠️ 平台呼吁用户监督，举报不当使用人工智能生成内容的情况
益美环境废旧物资销毁处理中心 3月27日 消息:抖音近日宣布了关于不当利用 AI 生成虚拟人物的治理公告。去年，抖音就明确表示不鼓励利用 AI 生成虚拟人物进行低质创作，并将严谨处罚违规使用 AI 生成虚拟人物发表违背科学常识、弄虚作假、造谣传谣的内容。最近，平台展现仍有账号不当使用 AI 技术生成虚拟人物发布内容，因此采取了庄敬的处置办法。
其中典型行为囊括:
1、生成境外虚假人设，消费爱国心理、博取关注。用虚假外国人的形象，以想嫁给国内、想到我国生活、评价社会事件等言论博取眼球。
2、生成俊男美女虚假形象，骗取对话，交友导流。直行称用户为“你”“娘”“妈妈”“老公”等，公布情感诱导、唱情歌、为你谋福利等表达虚假情感的内容，将用户导流至私人聊天工具，甚至进行诈骗。
3、生成精英人士虚假人设，宣布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容，低质吸粉，甚至引流到站外以卖课、入群等方式获利。
针对违规使用AI生成虚拟人物的行为，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处理，并利用模型、技术辩识能力等手段，进行长期系统的区别涌现和处理。同时，平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索，将报警打击。
人工智能技术的快速发展，充足了互联网内容生态，但也带来技术滥用的挑战。平台重申，创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，须遵循以下规范:
1、宣布者应对人工智能生成内容进行显著标识，协助其他用户区分虚拟与现实，十分是易混淆场景。
2、发布者需对人工智能生成内容产生的相应后果负责，不论内容是怎样生成的。
3、虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。
4、喝止利用生成式人工智能技术创作、发表侵权内容，网罗但不限于肖像权、知识产权等。一经表现，平台将严格处罚。
5、遏制利用生成式人工智能技术创作、宣布违背科学常识、弄虚作假、造谣传谣的内容。一经显示，平台将严苛处罚。