据抖音官方账号@抖音黑板报消息，最近平台发现有部分违规用户，借助AI技术生成各种低俗擦边内容，比如“单亲妈妈搞暧昧互动”“美女跳魅惑舞蹈”“穿着暴露的海滨度假照片”等，这些内容明显违反了《抖音社区自律公约》。对此，平台明确表示会坚持从严从重处理，绝不姑息。今年以来，单是针对AI生成的色情低俗类违规内容，就已经处理了4.2万条，还对1.4万个违规账号，采取了限制推荐、禁言、封禁等不同程度的处罚措施。
除此之外，还有人利用色情低俗信息，给色情网站引流、售卖淫秽色情物品，这些行为已经违反了《中华人民共和国刑法》《网络信息内容生态治理规定》等相关法律条文，涉嫌非法利用信息网络罪、传播淫秽物品罪。对于这类违法行为，抖音方面会主动向公安机关上报，依法追究其责任。
下面为大家公布几起典型违规案例，提醒大家警惕此类行为：
典型案例1：靠AI造“单亲妈妈陪读”人设色情导流，4人黑产团伙被刑拘。平台在日常巡查中发现，有一批账号专门用AI生成“单亲妈妈陪读”的相关内容，一边发布性感擦边的短视频，配上带有性暗示的文字，诱导用户关注。平台经过深入调查和线索挖掘，发现这些账号背后有黑产团伙操控，他们通过账号签名、群聊等方式，引诱用户跳转到第三方平台，下载色情低俗的App。发现问题后，平台第一时间清理了所有违规内容，无限期封禁了相关账号，同时收集好线索上报给公安机关。最终，这个黑产团伙的4名成员被依法刑事拘留。
典型案例2：用AI美女图引导用户看收藏页导流，339个账号被处置。有不少用户，比如“AI**说”“一**北”“冰**式”等人，把自己直播间的封面设置成AI生成的美女图片，却在头像上配上“看我收藏”之类的字样，引导观众去查看他们的主页收藏，进而给色情网站引流。目前，平台已经清理了所有相关违规内容，并对这些账号无限期收回了直播权限，杜绝其继续违规。
典型案例3：反复发AI生成的暴露擦边内容，8421个账号被处罚。用户“奇**蓝”“一**差”利用AI生成穿着暴露的女性形象，反复发布高空劈叉、魅惑舞蹈等低俗动作视频；还有“哦**哦”“j**g”等用户，持续发布多条AI生成的、聚焦女性私密部位的“泳池度假照”“海滨度假照”等擦边信息。针对这些行为，平台已经全部清理违规内容，并根据违规情节轻重，对相关账号采取了限制推荐、禁言、封禁等不同梯度的处罚。
抖音表示，后续会不断升级治理技术和手段，提高对AI生成不良内容的发现、识别和处置能力，不给违规行为留空间。同时也提醒广大创作者和用户，一定要自觉遵守法律法规和平台规则，和平台一起抵制各类色情低俗、违规导流行为，共同维护健康、干净的网络环境。如果大家发现相关违规内容，可以拨打抖音官方服务热线95152，或者发送邮件到举报邮箱feedback@douyin.com，抖音会及时跟进处理。
