IT之家 4 月 30 日消息，据《科创板日报》今日报道， 近期，红果短剧持续对平台上的 AI 剧内容展开大规模治理，已处置超万部低质 AI 剧。此次治理聚焦剧情导向、价值观表达和制作品质，重点处置了 内容低俗猎奇、画面粗糙、剧情逻辑混乱、渲染极端情绪 的低质 AI 剧。 红果官方数据显示，仅 4 月 7 日-4 月 15 日期间，平台就拦截和下架 3522 部低质作品。红果短剧总编辑乐力介绍，持续加强两方面治理动作：一方面健全审核体系，严禁低俗庸俗、拜金炫富、传播负面价值观等违规内容，从源头杜绝低质短剧；另一方面严肃对待版权保护，加大力度打击创意抄袭、肖像侵权等违规行为。 IT之家注意到，红果短剧官方账号 4 月 6 日发布《关于持续治理 AI 短剧素材违规使用行为的公告》。其中提到，内容合规是红果短剧对出品方的一贯要求，为规范 AI 短剧创作秩序，保护原创与合法权益，平台坚决打击 AI 短剧素材违规使用、无授权盗用等行为，持续开展全维度内容治理工作。 公告还提到，对于情节严重、反复违规的内容和出品方，平台将依法依规采取下架、封禁、终止合作乃至法律追责等措施。 相关阅读： 《 字节跳动红果短剧：针对近期 AI 短剧素材违规使用问题频发的情况，已处置作品 670 部 》
IT之家 4 月 24 日消息，抖音黑板报刚刚宣布持续治理色情低俗导流行为，配合有关部门再抓捕三名犯罪嫌疑人。 抖音表示，平台在常态化治理中发现，部分违规用户不断变化手段，利用新暗语、新技术等方式伪装，试图规避平台审核，抖音正不断增强风险挖掘力度，升级技术识别能力，持续将各类新型违规内容纳入管控范围。近期，平台发现两类突出违规行为，对此坚决打击。 其中一类典型案例涉及购买他人账号发布低俗内容导流牟利。平台在治理中发现，部分违规用户通过购买他人账号，发布低俗擦边内容积累粉丝，将粉丝导流至第三方 App，进行传播淫秽色情信息、为色情网站及 App 导流等违法活动。抖音立即固定证据并上报线索，最终三名犯罪嫌疑人被依法刑事拘留。 另一类典型是利用隐晦暗语分享“AI 制作大尺度内容”教程。部分用户借用“AI 教程”名义，通过隐晦暗语等形式分享 AI 生成大尺度内容的提示词、教程，违反平台规则，不仅借此违规导流、涨粉，甚至为不良网站或软件引流。 抖音对相关内容展开全面巡查，近两周已处置相关违规内容 3000 余条。其中，“ww”“98”等用户通过分享上述内容借机为不良网站或软件导流，平台已下架相关内容，对应账号已被禁言。 IT之家注意到，抖音此前已围绕“发布、传播 AI 生成低俗内容”展开治理，并对外公示处置情况。 今年以来，平台针对 AI 肖像恶搞、AI 著作权侵权、AI 仿冒蹭热、AI 侵权带货等典型违规行为持续加大打击力度，通过开展多轮专项治理行动、畅通用户举报反馈渠道，已累计下架 AI 侵权视频超 53.8 万条，处罚违规账号 4000 多个。 在 AI 生成色情低俗类违规方面，抖音今年已处置 4.2 万条内容，对 1.4 万个账号予以限制推荐、禁言、封禁等不同梯度的处罚。此外，平台还针对利用 AI 生成“单亲妈妈陪读”等人设进行色情导流的黑产团伙开展专项打击，配合公安机关成功抓获多名犯罪嫌疑人。 抖音提醒用户，发布、传播色情低俗内容，不仅违反《抖音社区自律公约》，更可能触碰法律法规红线，平台将持续治理。同时，抖音也呼吁广大创作者及用户共同自觉抵制违法违规与低俗不良信息，共建文明、健康、有序的网络环境。
IT之家 4 月 15 日消息，“抖音黑板报”公众号今天下午发布公告称，近一个月，针对涉未成年人的违规场景， 平台共清理相关违规内容 20.4 万条 ，对 8145 个账号处以清理违规增长粉丝、限制商业变现功能、禁言、封禁等不同梯度的处罚。 公告指出，近期，平台在治理中发现，涉未成年人违规行为出现新场景、新手法： 部分用户借“交友陪伴聊天”向未成年人发送低俗色情信息，诱导拍摄私密部位； 恶意魔改经典动画，植入血腥恐怖元素，炮制“儿童邪典”； 通过 AI 生成未成年人悲惨形象吸粉引流，不当牟利。 IT之家从公告获悉，相关行为违反《未成年人网络保护条例》《可能影响未成年人身心健康的网络信息分类办法》等法律法规及《抖音社区自律公约》等平台规则，平台已依法依规从严从重处置。 典型案例公示如下： 1、借“交友陪伴聊天”向未成年人传播低俗色情信息，嫌疑人被抓获 近期，平台根据举报线索发现， 有用户冒充未成年女性，以交友、聊天为名搭讪未成年人 ，在聊天中刻意引导交流隐私话题，诱骗未成年人发送隐私视频，实施隔空猥亵。平台立即向公安机关报案，最终，该嫌疑人已被公安机关成功抓获。 2、炮制传播血腥恐怖“儿童邪典”，近一个月 99 个账号被禁言 “奥 * 泽”“奥 * 羊”等账号利用 AI 技术对《奥特曼》等经典动画形象恶意篡改、二创， 植入血腥、暴力、恐怖、惊悚元素 ，危害未成年人身心健康。平台已下架相关违规内容，并对账号处以禁言处置。 3、AI 生成未成年人悲惨形象吸粉引流，近一个月 45 个账号被处置 “3*2”“卖 * 孩”等账号利用 AI 技术生成“未成年人生病跪在医院门口乞讨”等内容， 刻意营造未成年人悲惨处境，并借此诱骗用户互动 ，以此吸粉引流。平台已下架相关违规内容，并对账号处以限制投稿、禁言处置。