平台AI政策两极化：鼓励创作又限制监管

一场针对人工智能生成内容（AIGC）的监管风暴，正以规模化态势席卷各大网络平台。许多创作者在小红书等社交平台上自发组建群组，分享遭遇平台限制的惨痛经历。有人因发布12星座解读内容被判定为「传播封建迷信」，有人因生成AI明星形象遭遇「侵权」警告。「虚构事件」与「假冒真人」成为最常见的处罚理由。这一现象不仅在小红书出现，视频号和抖音等平台也纷纷加入整治行列，大量AIGC作品被下架封禁。即便侥幸逃过下架，流量曝光和商业权益也常被限制。许多创作者推测，此次监管潮或与9月1日即将实施的《人工智能生成合成内容标识办法》密切相关。该《办法》要求所有AIGC内容必须添加显式标识（如文字提示、角标、语音声明）和隐式标识（如元数据、数字水印）。然而，仍有创作者反映，即便标注了AI水印，作品依然未能获得正常对待。平台在鼓励AI创作的同时，又不断施加限制，这种矛盾心理让创作者们陷入迷茫与困惑。他们并非有意挑战规则，只是苦于不知边界所在，未来之路充满未知。

一、频繁踩红线？AIGC创作者林聪最近正经历着一场煎熬。她在视频号发布的两个AI人物视频，因被判定为非真人出镜，直接被暂停视频推荐、私信和评论功能。按照平台要求，林聪详细提交了个人身份验证，并选择了AI制作选项，提交了相关手机制作截图。然而系统回应称信息不够详细，无法证明制作过程。无奈之下，她再次按照提示，将PC端所有制作关键流程截图依序提交。这次验证终于通过，系统还提示后续发表AI内容时需选择「内容为AI技术制作，虚构内容请谨慎甄别」等提示。尽管如此，这次验证仅恢复了视频评论功能，若要恢复私信功能，则需删除所有AI制作内容后再次提交申请。删除作品无异于抹去个人名片，让她难以接受，因此至今私信功能仍未恢复。林聪坦言，视频号的监管并非最严苛的，她告诉新莓daybreak，「好像除了快手打上AI标识没什么影响，几个大视频平台都在清查AI创作的作品。」林聪并非孤例。小红书上关于AI限流的笔记数量已超过3万篇，从流量曝光限制到商业权益剥夺，再到产品下架，封禁程度不一。短视频平台风声鹤唳，网文圈的整治行动甚至更早。今年2月，晋江率先打出「反AI」第一枪，发布《关于AI辅助写作使用、判定的试运行公告》，明确AI使用边界。随后，起点、番茄小说宣布全面禁止AI，要求作品必须100%人工创作。网文平台整治力度过猛，导致不少误判现象。评论区一句「感觉像是AI写的」，甚至可能被编辑永久拉黑。电商领域也加入整顿行列，对「AI假图」进行整治。3月27日，淘宝修订《淘宝网商品发布规范》和《天猫商品发布规范》，对「商品失真」做出明确拓展解读，其中重点指向利用AI等技术合成显著失真、与实际不符的商品信息效果图。整治力度空前，大有「宁杀错不放过」的决心。

二、AI原罪？过去两年，在「AI暴富论」、「超级个体」的叙事逻辑下，「一键生成」的内容在互联网上泛滥成灾。有人利用AI卖课，有人借助AI数字人贩卖三无产品。淘宝上，大量AI生成的卖家秀误导消费者，结果到手商品与图片严重不符。AI乱象、AI污染的批评声此起彼伏。据林聪观察，本轮AI内容治理中，打击重点多为同质化、低原创性内容。「现在有了AI，谁家的内容火了，大家就会快速大量地复制。」以今年春节《哪吒》爆火为例，抖音上涌现大量跟风制作哪吒的现象，而这些内容往往使用相似的提示词或同一个Lora生成。AI也让一些机构的起号成本大幅降低，利用AI工具一天内可生成上百篇引发矛盾对立的笔记。小红书去年三个月内处置了超过100万个黑灰产团伙，均通过超大规模矩阵生成同质化内容。为此，抖音从算法层面入手，将「原创识别率」纳入核心指标，AI生成内容若未标注或存在同质化（如重复率超25%），将被判定为低质内容。而视频号则明确「禁止批量发布通过近似的情景、文案、元素等编造的同质化内容」。平台重点整治的另一个方向是虚构真人形象和情节虚假夸大。从平台角度不难理解，毕竟小红书以「真实分享」为社区根基，视频号则需保障社交关系链中的信息可信度。这也是小红书去年就着手研发基于「分类器」技术的AI识别模型，对疑似AI生成内容进行标记的原因。为巩固效果，小红书还设置了机器识别与人工审核的双重屏障。站在创作者角度，这显得有些无奈。因为「真实」这一特质与AIGC天然背离，人物本身就是虚构的，情节自然也是虚构的，这更像是贴附于自身的「原罪」。平台为「真实」设立的门槛，还引发了另一层面的「不公」：相比真实题材视频，AIGC的审核标准更为严苛。半职业AIGC创作者蓝心的作品最近也遭遇了违规提示。在小红书上，她曾先后发布了一系列真实王一博照片和AI生成的王一博视频。如今，前者仍挂在主页，后者却被平台要求删除。同样的题材，因由AI生成便得到截然不同的判定结果。值得注意的是，当下所有AI视频工具都在强调「真实感」。比如可灵的物理规律模拟、大幅度运动生成，比如即梦的质感提升、动作模仿，一切都在强调生成效果接近真实。从结果看，平台并不希望创作者利用AI复原人物真实感，假如AI创作一只小猫、小狗，做出真实感，应该会被接纳。

三、未来何去何从？AI创作内容被严格限流的同时，各平台的AI「军备竞赛」却日趋白热化。3月19日，小红书才刚为旗下AI应用「点点」上线新入口，位于消息页面，且支持深度思考模式。几天前，字节跳动开启了「即梦3.0」的灰度测试，该版本在分辨率上提升了50%，生成速度提升了30%。更方便的入口、更新的版本、更强的性能，这些平台投入了大量资源推动AI工具发展，目的是抢占下一代内容生产基础设施，将创作者绑定在自身生态内。但当大量创作者开始使用AI工具涌入AIGC领域，平台却缺乏一套清晰的规则和审核标准来承接，质疑声此起彼伏。有人认为平台诱导创作者使用AI工具做任务，搞了特别多相关比赛和活动，然后大规模封禁，是一种诱导；也有人认为AI给平台带来不了直接利益，反而影响真人主播收益，趁着政策出台，「一刀切」比较痛快。平台既扮演AI工具提供者，又承担内容审核者角色，这种双重身份本身就是一种挑战。有些平台甚至主动催生矛盾，比如番茄小说为训练自己的AI，在签约协议中新增AI训练条款，引发大量作者抵制和不满。自2023年生成式AI广泛运用以来，伴随AIGC作品而来的就是诸多质疑和限制。知名AI绘画作品《太空歌剧院》曾两次申请版权被拒绝。AI作品不仅版权上得不到正名，「同行」之间的关系也愈发紧张。大量传统内容创作者竖起「反AIGC」旗帜。这也使得2024年一款名为Cara的反AIGC社交产品，开始频繁登顶美国App Store下载榜单。小红书上形成了一种「反AIGC」氛围，创作者唐飞对此感到无奈，「一些用户看到AIGC作品就会点举报，特别是绘画圈的那群人。」除了社会和法律法规层面的不被认同，对大模型厂商，AIGC还意味着一种危险：用AI生成的数据去训练AI超过5次，模型性能会大减。莱斯大学和斯坦福团队的研究人员将此称为「模型自噬障碍（MAD）」。而当下中文互联网，AIGC作品正走向泛滥。已公布数据的平台中，微信视频号AI生成内容占比已达30%。其他平台上，AI生成内容也肉眼可见地攀升。这一次封禁，小红书上的一条评论得到高赞：「这是好事，每次搜资料搜素材出来全是大批大批的AI，想找到正经参考的都难。」大刀阔斧砍向AIGC的平台，有点像是在治理一场数字领域的「蝗灾」，目的不是为了「灭绝」，而是先从整体数量规模上减少，再从生态环境中防治劣质内容的生产。面向未来，AIGC创作者又该何去何从？有人总结了一条「532法则」，即：50%的人工，原创案例、真实情感、独家观点；30%的AI，数据整理、框架搭建、标题优化；20%的工具，用ContentAny等去除AI痕迹。但这些经验是否奏效，谁也无法保证。又或者说，当下奏效的经验，几个月后是否依然可行，没人知道。所有人都要习惯这种不确定性。

文章网址：https://www.wpbull.com/ai/28825.html

平台AI政策两极化：鼓励创作又限制监管

相关推荐