【法治护我心】划定深度合成服务“底线”“红线”******

　　【法治护我心——《互联网信息服务深度合成管理规定》系列解读】

　　光明网记者 陈畅、李政葳

　　“雾里看花，水中望月，你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲，用来描述当下互联网时代的“云”上生活，在技术发展与风险伴生之下，“虚”“实”之间让人颇有迷幻之感。

　　“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来，人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态，但其被恶意利用制作虚假信息内容，进而带来了政策干扰、谣言泛滥、低俗内容等。因此，我们也在呼吁——“借我一双慧眼，把这纷扰看个清清楚楚明明白白……”

　　纵观互联网发展历程，技术治理本身就是一场攻防对抗博弈，也是技术从创新应用到规范发展的必经之路。近日，这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。

　　法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”， 迈出我国新技术新应用立法的重要一步，也将有效维护网络空间良好生态。

　　明确义务要求，强化主体责任

　　事实上，深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展，深度合成技术门槛大幅降低。2017年11月，Reddit网站的用户“deepfakes”发布伪造视频，曾一度将这项技术推至风口浪尖，其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。

　　何为“深度合成技术”？《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

　　具体包括：篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术，文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术，音乐生成、场景声编辑等生成或者编辑非语音内容的技术，人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。

　　诚然，从技术进步的角度看，深度合成技术应用的初衷是让生成合成内容更逼真，但技术在愈趋“智能”的同时，也不可避免地带来更多风险。对此，中国科学院信息工程研究所所长孟丹介绍，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。

　　深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者，也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现，《规定》明确了深度合成技术定义和服务范围，提出了服务提供者落实信息安全主体责任，指出了服务提供者和技术支持者备案义务，并对服务提供者履行安全评估和配合监督检查义务提出具体要求。

　　中国科学院自动化研究所所长徐波这样评价：《规定》分析梳理了深度合成活动边界，对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如，服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务，服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。

　　健全技术支撑体系，促进科技向上向善

　　从此起彼伏的社会案件中可以看出，深度合成信息内容制作和传播数量正在高速增长，尤其伴随“元宇宙”等新模式、新场景不断落地，深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为，《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步，标志着我国网络空间治理能力进一步优化提升。

　　时间倒回到两年前。在2021年12月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》，对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上，加强对深度合成服务全过程管理，也深化了备案与评估标本兼治。

　　然而，从技术发展阶段看，深度合成技术与应用管理仍处于起步阶段，在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设，是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。

　　《规定》的字里行间，凸显了“以技术管技术”的逻辑，也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架，提出了明确的数据和技术管理规范，为促进深度合成技术向上向善，引导相关产业健康发展，确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。

　　“《规定》以促进技术在规范中发展为价值取向，在明确‘红线’的同时，为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如，《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。

　　孟丹也建议，从深度合成信息内容源头上，解决其衍生的内容安全风险，利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力，不仅着眼于管理好、使用好、发展好深度合成技术及相关服务，也致力于深度合成技术的合法合理合规使用，促进深度合成技术及相关服务健康有序的发展。

　　引导多方参与，推动治理走深向实

　　随着数字化、智能化进程不断加快，互联网信息服务综合治理不断细化，规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示，深度合成服务治理需要政府、企业、社会、网民等多方主体参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展。

　　《规定》明确提到，国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责，国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。

　　王志勤认为，《规定》构建了统筹协调、多方参与的监管体制；《规定》鼓励相关行业加强行业自律，搭建齐抓共管、协同共治的治理机制；《规定》通过系统化的制度安排，进一步构建完善了我国网络综合治理法治体系。

　　孟丹也提到，《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面，仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中，建议业内推进产业联盟建立，以产业自治、多方共治的方式，不断推进深度合成技术应用高质量发展。

　　为推动深度合成治理走深向实，徐波建议，强化智能监管平台支撑。比如，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设；加强人机混合的智能监管技术，研究深度合成服务提供者的安全可控技术保障方案，把监管规范转化为评估标准，建设面向网络全域监管的监测管理平台；研发深度合成与鉴别对抗机制，鼓励新兴科技企业与研究机构开展技术演练，共同推动深度合成服务健康发展。

元宵汤圆进入热销期，无糖和粗粮产品受追捧******

　　随着元宵节临近，各品牌汤圆、元宵进入热销阶段，产销量普遍高于去年同期。北京稻香村元宵计划产量近80万公斤，较去年增加约8%；叮咚买菜汤圆类商品备货量是去年同期的1.5倍，是平时30倍；思念食品速冻汤圆全国基地全面供产，并结合“促消费、稳增长”政策推出促销举措。

　　消费复苏、供货充足加之折扣促销，让汤圆、元宵产品在原材料成本上涨压力下依然保持亲民、稳定的价格。新口味、新吃法、新食材成为今年汤圆市场的热点趋势，无糖汤圆、卡通汤圆、麻将汤圆、潮汕鸭母捻汤圆、龙游手工汤圆等成搜索热门，主打健康、低糖概念的粗粮类汤圆销量提升。但无论面皮、馅料如何创新，传统黑芝麻、花生等口味依旧是大众的心头好。

　　元宵汤圆迎销售高峰

　　时隔三年，北京稻香村再度推出门店现摇元宵。每天早上8时，北京稻香村第十八营业部里的元宵机就已开始运转，三位师傅在机器前不停忙碌着，待一粒粒馅料裹上层层糯米粉变身为雪白的元宵，将第一时间摆放在顾客面前。

　　据工作人员介绍，北京稻香村元宵粉采用石碾工艺，碾出的糯米粉最大限度保留了糯米的营养成分和自然香味，摇出的元宵黏度高，有“茸头”。由于元宵对保存环境的温度、湿度、通风等要求严格，为保证质量及口感，均当日生产、当日限量售卖，很多顾客都是早早来门店排队等待。

　　今年元宵节，北京稻香村元宵总计划产量近80万公斤，较去年增加8%左右；汤圆计划产量220万袋，同比增加10%左右，在节前基本处于供不应求的状态，“我们也在加大产能，尽最大力量保障节日供应。”

　　作为速冻米面制品企业，思念食品针对今年元宵节市场备货充足。据相关负责人介绍，思念食品全国各大基地目前全面供产，物流运输畅通，补货及时，确保各种品类在合理安全库存范围内。还推出一系列促销举措，重点打造生肖兔IP形象，旗下大黄米汤圆因赞助开年大剧《三体》获得网友关注。

　　元宵节前一周，盒马元宵、汤圆销售就迎来快速增长。截至2月1日，盒马汤圆、元宵整体销售额周环比增长110%。其中，黑芝麻汤圆销售额环比上周增长131%，鲜肉汤圆销售额环比增长104%，大黄米芝心红薯汤圆环比增长43%。

　　积极备货的，还有电商平台。今年元宵节期间，叮咚买菜汤圆类商品备货量是去年同期的1.5倍，是平时30倍，新增无糖黑芝麻汤圆等4个新品类，总体SKU(最小存货单位)达到16个。另外，部分北方消费者有在元宵节吃饺子的传统，叮咚买菜也将饺子备货量提高到平时的3倍以上，并增加了饺子馅、饺子皮的备货量。叮咚买菜华北地区负责人预计，自1月30日起，平台汤圆销量稳步提升，元宵节当天将迎来销售高峰。

　　粗粮类汤圆销量提升

　　据淘宝平台统计，截至1月31日，新口味、新吃法、新食材成为今年汤圆市场的热点趋势，其中无糖汤圆、卡通汤圆、巧克力汤圆、爆珠芝芝汤圆、麻将汤圆、花仙子汤圆、潮汕鸭母捻汤圆、龙游手工汤圆等成搜索热门。

　　新京报记者注意到，面皮创意依旧是今年速冻汤圆创新的重点。如三全推出福字汤圆，面皮上随机印有文字“福”“Happy”及兔头、四叶草等图案；缸鸭狗榴莲汤圆、抹茶汤圆、高粱汤圆均使用彩色面皮；雪霸王、唐食技艺等网店均推出卡通兔子造型的创意汤圆；盒马推出麻将汤圆、福兔汤圆、印字汤圆、干吃汤圆。此外，不少企业推出大黄米、荞麦、高粱米皮的糖醇汤圆。

　　口味创新上，五芳斋应用武汉传统汤圆制作技艺推出樱花味汤圆；缸鸭狗汤圆有清甜芥末、黑芝麻猪油、高粱奶黄等口味；嘉华食品将云南特色云腿月饼、鲜花饼口味融入汤圆产品；天津大桥道推出了芋泥红豆、芝士双莓、焦糖花生等新口味元宵，以及黑松露巧克力、生椰拿铁、樱花车厘子、蔓越莓钙奶口味汤圆。北京稻香村门店售卖的元宵恢复了椰蓉口味，汤圆则有黄米奶香、黄米榴莲、金沙奶黄等创新口味。

　　叮咚买菜相关负责人介绍，相较于新奇口味，黑芝麻、花生等传统甜口汤圆、元宵仍是消费主流，销量最大。在叮咚买菜平台，三全、思念、缸鸭狗等品牌的相关产品销量较高，消费者也更加注重健康、低糖，粗粮类汤圆销量稳步提升，如无糖黑芝麻玉汤圆、大黄米汤圆等。

　　思念食品也向新京报记者证实，今年汤圆口味仍以传统黑芝麻为主，大黄米汤圆稳居热门品类。“大黄米汤圆面皮中添加了粗粮大黄米，其中含有的氨基酸高于大米和小麦，膳食纤维含量为大米的4倍，口感也更为软糯好消化，且有独特的黄米香，受到消费者追捧。”

　　盒马工坊今年推出20余款元宵、汤圆，其中黑芝麻汤圆销售占比达51.7%，鲜肉汤圆销售占比24%左右，并首次走出华东地区，卖到了全国。为顺应健康消费需求，盒马工坊今年还首次推出芝士红薯减糖汤圆，较普通黑芝麻汤圆减少40%的糖添加量。

　　促销加大价格平稳

　　自2022年以来伴随各种原材料价格上浮，许多食品企业承受成本压力，但今年汤圆、元宵价格依然平稳亲民。

　　思念食品告诉新京报记者，今年春节期间是汤圆产品的生产旺季，对企业整体经营成本产生一定压力。思念食品生产端启动全链“降本增效”调整，增加长期战略合作和大宗物资锁价制度，稳定供应成本；经销端多渠道增加让利力度，通过促销牵动销量，使企业整体成本控制在合理运营范围中，产品终端售价基本稳定。

　　北京稻香村也向新京报记者证实，其元宵、汤圆价格稳定，元宵销售价维持在1.5元/个没变，一斤元宵大概可称20个。另据叮咚买菜平台介绍，今年该平台销售的各品牌汤圆、元宵等产品售价与往年持平，且促销力度更大，比如推出买一赠一、第二件半价等，预计整体销量会高于往年。

　　新京报记者注意到，早在春节前夕，北京各大商超就已搭建元宵促销堆头，如永辉超市草莓元宵、巧克力元宵售价19.8元/斤，木糖醇元宵售价23.8元/斤。顺天府超市普通元宵售价为19.8元/斤，无糖元宵售价为21.8元/斤；汤圆每袋售价在9.6元—24.9元不等，多数产品售价不超过15元。

　　为增加产品销量、方便顾客购买，不少元宵、汤圆企业加大了新渠道的拓展，如北京稻香村将速冻汤圆、速冻石磨元宵搬上自营小程序和外卖平台；思念食品开拓O2O、社区团购等渠道，与美团、饿了么、京东等平台合作，发放消费优惠券。