“数字泔水”是近两年来网络空间治理中浮现的典型问题,特指利用算法推荐机制,向用户持续推送低俗、虚假、极端化内容,以攫取流量和注意力为目的的信息污染现象。青少年正处于价值观形成的关键期,如果长期沉浸于此类内容,其认知结构易被窄化,理性判断力易被侵蚀,甚至可能催生偏激对立的世界观。
传统的网络空间治理模式建立在“违法与合法”的二分逻辑之上,网络平台对色情、暴力、谣言等违反法律规定的信息类型负有法定的过滤与删除义务。然而,“数字泔水”的核心特征是“合规但低质”,主要是通过碎片化拼接、情绪渲染和重复推送等方式,在看似“合法区间”内悄然影响受众的认知。
内容合规就够了吗
近年来,我国面向青少年的网络内容治理法律框架正加速完善。相关规范体系主要呈现为以下维度:一是个人信息保护法将不满十四周岁未成年人的个人信息列为敏感个人信息;二是《未成年人网络保护条例》专章规范网络信息内容,明确禁止制作传播危害未成年人身心健康的信息;三是《生成式人工智能服务管理暂行办法》要求防范未成年人过度依赖或沉迷生成式人工智能服务;四是《人工智能生成合成内容标识办法》构建了“显式+隐式”双重标识制度,帮助用户识别内容真伪。上述规则的共同逻辑,是以内容是否违法或是否构成不良信息为判断基准,力图以清晰的底线标准织就一张青少年的防护网。
然而,“数字泔水”产生的危害主要是内容“低质”。其所生产的内容本身并不违法,也难以完全归入现有“不良信息”的法定范畴。譬如,看一段碎片视频或是一篇极端言论等或许影响较小,但当算法以工业化、规模化的方式将此类信息精准投喂给处于认知关键期的青少年群体时,其所产生的负面效应便可能呈几何倍数地放大。现行法律规范对此类“合规但低质”的内容,尚缺乏明确的识别标准与有效的干预手段。
此外,制度设计所要求的“知情同意”“关闭个性化推荐”等选项都建立在一个前提假定之上,即用户具备稳定、自主的决策能力,能够在充分知情的前提下作出符合自身利益的选择。然而,在持续的信息瀑布与即时的反馈刺激面前,人的理性判断极易被消解。加之网络平台通常会将“选择权”深埋于层叠菜单之下,用户虽名义上享有权利,现实中却难以有效行使。
认知安全:作为独立法益保护的可能
当算法足以在潜移默化中重塑一代人的思维结构时,法治应以独立法益的形式,为青少年认知安全保护划定清晰的边界。“数字泔水”现象对青少年认知安全的损害是无形的,却是实在发生的。既有规则对“内容”的规制更多的是从合法性维度出发,缺少对信息环境的整体质量如何影响青少年认知安全的关注。
单独地去判断,某一条低质内容对青少年认知安全的影响,很难构成法律意义上的侵权。但是,在算法的作用下,此类碎片化、情绪化、极端化的信息会持续占据青少年的注意力。长此以往,造成青少年群体的认知窄化与判断力退化,这就可以被视为具有法律意义的损害。
作为独立法益的认知安全,其保护对象是信息环境的整体结构质量。就权利内涵而言,认知安全有别于隐私权、名誉权等传统人格权。认知安全聚焦于信息摄入的动态过程,它关注的是用户每天被推送的内容、注意力被引向何处,以及认知空间是否正在被悄然窄化。就损害机理而言,侵害认知安全行为具有累积性与系统性特征。这决定了它无法被拆解为独立的侵权事件,而应当作为一个整体进入法治的评价视野。
将认知安全确立为独立法益,在现行法治秩序中可以找到制度铺垫。其中,民法典人格权编对身心健康的保护,已为精神性人格利益的拓展预留了空间。同时,未成年人保护法确立的“最有利于未成年人”原则,也要求法律规范在涉及青少年成长所面对的不确定性风险时,应当采取更为积极的保护姿态。认知安全正是对上述制度和原则的积极回应,侧重于保障认知自主权和维护信息生态可持续性。
需要特别指出的是,确立认知安全的独立法益地位,其核心价值并不是要求司法在个案中提供直接救济,而是让立法者与监管者能将认知安全作为一项具有规范效力的原则,嵌入对平台行为的评价体系。
从“守底线”到“提质量”:青少年认知安全保护的法治进路
法律体系的价值不仅在于有法可依,更在于能够敏锐回应那些游走于灰色地带的新型风险。面对“数字泔水”现象,若法律仍局限于“守底线”的传统思维,便只能在事件出现后被动应对,而无法在认知侵蚀悄然发生之际主动干预。对此类现象的治理逻辑,应当从事后追责转向过程干预,从内容审查走向质量治理。换言之,法律不仅要界定“什么不能推送”,更须在保障青少年认知多样性的前提下,对平台推送的内容施加更为精细化的规制。
一方面,确立以“认知健康度”为核心的内容质量标准。在技术能以极低成本批量生产内容的条件下,法律对内容的规制除保留合法性基准外,还应引入内容质量的评价维度。确立该标准的关键,在于将“认知健康度”作为一项可操作的指标,纳入内容分发的合规评估体系。具体而言,可以围绕信息多元性、信源可信度以及内容对批判性思维的促进程度设定权重。
另一方面,进一步压实平台的算法治理责任。“数字泔水”现象的出现,表层原因在于内容生产失范,其深层根源则是算法推荐机制的失范。平台推送内容不应仅以用户停留时长、点击率等流量指标为导向,而需评估其对青少年认知可能产生的长期影响。法律应推动“算法向善”从理念走向制度规范,明确平台在设计推荐算法时须综合权衡内容真实性、知识密度与价值导向。
(作者赵海全系中国政法大学法学院讲师,刘嘉乐系中国政法大学法学院研究生)
赵海全 刘嘉乐 来源:中国青年报
ju《fazhiribao》baodao,guowuweiyuanjianguowuyuanmishuchangwuzhenglong7rixiawuzaishengbujiganbuxinfanggongzuozhuantiyantaobanjieyeshishangqiangtiao,yaoyizhashikaizhanzhutijiaoyuweiqiji,shenruxuexiguanchedangdeershidajingshenhexijinpingzongshujiguanyujiaqianghegaijinrenminxinfanggongzuodezhongyaosixiang,jianchiyixuezhuhun、yixuezengzhi、yixuezhengfeng、yixuecugan,qieshizhuahaoxuexichengguozhuanhua,fenlikaichuangxinshidaixinzhengchengxinfanggongzuoxinjumian。zhongyangshehuigongzuobubuchangwuhanshengzhuchijieyeshi。据(ju)《(《)法(fa)治(zhi)日(ri)报(bao)》(》)报(bao)道(dao),(,)国(guo)务(wu)委(wei)员(yuan)兼(jian)国(guo)务(wu)院(yuan)秘(mi)书(shu)长(chang)吴(wu)政(zheng)隆(long)7(7)日(ri)下(xia)午(wu)在(zai)省(sheng)部(bu)级(ji)干(gan)部(bu)信(xin)访(fang)工(gong)作(zuo)专(zhuan)题(ti)研(yan)讨(tao)班(ban)结(jie)业(ye)式(shi)上(shang)强(qiang)调(tiao),(,)要(yao)以(yi)扎(zha)实(shi)开(kai)展(zhan)主(zhu)题(ti)教(jiao)育(yu)为(wei)契(qi)机(ji),(,)深(shen)入(ru)学(xue)习(xi)贯(guan)彻(che)党(dang)的(de)二(er)十(shi)大(da)精(jing)神(shen)和(he)习(xi)近(jin)平(ping)总(zong)书(shu)记(ji)关(guan)于(yu)加(jia)强(qiang)和(he)改(gai)进(jin)人(ren)民(min)信(xin)访(fang)工(gong)作(zuo)的(de)重(zhong)要(yao)思(si)想(xiang),(,)坚(jian)持(chi)以(yi)学(xue)铸(zhu)魂(hun)、(、)以(yi)学(xue)增(zeng)智(zhi)、(、)以(yi)学(xue)正(zheng)风(feng)、(、)以(yi)学(xue)促(cu)干(gan),(,)切(qie)实(shi)抓(zhua)好(hao)学(xue)习(xi)成(cheng)果(guo)转(zhuan)化(hua),(,)奋(fen)力(li)开(kai)创(chuang)新(xin)时(shi)代(dai)新(xin)征(zheng)程(cheng)信(xin)访(fang)工(gong)作(zuo)新(xin)局(ju)面(mian)。(。)中(zhong)央(yang)社(she)会(hui)工(gong)作(zuo)部(bu)部(bu)长(chang)吴(wu)汉(han)圣(sheng)主(zhu)持(chi)结(jie)业(ye)式(shi)。(。)