有害内容隐形变异，涉未成年人网络乱象“改头换面”

手机

长安汽车计划在泰国建厂生产电动汽车：18.13亿建第一阶段

京东物流：2023年上半年净亏损6.372亿元，去年同期净亏损14.62亿元。

家电

有害内容隐形变异，涉未成年人网络乱象“改头换面”

2023-08-17 05:03:30 来源：人民日报

数字时代，网络成为未成年人获取知识的重要渠道，同时，不良信息接触、网络沉迷成瘾、个人隐私泄露等风险也如影随形。根据《2021年全国未成年人互联网使用情况研究报告》，2021年小学生的互联网普及率达95.0%，未成年人接触互联网的低龄化趋势明显，青少年模式的使用比例和满意比例均不足五成。

进入暑假，青少年上网时间增加，如何治理好涉未成年人网络乱象，成为全社会关注的热点问题。近日，中央网信办开展为期两个月的“清朗·2023年暑期未成年人网络环境整治”专项行动，重点整治有害内容隐形变异、网络欺凌、隔空猥亵、网络诈骗、不良内容、网络沉迷、新技术新应用风险问题。

有害内容隐形变异、新技术新应用风险增多

(相关资料图)

电脑前，中学生李刚（化名）向记者展示了他从某论坛学来的检索技巧。

“AI换脸”“一键换装”……经过检索，一个个充满低俗意味的店铺图片和文案映入眼帘。进入店铺，记者发现，这是一家出售AI图像生成工具的网店，可生成低俗的人物形象，甚至还能生成未成年人形象。“很多同学都知道如何使用‘擦边关键词’搜索，购买这类AI生成工具。”李刚说，购买时，店家也不会询问自己是否成年。

传播有害信息的网络乱象，借助“AI换脸”“AI绘图”等新兴技术，沉渣泛起。一些处于监管灰色地带的应用软件，则将隐秘的手伸向未成年人。

前段时间，市民李阳（化名）发现读中学的儿子正在使用某款密聊软件，屏幕上有几张“阅后焚毁”状态的图片、几个英文字母简写。出于关心，他上网搜索了几个英文简写，发现都是低俗用语的缩写。

通过“二创视频”、表情包、外链浮窗等隐蔽形式，色情低俗、迷信暴力等向青少年传播；有的青少年则沉迷于实名制要求宽松的短视频平台；某些儿童智能设备APP中，语音、文字搜索结果中存在不良内容……

除了新形式的不良信息传播，实施网络诈骗、隔空猥亵、盗骗个人信息等违法犯罪等，也时有发生。

“你想不想‘破解’青少年模式？无限畅玩，价格便宜。”

沉浸在游戏中的张晓（化名）收到了这样一条私信。听说可以“破解”青少年模式，张晓一时心痒难耐，“反正没多少钱，试试看！”

当晚，张晓的父母发现银行卡里少了3800元钱，询问后才知道，张晓遭遇电信网络诈骗，手机被植入了“木马”，还被盗取了个人信息。

“当前，在未成年人网络生态环境治理中，未成年人面临的网络风险大致可以分为不良信息接触风险、网络沉迷成瘾风险、个人隐私泄露风险、网络违法侵害风险等类型。”中国政法大学教授王贞会介绍，与时俱进，加强未成年人网络环境管理，势在必行。

网络技术降低违法成本，增加隐蔽性

涉未成年人的互联网乱象为何屡禁不止，又屡屡改头换面？

数字时代奔涌向前，不断更新迭代的网络技术，极大地降低违法成本、增加违法行为的隐蔽性。

生成式人工智能等技术快速发展，给未成年人带来此前不曾有的不良信息风险，且普通的监测手段有时无法奏效。某电商平台工程师黄舒介绍，所谓的“密聊软件”，具有极大的逃避监管、向未成年人传播不良信息的风险。

“网络内容在隐形变异、安全风险以及诱导沉迷等方面的表现形式都在快速迭代，国家立法、政府监管、学校管理、家长知识结构都存在滞后的风险。”北京青少年法律援助与研究中心主任佟丽华说。

技术的进步是大势所趋。各方管理需要及时改进，才能有效避免涉未成年人的网络乱象。

“进、退青少年模式只需要一串密码，还只有4位。”北京市民李南（化名）举着手机，指着其中一款软件说，“输入密码就能解除限制，太简单了，这很难起到严格防止未成年人沉迷的效果。”

监护人自身网络素养参差不齐，也是涉未成年人网络乱象的成因之一。

“父母或其他监护人缺乏网络素养，会直接影响对其子女上网的管理效果，进而在教育子女使用网络过程中出现简单粗暴等行为。”王贞会说。

此外，个别监管部门也存在落实法律法规政策不到位、政策制度更新不及时等情况，加剧了相关问题的出现。

立规矩、管长远，建章立制需与时俱进

“对未成年人的网络保护，不能单靠政府、企业、家庭、学校中的任何一方。”佟丽华说，多方共治、久久为功，才能营造风清气正的网络环境。

网络平台是信息内容管理的第一责任人，在未成年人保护方面起到重要作用。在收到包括李刚父母在内的举报之后，该电商公司立刻采取了相关措施，例如识别和严格处置类似商品，坚决剔除AI绘图技术应用中的不良倾向。同时，提升“擦边词”的识别，增加380余条关联识别词，不断提升相关词汇关联的商品是否传播低俗内容的研判能力。

“一方面，互联网平台应做好内部自律，主动加强防沉迷机制，严格打击侵害未成年人合法权益的内容和行为。”王贞会说，“另一方面，互联网平台还应充分发挥对未成年人数字成长的赋能作用，让数字技术助力未成年人的健康发展。”

令人欣喜的是，不少平台对未成年人保护愈发重视：暑假前夕，多家国内游戏厂商集体发布“关于暑期未成年人游戏限玩的通知”；快手对于涉未成年人不良信息从深从细整治、从严从重处置；抖音也陆续推出《十万个为什么》系列短视频等精品内容，发起青少年科普创作计划等，提供优质精神文化内容。

社会有期盼，监管有回应。

为进一步帮助未成年人减少网络沉迷和不良信息影响，国家网信办8月2日发布了《移动互联网未成年人模式建设指南（征求意见稿）》并公开征求意见，将未成年人网络保护的覆盖范围由APP扩大到移动智能终端、应用程序、分发平台，把“青少年模式”升级为“未成年人模式”。

立规矩、管长远，建章立制更需与时俱进。近日，司法部、国家网信办专题研究审议《未成年人网络保护条例（草案）》。“加快推动出台该条例是推进网络空间法治建设的重要举措，对于健全未成年人网络保护制度体系、构筑未成年人网络安全屏障、切实保护未成年人身心健康、保障未成年人合法权益具有重要意义。”司法部有关负责人表示。

“监管部门既要鼓励互联网平台的健康发展，也要根据技术创新背后可能存在的风险，合理运用建议、约谈等方式明确监管底线和平台经营红线。”王贞会说。

此外，公安和司法机关的打击治理也卓有成效：公安机关曾联合网信部门开展专项行动，7个月间处置涉未成年人电信网络诈骗案件1.2万余起；2020年至2022年，检察机关起诉涉嫌利用电信网络侵害未成年人犯罪达7761人。

“提升父母或其他监护人的网络素养水平，是营造健康安全网络环境的关键。”王贞会建议，在日常的法治宣传中，有关部门可以结合“进社区、进家庭、进学校”等活动，提高监护人对未成年人网络保护的风险防范意识和实际保护能力。

“治理并非对未成年人的网络行为进行管制，而是从保障未成年人权利的角度，尊重他们发展、成长的权利，合理引导他们正确地认识、使用网络。”中国政法大学副教授、未成年人事务治理与法律研究基地副主任苑宁宁说。

（来源：人民日报责任编辑：解清）

关键词：网络风险青少年未成年人 AI