《法治周末》记者 王京仔

“完善生成式人工智能发展和管理机制。加强网络空间法治建设，健全网络生态治理长效机制，健全未成年人网络保护工作体系。”党的二十届三中全会通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》对健全网络综合治理体系作出系统部署。

当前，我国网络治理日趋系统和精细。2024年，监管部门锚定人工智能治理、网络暴力等内容治理、网络平台算法治理、电信网络诈骗治理四大重要着力点，推动网络生态治理取得显著进展，有效预防和遏制网络违法犯罪。

人工智能治理

2024年，人工智能（AI）赛道火热依旧。

相较于2023年AI大模型之间的百“模”大战，过去一年，我们能真切感受到AI应用开始深入我们生活的方方面面：生成式人工智能被用于文本、图像、音视频创作；自动驾驶在全球多个城市落地；AI机器人被投入各行各业……

人工智能释放技术价值红利的同时，带来复杂风险挑战，如何平衡发展与安全已成为构建人类命运共同体的重大课题。2024年，与AI应用广泛落地相伴随的是，全球加快推进人工智能治理与监管，我国亦不例外。

生成式人工智能的广泛应用，使得如“AI换脸”等滥用“深度伪造”技术的事件频频上演，在带来安全伦理争议的同时，也存在侵犯人身权、知识产权等法律风险。

2024年2月，广州互联网法院宣判全球首例生成式人工智能服务侵犯他人著作权案；同年4月，北京互联网法院审理的全国首例AI生成声音人格权侵权案一审宣判，认定在具备可识别性的前提下，自然人声音权益保护范围可及于AI生成声音；6月，北京互联网法院审理的国内首例“AI文生图”著作权案入选2024中国数字经济发展与法治建设十个重大影响力事件。

同年9月，国家网信办公布了《人工智能生成合成内容标识办法（征求意见稿）》以及配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法（征求意见稿）》，拟全方位、多层次地规范人工智能内容标识要求和方法。12月，广电总局网络视听司发布《管理提示(AI魔改)》，对“AI魔改视频”出手管理。

与此同时，据《法治周末》记者不完全统计，2024年间，至少有北京、广东、江苏、四川等11个省区市出台人工智能相关产业行动计划或措施文件。

这一年，世界范围内，各主要经济体酝酿多年的人工智能立法实践陆续进入成熟期。已成为人工智能大国的中国，也在积极参与制定全球人工智能“游戏规则”。

2024年5月，中美人工智能政府间对话首次会议举行；同月，《中华人民共和国和法兰西共和国关于人工智能和全球治理的联合声明》发布；7月1日，第78届联合国大会协商一致通过中国主提的加强人工智能能力建设国际合作决议，140多个国家参加决议联署；3天后，《人工智能全球治理上海宣言》发表，倡导建立全球范围内的人工智能治理机制。

网络暴力等内容治理

除了人工智能治理，2024年的网络生态治理，互联网信息内容治理仍是重要的一环。其中，包括网络暴力、自媒体、直播、网络语言等多个方面。

2024年3月，最高人民法院工作报告提出，从严惩治网络暴力。针对网络暴力“按键伤人”“按键杀人”，严重扰乱社会秩序，会同最高人民检察院、公安部出台司法政策，严惩网暴恶意发起者、组织者及屡教不改者。

同年6月，国家网信办、公安部、文化和旅游部、广电总局公布《网络暴力信息治理规定》（以下简称《规定》）。《规定》作为我国首部反网络暴力的专门部门规章，标志着我国网络暴力治理法规制度体系建设取得新的重要进展，网络暴力治理法治基石进一步筑牢夯实。

2024年12月28日，由《澎湃新闻》牵头发起、上海市委网信办指导成立的“数字内容生态实验室”发布的《反网络暴力研究报告》指出，网络暴力的形式正在不断翻新，主要包括“编造散播谣言”“挑动对立歧视”“侵犯公民隐私”“破坏营商环境”等方面，严重破坏了网络秩序和生态。

记者通过中央网信办举报中心透露的数据统计发现，去年1月至11月间，全国受理色情、赌博、侵权、谣言等违法和不良信息约2.09万件，而2023年全年受理网络违法和不良信息举报为2.06万件。

而这些违法和不良信息就是互联网内容生态治理的对象，中央网信办部署的2024年“清朗”系列专项行动也从多维度对这些内容进行了治理。

自2024年1月开始，“清朗·2024年春节网络环境整治”“清朗·优化营商网络环境——整治涉企侵权信息乱象”“清朗·整治‘自媒体’无底线博流量”“清朗·打击违法信息外链”“清朗·网络直播领域虚假和低俗乱象整治”“清朗·规范网络语言文字使用”“清朗·同城版块信息内容问题整治”等多个专项行动，陆续展开。

与此同时，QQ、微博、抖音等多个平台也在加强自治。以QQ为例，平台对相关违规内容进行常态化治理，2024年第四季度累计处置涉未成年人风险账号超3000个、涉未成年人不良内容4.7万余条；并从源头上遏制“网络水军”的活动空间，第四季度平台处置网络水军相关违规内容超4.7万条，封禁2974个违规账号和3003个违规群组。

网络平台算法治理

无论是人工智能带来的乱象，还是网络违法不良信息内容，那都是网民们看得见的表象。其呈现的背后都离不开一个词——算法，算法塑造着当下的互联网世界。

“算法是一把‘有善有恶’的‘双刃剑’，要看人怎么用，但是人性和商业的准则，往往会共同把它推向恶的一边。在这样的情况下，每个人都无法躲避。”2024年12月22日，在浙江大学城市学院举行的“2024中国视频节目年度掌声·嘘声”发布活动现场，中央广播电视总台主持人白岩松表示。这场活动上，年度唯一的“嘘声”指向了“算法乱象”。

而在一个多月前，同年11月20日，农夫山泉董事长钟睒睒公开指责平台在算法流量管理方面的不作为，导致了他本人和他的企业受到了无端攻击。正是在这一个月，一场针对网络平台算法的治理行动拉开了序幕。

中央网信办秘书局等四部门联合印发通知，为进一步深化互联网信息服务算法综合治理，自2024年11月12日起至2025年2月14日开展“清朗·网络平台算法典型问题治理”专项行动，矛头直指同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等现实问题。

在中国法学会副会长姜伟看来，网络平台的算法乱象直接损害网民权益。“清朗·网络平台算法典型问题治理”专项行动主题明确，具有鲜明的价值取向、鲜明的政策导向与鲜明的问题靶向。

专项行动展开后，北京、上海、广东等地纷纷开设相关线索举报渠道。近期，上海市委网信办联合相关部门召开算法治理合规指导会，对哔哩哔哩、小红书、拼多多、携程、饿了么等100余家上海属地网站平台开展行政指导和普法培训。

而企业的自查自纠工作也在进行，2024年12月27日，美团发布公告称，针对平台算法典型问题，近期拟采取以下八项改进举措，如推进算法公开常态化等。

电信网络诈骗治理

推动良好的网络生态，离不开对网络犯罪的依法惩治和有效预防，而打击电信网络诈骗犯罪一直是近年来的治理难点和重点。

2024年以来，公安部等相关部门保持对电信网络诈骗犯罪的高压态势，统筹推进打防管控建各项措施，打击治理工作取得明显成效，电信网络诈骗犯罪上升势头得到有效遏制。据最高检、公安部透露的数据，仅2024年1月至10月，共紧急止付群众被骗资金2359亿元，使众多受害群众免受重大经济损失。

2024年12月30日，浙江省温州市人民检察院经依法审查，对缅北果敢明家犯罪集团成员及关联犯罪集团成员明国平、明珍珍等39人，依法提起公诉。而这只是相关部门持续对跨境电信网络诈骗进行打击的一个缩影。

同年1月，中缅联合打击跨国电信网络诈骗犯罪取得标志性重大战果，白所成等10名缅北重大犯罪嫌疑人被成功押解回国；4月，中老警方联合打击跨境犯罪，250名实施跨境裸聊敲诈和电信网络诈骗的犯罪嫌疑人被移交我国警方；11月，中柬警方年内第二次开展包机押解遣返联合行动。

而在2024年6月，最高法、最高检、公安部发布《关于办理跨境电信网络诈骗等刑事案件适用法律若干问题的意见》，为依法严厉打击跨境电信网络诈骗等犯罪提供了指导。7月，“两高一部”发布依法惩治跨境电信网络诈骗及其关联犯罪典型案例；12月，最高检、公安部联合挂牌督办第四批8起特大跨境电信网络诈骗犯罪案件。

2024年12月1日，正值反电信网络诈骗法施行两周年。就在这一天，公安部等4部门联合印发的《电信网络诈骗及其关联违法犯罪联合惩戒办法》施行，为打击治理涉诈黑灰产犯罪提供有效的惩戒手段和政策依据，电信网络诈骗犯罪的打击治理法律体系进一步完善。