专题:中国经济前景广阔、大有可为——2025全国两会财经特别报道

  2025年全国两会召开之际,全国人大代表、科大讯飞董事长刘庆峰,围绕AI时代的自主可控生态建设、人才培养、就业保障、民生刚需应用、科技温度等相关议题,全方位建言高质量发展。

  人工智能技术正向社会各领域渗透,刘庆峰关注到“AI幻觉”带来的数据污染及其对社会的负面影响。

  中国互联网络信息中心(CNNIC)发布的《生成式人工智能应用发展报告(2024)》显示:我国生成式人工智能产品的用户规模已达2.49亿人,占整体人口的17.7%。用户规模的快速增长背后,潜藏风险也被放大:

  生成式人工智能存在幻觉,特别是深度推理模型的逻辑自洽性提升,使得AI生成内容真假难辨。带有算法偏差的虚假信息会被新一代AI系统循环学习,形成“数据污染-算法吸收-再污染”的恶性循环。而普通民众对AI技术原理及生成机制的认知和理解不足,极易将算法输出的“幻觉数据”误判为真实可信信息。

  当大模型生成的“幻觉数据”充斥互联网信息生态时,不仅会削弱公众信任,还可能影响社会稳定。

  为此,刘庆峰建议预防大模型生成“幻觉数据”充斥互联网带来的危害,从技术研发和管理机制上构建可信的信息环境。