新闻热线:023-61520695 举报电话:023-61520697

AI“狂飙”有底线!重庆下架违规处方、给合成内容贴标签、备案大模型,让新技术装上“安全闸”

2025-10-17 12:55:10  来源:城乡统筹发展网  作者:文/图 记者 亦歌

▲重庆市委网信办副主任魏春就记者数据安全风险提问进行相关解答

城乡统筹发展网讯 面对AI技术滥用、AI生成虚假信息、数据安全风险等问题。重庆采取了哪些具体举措?

10月17日,在“高质量完成‘十四五’规划 谱写中国式现代化重庆篇章”系列主题新闻发布会——介绍“十四五”时期重庆网络安全和信息化高质量发展成效发布会上,市委网信办副主任魏春就记者提问进行相关解答。

魏春介绍,市委网信办坚持发展和安全并重,积极推动生成式人工智能健康有序发展,主要表现在三个方面。

大力整治AI滥用问题。开展整治AI技术滥用专项行动,强化AI技术源头治理,今年已下架“AI开处方”等10多款违规AI产品。督促网站平台按照标识要求,对AI生成的内容以“贴标签”的方式进行标注,方便群众一眼就能够识别清楚。推动网站平台健全AI生成合成内容审核机制,提升虚假信息检测和鉴别能力。同时,重点整治利用AI技术制作发布虚假信息、假冒他人实施侵权违法、从事网络水军活动等突出问题,依法处置利用AI违规引流账号56个,清理AI生成的虚假信息1500多条。

积极推动AI应用落地。市委网信办既抓管理,也抓服务,推动AI走出实验室,走向生产线,走进生活圈。从产业数字化到数字产业化,从低空飞行器到工业智能体,加快建设人工智能应用高地,赋能产业、服务民生。在大家熟悉的汽车领域,市委网信办推动长安汽车“天枢大模型”应用落地,今年在多款车型投入使用,人车交互更自然、更舒适、更有趣,目前已服务5万多用户。

切实筑牢AI安全防线。加强风险防范,推进大模型备案,开展全流程测试评估,确保安全合规才允许上线。现在,全市已有“轩辕”等4个大模型通过国家备案,“分身数”等5款AI应用完成市级登记。强化对AI内生安全和应用安全风险的监管,指导企业在算法研发、数据训练、算力设施等方面加强安全防护,系好智慧出行的数字“安全带”。

文/图 记者 亦歌 审核/刘辉


关于我们 | 网站声明 | 意见反馈 Copyright2011-2017 All Rights Reserved 农家科技、城乡统筹发展网 版权所有
主管单位:重庆出版集团  主办单位:重庆农家科技杂志社有限公司  城乡统筹发展研究中心
协办单位:重庆市发改委、重庆市城乡统筹办、重庆市教育委员会
增值电信业务经营许可证:渝B2-20170014  网络出版服务许可证:网出证(渝)字第002号  网络文化经营许可证:渝网文(2016)4551-030号
渝公网安备50010802001019号  互联网新闻信息服务许可证编号:50120180006 渝ICP备10015940号-1 技术支持:城乡统筹发展网