中国计算机报/2025 年/5 月/12 日/第 005 版观点第十四届全国政协委员，全国工商联副主席，奇安信集团董事长齐向东:“大模型 ”裸奔 上线 极有可能引发业务停摆的链式危机本报编辑部“ 新技术是把双刃剑,大模型应用一端连着机遇,一端连着挑战,面对大模型应用的三重挑战,‘需抓住 ’接入放心用 ‘ ’权限强管控 ‘ ’严把内容关 ‘ ’杜绝新隐患 ‘ ’运营可闭环 五个关键,筑牢人工智能的安全底线,为千行百业抓住人工智能新机遇,‘吃下一颗 ’定心丸 。” 第十四届全国政协委员,全国工商联副主席,奇安信集团董事长齐向东在第八届数字中国建设峰会数字经济分论坛上表示,人工智能大模型应用在各行各业迎来大爆发,新兴场景层出不穷,带来无限生产力、创造力,同时也带来巨大安全风险。【更多写作资料+ 微信：】大模型应用加速落地 安全挑战迫在眉睫现如今,人工智能技术正不断向具体应用场景纵深渗透,应——用层级不断深化从基本应用的直接部署,到细分场景的精准赋能;从垂直行业的专业化适配,再到特定领域的深度融合。然而,人工智能发展带来的安全隐患也不容忽视。齐向东详细剖析了大模型应用所面临的三大安全挑战。第一,“ ”小数据 一失万无,“ ”小数据安全 成为数字经济时代的核心关切。在数字经济时代,数据“如同驱动发展的 ”石油 ,“人工智能则是 ”发动机 。“ 过去,提到数据我们想到的都是大数据,规模大,但碎片化、质量参差不齐,数据价值挖掘和变现难。 ” 齐向东表示,如今,人工智能大模型的出现,为数据赋予了新的活力,企业通过对设计、 生产、 安装调试等数据进行加工处理,形成精华 “ 小”数据 ,这“些 ”小数据 成为企业核心竞争力所在。不过,“一旦 ”小数据 被窃取、泄露或篡改,企业多年积累的优势将瞬间崩塌。第二,大模型融通百业,“ ”裸奔 上线极有可能引发业务停摆的链式危机。当大模型深度融入智慧城市、工控系统、智慧政务等关键领域时,会将风险串联成网。齐向东举例说,奇安信资产测绘鹰图平台监测发现,8971 个 Ollama 大模型服务器中有 6449 个活跃服务器,“其中近九成都在 裸”奔 ,意味着任何人无需认证即可随意调用、访问服务,甚至能删除重要模型文件,可能会导致与大模型关联的应用业务中断。第三,对 AI 过度依赖,善恶真伪难辨别,“一旦大模型决策失准会引发 ”蝴蝶效应 。随着人工智能的深入应用,人们对人工智能辅助决策的依赖日益加深,这给了不法分子可乘之机。从外部攻击视角看,黑客可以通过漏洞利用、数据投毒等方式,干扰大模型的决策,披着大模型的外衣作恶;从内部运营视角看,如果内部员工在更新知识库时,引入错误信息会污染模型学习环境,使其输出错误结论。抓住五个关键 筑牢 AI 安全底线针对上述挑战,齐向东提出筑牢 AI “安全的 ”五个关键 。“一是 ”接入放心用 ,“构建大模型安全 ”红域 形成多维度边界隔离。齐向东介绍,奇安信创新提“出了安全 ”红域 概念,将大模型应用涉及的数据、算力、平台、应用,以及域内管理的终端及人员划归到专属安全空间中进行防护,并在每个与大模型交互的接入点设置安全空间控制单元,通过多维度的边界隔离,“为大模型应用落地 ”强基础、控权限、审数据、拦攻击、清风险 。“二是 ”权限强管控 ,以用户身份为新边界开展网络和数据安全防护。通过堡垒机、“ ”零信任 等技术措施,对开发、训练等相关特殊人员和终端进行增强式安全管控。其中,“ ”零信任 架构能在认证主体角色基础上,叠加 IP、设备、安全环境和时间、位置及其上网行为基线等属性,确保合第 1 页 共 2 页适的人在合适的时间、以合适的方式,访问合适的数据,“杜绝 ”内鬼 隐患。“三是 ”严把内容关 ,构建贯穿大模型全生命周期的内容安全治理机制。通过强化监测审计,实现对大模型的核心数据管控。包括对用户使用大模型过程中的不良内容、异常访问行为进行监测、审计、拦截和预警,及时优化管控策略。“四是 ”杜绝新隐患 ,以实战为导向加强大模型应用安全评估。通过实战化评估方法,对大模型安全、大模型内容安全、智能体安全、大模型组件安全,以及大模型运行环境安全...
