2025.05大模型“裸奔”上线__极有可能引发业务停摆的链式危机_本报编辑部

2025.05大模型“裸奔”上线__极有可能引发业务停摆的链式危机_本报编辑部

中国计算机报/2025 年/5 月/12 日/第 005 版观点

第十四届全国政协委员，全国工商联副主席，奇安信集团董事长齐向东:

大模型“ 裸奔” 上线 极有可能引发业务停摆的链式危机

本报编辑部

“ 新技术是把双刃剑,大模型应用一端连着机遇,一端连着挑战,面对大模型应用的三重挑战,需抓住‘ 接入放心用’ ‘ 权限强管控’ ‘ 严把内容关’ ‘ 杜绝新隐患’ ‘ 运营可闭环’ 五个关键,筑牢人工智能的安全底线,为千行百业抓住人工智能新机遇,吃下一颗‘ 定心丸’ 。” 第十四届全国政协委员,全国工商联副主席,奇安信集团董事长齐向东在第八届数字中国建设峰会数字经济分论坛上表示,人工智能大模型应用在各行各业迎来大爆发,新兴场景层出不穷,带来无限生产力、创造力,同时也带来巨大安全风险。【更多写作资料+ 微信：】

大模型应用加速落地 安全挑战迫在眉睫

现如今,人工智能技术正不断向具体应用场景纵深渗透,应用层级不断深化——从基本应用的直接部署,到细分场景的精准赋能;从垂直行业的专业化适配,再到特定领域的深度融合。然而,人工智能发展带来的安全隐患也不容忽视。齐向东详细剖析了大模型应用所面临的三大安全挑战。

第一,“ 小数据” 一失万无,“ 小数据安全” 成为数字经济时代的核心关切。在数字经济时代,数据如同驱动发展的“ 石油” ,人工智能则是“ 发动机”。“ 过去,提到数据我们想到的都是大数据,规模大,但碎片化、质量参差不齐,数据价值挖掘和变现难。 ” 齐向东表示,如今,人工智能大模型的出现,为数据赋予了新的活力,企业通过对设计、 生产、 安装调试等数据进行加工处理,形成精华 “ 小数据” ,这些“ 小数据” 成为企业核心竞争力所在。不过,一旦“ 小数据” 被窃取、泄露或篡改,企业多年积累的优势将瞬间崩塌。

第二,大模型融通百业,“ 裸奔” 上线极有可能引发业务停摆的链式危机。当大模型深度融入智慧城市、工控系统、智慧政务等关键领域时,会将风险串联成网。齐向东举例说,奇安信资产测绘鹰图平台监测发现,8971 个 Ollama 大模型服务器中有 6449 个活跃服务器,其中近九成都在“ 裸奔” ,意味着任何人无需认证即可随意调用、访问服务,甚至能删除重要模型文件,可能会导致与大模型关联的应用业务中断。

第三,对 I 过度依赖,善恶真伪难辨别,一旦大模型决策失准会引发“ 蝴蝶效应”。随着人工智能的深入应用,人们对人工智能辅助决策的依赖日益加深,这给了不法分子可乘之机。从外部攻击视角看,黑客可以通过漏洞利用、数据投毒等方式,干扰大模型的决策,披着大模型的外衣作恶;从内部运营视角看,如果内部员工在更新知识库时,引入错误信息会污染模型学习环境,使其输出错误结论。

抓住五个关键 筑牢 I 安全底线

针对上述挑战,齐向东提出筑牢 I 安全的“ 五个关键”。

一是“ 接入放心用” ,构建大模型安全“ 红域” 形成多维度边界隔离。齐向东介绍,奇安信创新提出了安全“ 红域” 概念,将大模型应用涉及的数据、算力、平台、应用,以及域内管理的终端及人员划归到专属安全空间中进行防护,并在每个与大模型交互的接入点设置安全空间控制单元,通过多维度的边界隔离,为大模型应用落地“ 强基础、控权限、审数据、拦攻击、清风险”。

二是“ 权限强管控” ,以用户身份为新边界开展网络和数据安全防护。通过堡垒机、“ 零信任”等技术措施,对开发、训练等相关特殊人员和终端进行增强式安全管控。其中,“ 零信任” 架构能在认证主体角色基础上,叠加 IP、设备、安全环境和时间、位置及其上网行为基线等属性,确保合

第 1 页 共 2 页

适的人在合适的时间、以合适的方式,访问合适的数据,杜绝“ 内鬼” 隐患。

三是“ 严把内容关” ,构建贯穿大模型全生命周期的内容安全治理机制。通过强化监测审计,实现对大模型的核心数据管控。包括对用户使用大模型过程中的不良内容、异常访问行为进行监测、审计、拦截和预警,及时优化管控策略。

四是“ 杜绝新隐患” ,以实战为导向加强大模型应用安全评估。通过实战化评估方法,对大模型安全、大模型内容安全、智能体安全、大模型组件安全,以及大模型运行环境安全等方向进行全面检测评估,验证安全策略的有效性。同时,构建纵深防御与监测技术能力,降低大模型应用的数据泄露风险与业务中断风险。

五是“ 运营可闭环” ,做到对安全威胁的实时监测和应急处置。齐向东表示,未来网络安全得I 者得天下。面对人工智能落地应用带来的多重安全挑战,要用 I 对抗 I,增补面向大模型攻击及异常行为的检测手段,实时监测针对大模型的攻击行为,并实现高效拦截,形成安全运营的闭环。奇安信率先提出“ I 驱动安全” 理念,推出 ISOC(智能化安全运营解决方案),把 I 的能力嵌入到研判、调查、响应、报告、狩猎、策略创建等安全运营工作,实现了大运营与 I 的有机结合。“ 我相信,把握好这五个关键,能够确保人工智能大模型应用安全落地,发挥出驱动数字经济发展的正向价值。” 齐向东说道。

在数字经济发展过程中,网络安全是底线根基和上限支撑,是价值创造的强劲引擎。齐向东强调,数据要素流通、人工智能应用、算力网络构建出更繁复的新兴场景,这些场景的落地必须以网络安全和数据安全为前提,否则所有创新成果都可能因为漏洞而化为泡影。同时,全球科技博弈日益加剧,以人工智能为核心的新技术成为大国角力战场,倒逼着网络安全持续创新,实现技术自主可控,为数字经济构建安全护城河。

编辑点评

今年以来,我国持续加强人工智能基础研究,同时突出应用导向,新技术正不断向具体应用场景纵深渗透。工业和信息化部最新数据显示,目前,我国已累计培育 400 余家人工智能领域国家级专精特新“ 小巨人” 企业,建成了钢铁、煤炭等行业的高质量行业数据集。

随着 DeepSeek 降低大模型部署成本,垂直领域应用开始爆发,企业在数据安全上的“ 痛感” 会越来越明显。 正如齐向东所说,企业在部署大模型时,需要将质量粗糙的大数据提炼成高密度的 “ 小数据” ,否则会消耗大量的算力和显卡资源。在这个模式下,高密度数据一旦丢失,将会带来更严重的影响。

在 I 方面,大模型技术的突破和落地,让千行百业智能化的实现周期大幅缩短。新兴业务场景的不断涌现,使得网络安全防护变得更复杂、更紧迫,不仅为网络安全产业打开了新的增长空间,也促使企业拓宽出海路径。

在数据方面,随着各利好政策的密集发布,国家数据基础设施建设将全面提速,全流程动态防护必将成重点。对企业来说,围绕数据基础设施底座、算力网平台、数据应用动态管控、数据流通利用安全等四个方面开展的数据安全建设将成为主流趋势。

第 2 页 共 2 页