国家网络安全通报中心再通报!Ollama私有化部署DeepSeek暗藏“裸奔”危机

阅读量29770

发布时间 : 2025-03-18 09:56:51

随着DeepSeek等大模型私有化部署的普及,以Ollama为代表的大模型工具被广泛使用, 360全球互联网测绘数据显示,2025 年1月至2月,仅一个月时间全球基于Ollama私有化部署大模型的数量增长超566%。

然而,即使是私有化部署的大模型,也存在着在互联网上“裸奔”的安全风险。近日,国家网络安全通报中心发布通报,指出开源跨平台大模型工具Ollama因默认配置缺陷,存在未授权访问、模型窃取、数据泄露等安全隐患。因此,在进行大模型私有化部署时,一定要关注人工智能所特有的安全风险,对大模型在部署、训练、应用等各个环节进行全生命周期的安全防护。

近九成服务器无防护

算力盗用、数据泄露风险猛增

Ollama是一款可以方便获取并运行大模型的工具,支持DeepSeek、Qwen等多种先进的语言模型,可以让用户能够在服务器中运行使用这些模型。

随着DeepSeek等性能强大的开源模型发布,越来越多的政企单位开始尝试在本地部署私有化AI服务。其中,Ollama凭借其便捷的部署体验,成为了站在风口浪尖的“明星工具”。

然而,安全研究机构近期监测发现,8971个运行了Ollama大模型框架的服务器中,有6449个活跃服务器,其中88.9%的服务器都未采取有效的安全防护措施,“裸奔”在互联网上。

国家网络安全通报中心通报显示,使用Ollma在本地部署DeepSeek等大模型时,会在本地启动一个Web服务,并默认开放11434端口且无任何鉴权机制。该服务直接暴露在公网环境,存在以下风险:

未授权访问:未授权用户能够随意访问模型,并利用特定工具直接对模型及其数据进行操作,攻击者也可以无需认证通过如push/delete/pull接口实现对模型服务和机器算力的滥用,甚至通过恶意指令删除模型文件或窃取数据。

数据泄露:通过特定接口可访问并提取模型数据,引发数据泄露风险。如:通过/api/show接口,攻击者能够获取模型的license等敏感信息,以及其他接口获取已部署模型的相关敏感数据信息。

模型窃取:攻击者可利用Ollama框架历史漏洞(CVE-2024-39720/39722/39719/39721),远程直接调用模型接口实施数据投毒、参数窃取、恶意文件上传及关键组件删除等操作,造成模型服务的核心数据、算法完整性和运行稳定性面临安全风险。

效率与隐患并存

大模型部署应安全铸基

政企组织如何应对使用Ollama部署大模型带来的安全风险?

一方面,对于已经部署DeepSeek服务的企业和个人,应尽快修改Ollama相关配置,及时加入身份认证手段,尽快修改防火墙、入侵检测等相关安全配置,如制定IP白名单限制访问,确保只有授权人员能够访问模型服务,并通过反向代理实现身份验证和授权,防止未经授权用户访问等。同时,构建大模型安全防御体系,保障大模型安全运行。

针对使用大模型的政企用户,360推出基于安全大模型赋能的Ollama防护解决方案,保障大模型使用过程中的各类安全问题。这套方案主要由360 AI-WPP、360 SDP、360企业安全浏览器组成:

360 AI-WPP:在大模型主机或终端上进行基线检查,包括IP和端口以及其他配置、各供应链组件的版本漏洞等,可对Ollama11434端口做细粒度管控,限制端口访问状态;

360 SDP:通过关键业务隐身、身份验证增强、环境感知分析、动态访问控制、多源信任评估等核心能力。通过API密钥管理,将企业大模型的创建者、发布者、用户做身份权限控制,供授权可信设备访问;

360企业安全浏览器:基于安全大模型的深度赋能,可实时通过云端不断更新数据库中查询,自动化判定用户下载文件是否安全,阻止恶意供应链攻击,及时警告用户下载文件可能存在威胁,避免数据泄露等安全风险。

另一方面,除了在用户侧采取有效的安全防护措施,解决大模型安全问题需要大模型企业重新审视大模型系统安全,从基础设施、行为逻辑、资源管理等多维度入手,以全局视角构建覆盖全流程的动态防护体系,守好大模型安全第一道防线。

针对大模型系统安全问题,360智鉴深度融合红蓝对抗思路和大模型自身技术优势,为企业提供一套全链路、多场景、易扩展的大模型安全检测系统。主要功能涵盖模型服务组件识别、生态链漏洞扫描、多语言代码审计以及大模型合规检测等,覆盖大模型全生命周期。

360智鉴支持近百个组件的400+公开漏洞检测,覆盖RAG、Agent、prompt等场景的安全性分析,能够帮助企业在大模型上线前进行全方位的安全评估,保障大模型系统的可靠性与业务稳定性。

目前,360大模型安全解决方案已在政务、税务、医疗等垂直行业落地应用,帮助企业构筑大模型时代的安全防线,守护千行百业智能化转型。

 

本文由安全客原创发布

转载,请参考转载声明,注明出处: https://www.anquanke.com/post/id/305090

安全KER - 有思想的安全新媒体

分享到:微信
+12赞
收藏
安全客
分享到:微信

发表评论

Copyright © 北京奇虎科技有限公司 三六零数字安全科技集团有限公司 安全KER All Rights Reserved 京ICP备08010314号-66