“以模制模”!360大模型安全解决方案获权威机构推荐

阅读量34994

发布时间 : 2025-02-17 11:27:36

近日,全球领先的IT市场研究和咨询公司IDC发布《大模型安全检测与防护解决方案品牌推荐与洞察》(Doc#CHC52780924,2024年12月)报告,以对国内安全领域头部企业进行的调研结果为基础,介绍大模型环境下安全检测与防护解决方案应用情况并给出推荐品牌。经过调研,360大模型安全解决方案在安全检测和防护两大维度下众多应用场景中获得IDC推荐。

近年来,大模型如雨后春笋般涌现,为生成式人工智能技术的落地实践带来了巨大的推动力。IDC指出,从安全视角出发,无论是何种使用场景,大模型或GenAI的使用都为最终用户带来新的安全风险。

越来越多的网络安全公司和大模型公司将关注重点放在大模型或GenAI工具的安全能力检测以及安全防护的方向上,推出了一系列解决方案,这对于人工智能技术在企业侧的深入应用具有重大意义。

根据IDC的调研,当前大模型安全检测与防护解决方案包含了大模型攻防检测、输入内容安全检测、生成内容安全检测、代码安全检测、模型训练与防护、数据保护、访问控制与API防护几个大的方面,360大模型安全检测与防护解决方案在以上几个方面的众多应用场景中获得推荐结论。

作为国内唯一兼具数字安全和人工智能双重能力的企业,360很早就开始关注大模型安全风险,提出“安全、向善、可信、可控”的四大原则,并推出一系列有针对性的创新技术,发布国内首个安全大模型,通过“以模制模”理念,利用AI大模型来检测和防范大模型可能出现的安全风险,既解决传统网络安全问题,又为攻克AI安全新挑战提供可行性方案。

此前,基于360安全大模型自动化代码分析能力,360对多个开源项目进行代码梳理和风险评估,最终审计并发现了近40个大模型相关安全漏洞,影响范围覆盖llama.cpp、Dify等知名模型服务框架,以及Intel等国际厂商开发的多款开源产品,全面呈现了全球大模型发展所面对的安全威胁态势。

除360安全大模型外,360还推出多款具有重要行业价值的企业级应用新产品,全面覆盖了大模型系统安全、内容安全、智能知识管理与情报分析等关键领域,通过技术创新与生态建设,持续为大模型安全及行业发展注入新动能。

 

本文由安全客原创发布

转载,请参考转载声明,注明出处: https://www.anquanke.com/post/id/304393

安全KER - 有思想的安全新媒体

分享到:微信
+10赞
收藏
安全客
分享到:微信

发表评论

Copyright © 北京奇虎科技有限公司 三六零数字安全科技集团有限公司 安全KER All Rights Reserved 京ICP备08010314号-66