OpenAI 正通过大幅增加漏洞赏金计划的奖金数额以及推出新的人工智能安全研究资助项目，来优先保障安全。了解一下他们是如何与研究人员和专家合作，保护其人工智能平台免受新出现的威胁的。
在其最新的博客文章中，OpenAI 公布了一系列新的网络安全举措，这标志着其朝着通用人工智能（AGI）迈出了大胆的一步。这一战略举措的一个关键要素是，大幅提高其漏洞赏金计划所提供的最高奖励金额，如今，对于重大安全漏洞发现的奖励已高达 10 万美元。
据HackRead.com此前报道，OpenAI 于 2023 年 4 月与 Bugcrowd 合作启动了其漏洞赏金计划。该计划最初的重点是找出 ChatGPT 人工智能聊天机器人的缺陷，以增强其安全性和可靠性，奖励从低严重性漏洞发现的 200 美元起步，对于特别突出的发现可高达 2 万美元。
如今，OpenAI 已确认该计划正在进行重大改革，最高奖金从 2 万美元提高到了 10 万美元，而且该计划的范围也大幅扩大。OpenAI 表示，这一举措反映了其致力于确保用户对其系统的信任。
该公司在公告中指出：“这一奖金提升体现了我们致力于奖励有意义、高影响力的安全研究，这些研究有助于我们保护用户，并维护用户对我们系统的信任。”
为了进一步激励人们参与，OpenAI 推出了限时奖金促销活动，首个活动聚焦于 IDOR 访问控制漏洞。此次促销活动从 2025 年 3 月 26 日持续至 4 月 30 日，同时也提高了针对这类漏洞的基础赏金范围。
该公司还计划扩大其网络安全资助项目，该项目已经为 28 个专注于攻防安全策略的研究项目提供了资金支持。这些项目探索了诸如自主网络安全防御、安全代码生成以及提示注入等领域。目前，该资助项目正在征集针对五个新研究领域的提案，分别是：软件补丁、模型隐私、检测与响应、安全集成以及具自主性人工智能的安全问题。
OpenAI 还将以应用程序编程接口（API）积分的形式发放小额资助，以促进创新性网络安全想法的快速原型开发。此外，它计划开展开源安全研究，与来自学术机构、政府部门以及商业实验室的专家合作，找出开源软件代码中的漏洞。
这一转变旨在提升 OpenAI 的人工智能模型发现和修复安全漏洞的能力。该公司计划在发现漏洞时，向相关的开源项目方发布安全漏洞披露信息。
此外，OpenAI 正在将其自身的人工智能模型整合到其安全基础设施中，以加强对实时威胁的检测和响应能力。为了强化其防御能力，该公司与网络安全公司 SpecterOps 建立了新的红队合作关系。此次合作将涉及对 OpenAI 的基础设施（包括公司内部环境、云环境以及生产环境）进行高强度的模拟攻击。
随着 OpenAI 的用户群体不断扩大，如今其每周活跃用户已超过 4 亿，该公司认识到自己在保护用户数据和系统方面的责任日益重大。在专注于开发先进的人工智能体的同时，该公司也在应对与这些技术相关的独特安全挑战。这包括抵御提示注入攻击、实施先进的访问控制措施、进行全面的安全监控以及采用加密保护手段，从而进一步巩固了他们打造安全可靠人工智能的决心。
发表评论
您还未登录，请先登录。
登录