OpenAI 宣布为美国军方开发网络安全技术

与 DAPRA 和五角大楼的合作必将在该公司的关键产品上留下印记。

被称为ChatGPT开发商的OpenAI近日在达沃斯世界经济论坛上宣布为美国军方开发网络安全技术，并加大对美国选举安全的工作力度。

该公告是 在公司政策发生变化之后发布的 ，该政策此前禁止生成式人工智能模型用于军事目的和创建恶意软件。这些限制现已从 OpenAI 的文件中消失，但该公司强调其技术仍不应用于暴力、破坏或通信间谍活动。

OpenAI全球事务副总裁Anna Makanju在论坛接受采访时 提到了 与五角大楼在开发开源网络安全软件方面的合作。

尽管取消了对 ChatGPT 军事和政治军事应用的限制，Makanju 确认继续禁止使用模型进行武器开发。与此同时，OpenAI 首席执行官 Sam Altman 还宣布了防止生成式 AI 工具被用来传播与选举相关的虚假信息的措施。

值得注意的是，此类声明是在 OpenAI 最大投资者微软做出类似努力的背景下做出的。11 月，雷德蒙德官员 宣布了 一项保护美国和其他国家选举的五步战略。

根据世界经济论坛的《2024 年全球风险》报告，“错误信息和虚假信息”是主要的短期全球风险。那里还进行了一项调查，结果显示，56% 的高管认为，生成式人工智能将在未来两年内让攻击者比 IT 防御者更具优势。

然而，我们有理由相信，网络安全领域的共同努力将有助于改善这一状况。开发先进人工智能技术的公司已经在采取具体措施来最大程度地减少潜在风险。通过所有利益相关者的充分响应，新的发展将有助于显著加强针对网络威胁和错误信息传播的保护。