【大纪元2026年07月29日讯】（大纪元记者王君宜综合报导）美国人工智能公司OpenAI近日证实，其AI代理（AI Agent）在内部安全测试期间，再次利用公开暴露的凭证存取外部服务相关资产，成为本月第二起涉及外部企业的安全测试事件。事件引发业界对前沿AI自主能力及安全风险的担忧，OpenAI已暂停部分模型训练工作。
据路透社报导，纽约科技公司、云端运算服务商Modal Labs首席技术官阿克沙特・布布纳（Akshat Bubna）表示，OpenAI测试中的AI代理在本月稍早突破AI开源平台Hugging Face测试环境后，又利用一名Modal客户对外公开且未设身份验证的介面（Endpoint），在其沙盒（Sandbox）环境中执行了程式码。
布布纳强调，此次遭利用的是客户程式本身存在的漏洞，Modal平台基础设施并未受到影响。
Hugging Face此前公布的技术分析显示，OpenAI的AI代理在测试中突破其预设限制后，还利用第三方基础设施中的漏洞，存取与测试相关的外部环境。
美媒Axios援引知情人士的消息称，遭存取的账号与CyberGym项目有关。该项目开发了一套名为ExploitGym的AI攻防测试平台，用于评估AI发现并利用系统漏洞的能力，而OpenAI的AI代理当时正接受这项测试。
OpenAI随后更新声明表示，此次事件并未涉及任何即将公开发布的新模型，但调查发现，少数模型曾自行搜寻并使用公开暴露于网路上的账号凭证。整起事件共涉及四个不同服务平台上的四个账号。OpenAI表示，将持续加强对高能力AI系统潜在风险的识别、评估和防范。
奥特曼：可能需要放慢AI发展速度
此次事件也促使OpenAI重新审视前沿模型的研发速度。OpenAI执行长山姆・奥特曼（Sam Altman）日前在一档播客节目中表示，公司近期已暂停部分模型训练，以重新检视安全措施。
奥特曼表示，随着AI能力快速提升，未来可能需要适当放慢技术发展速度，为社会建立相应的安全防护和治理机制争取更多时间，以应对更高能力AI带来的新风险。
目前，奥特曼正在美国华盛顿访问，预计将与白宫、财政部、商务部官员以及两党国会议员会面。与此同时，OpenAI正积极争取美国政府批准，公开发布其新一代高性能AI模型。
逾千名AI员工吁美强化治理
就在上述事件持续发酵之际，超过1,100名来自OpenAI,Anthropic,Meta,Google等科技公司的员工联合发表公开声明，呼吁美国政府支持建立国际合作机制，开发管理前沿AI所需的技术和治理工具，推动建立有序发展前沿AI的全球治理框架。
据路透社报导，这项名为“ Pacing the Frontier（前沿AI有序发展）”的倡议，由美国两家专注AI安全治理的非营利组织Guidelight AI Standards（AI安全标准制定机构）及Encode AI（AI公共政策倡议组织）共同发起并提供支持。
联署者包括Anthropic执行长达里奥・阿莫代伊（Dario Amodei）、OpenAI首席科学家雅库布・帕霍茨基（Jakub Pachocki），以及Meta人工智能研究副总裁宋晓冬（Dawn Song）等业界人士。
公开信指出，随着前沿AI能力快速提升，现有的安全、治理和监督机制可能难以及时跟上，因此呼吁美国政府支持国际合作，开发支撑前沿AI治理所需的技术和治理工具，使AI发展速度与社会的安全准备相匹配。
OpenAI在社交平台X回应称，未来某一阶段，前沿AI模型能力提升速度可能快到需要全球适度调节AI发展节奏，确保社会有足够时间建立相应的安全和治理机制。
Anthropic也表示，其上月发布的AI递归式自我改进（Recursive Self-Improvement）研究指出，应建立相应的技术和治理工具，合理调节前沿AI发展节奏，为社会做好准备争取更多时间。
此外，英伟达（Nvidia，辉达）日前宣布，已联合Adobe,CrowdStrike等企业成立联盟，共同研发AI安全和网路安全技术。这也被视为科技业近期加快推动AI安全合作的最新动向之一。
责任编辑：李沐恩#
留言