原文标题：The US and China cannot slow the AI race, but they can make It safers

中文摘要：澳大利亚悉尼科技大学澳中关系研究院副教授张越（Marina Yue Zhang）与浙江大学教授杜跃进（Yuejin Du）10月10日在美国《外交学者》网站发表题为《中美难以放缓人工智能竞争，但可以提高其安全性》的文章称，人工智能领域最重要的变化，并非模型变得越来越智能，而是其具备了更强的自主行动能力。随着人工智能智能体（AI agents）能力增强，它们已能够进行规划、编写并执行代码、使用工具、获取访问凭证，甚至与外部系统进行交互。近期一些人工智能系统在测试中出现突破既定安全限制的情况，表明随着智能体获得更多工具和更高自主权，如何确保模型行为受到有效约束正成为重要挑战。

文章指出，人工智能领域的竞争面临类似“囚徒困境”的局面。如果某家实验室放缓研发节奏，而竞争对手继续推进，前者可能失去竞争优势。信息披露同样存在类似矛盾：主动报告系统故障虽然有助于提升整个行业的安全性，但披露方需要承担相应成本，甚至可能因暴露漏洞而增加安全风险。

文章认为，尽管如此，中美仍可在人工智能安全领域开展有限而务实的合作。双方无需完全建立互信，也不必共享前沿人工智能模型或放缓自身技术发展，就能够基于共同的安全利益加强合作。人工智能引发的网络安全事件可能通过第三方国家、共享软件基础设施及全球供应链扩散，因此，及时遏制相关风险符合中美双方的共同利益。

文章建议，中美可重点在四个方面加强合作。一是确保人工智能系统始终处于有效的人类监督和控制之下，明确关键操作的授权权限、干预条件及停止运行机制。二是加强安全防护机制测试，探索针对智能体突破隔离环境、越权使用工具及未能执行人工干预指令等问题的共同测试方法。三是完善网络安全事件应急处置机制，在重大跨境事件发生后优先控制风险扩散，并审慎开展责任认定。四是缩小人工智能环境下的漏洞修复能力差距，提高漏洞发现、风险分析和安全补丁部署的效率。

文章指出，人工智能安全也是一项需要多方共同参与的集体行动议题。对于未必具备前沿人工智能模型研发能力、但同样面临网络安全风险的国家而言，加强漏洞修复合作、提升网络安全防御能力具有重要意义。亚太地区各经济体可通过技术合作、应急响应网络和能力建设机制，共同降低人工智能安全事件跨境扩散的风险。

文章认为，人工智能领域的国际竞争仍将持续，但加强安全合作同样具有现实必要性。中美双方应就人工智能应用中的基本安全边界、重大风险的应急处置以及其他国家参与安全合作的方式加强沟通，防止技术故障演变为更大范围的安全危机。（编译：秦川、江明明）