专家建议美国在非技术问题上与中国就AI安全合作

©原创   2025-02-12 17:33   兰德公司

原文标题:How Might the United States Engage with China on AI Security Without Diffusing Technology? 

中文摘要:兰德公司(美国)技术和安全政策研究员Karson Elmgren在《美国如何在不扩散技术的情况下与中国就人工智能安全进行接触?》一文中表示,鉴于人工智能带来的跨国风险,无论人工智能系统在哪里开发和部署,它们的安全都是美国关注的问题。由于中国开发和部署一些世界上最先进的人工智能系统,因此与中国接触尤为重要。

然而,美国在与中国接触时须谨慎行事。为此,较为安全的做法可能是避免在技术问题上进行合作,而将重点放在风险管理协议或事件报告等主题上。

美国人工智能安全研究所(AISI)是一个新的政府机构,致力于推广有关人工智能安全的科学和技术。该研究所正在推行一项战略,其中包括创建一个由类似机构组成的全球网络,以确保人工智能安全最佳实践在全球范围内得到最大程度的采用。

中国目前尚缺乏一个像美国人工智能安全研究所这样的官方的、全国性的人工智能安全实体。对于可能寻求与中国同行接触的美国政策制定者来说,不必将此视为一种挑战。中国的一些机构已经在做类似工作,在某些情况下,它们的主要工作人员甚至表达了对共同面临的全球规模风险的担忧,并支持通过国际合作来应对这些风险。与这些机构接触,在慎重选择主题的情况下,可能是促进美国利益和全球安全的审慎步骤。

美国甚至可以从中国在非技术安全措施方面的经验中受益。例如,中国现有的人工智能系统法规要求提供某种形式的事件报告。事件报告是一种风险管理工具,在美国政策界也被讨论过,但人工智能治理的最佳实施方式并不明显。从中国报告制度的实践经验中吸取教训可能有助于美国此类制度的设计。(编译:潘立华、秦川)

相关阅读