原文标题:Tackling the Existential Threats from Artificial Intelligence
中文摘要:兰德公司(美国)高级数学家Carter C. Price和高级国防研究员Michelle Woods在《应对人工智能带来的生存威胁》一文中表示,应对人工智能带来的潜在风险可以从简单的举措开始,比如找到适当的风险管理方法,进行研究以确定人工智能如何更好地满足设计师的意图,以及设计应对人工智能系统中与种族主义、性别歧视和其他偏见相关的问题。虽然人们一直在努力列举人工智能风险,但可以将它们简单分类为人工智能会加剧的现有风险,比如恐怖分子利用人工智能开发更致命的生物武器,以及人工智能特有的新风险,比如人工智能选择消灭人类作为应对气候变化的最佳解决方案。
用于解决现有威胁的风险管理办法很可能需要进行修改,以将人工智能可能提供的不可预见的能力考虑进来。但人工智能带来的新风险目前仍不明朗,无法通过政策充分解决,因此研究人员和开发人员需要发挥带头作用。但是,对于现有的和新的案例,都可以采取措施为这些风险做好准备,人工智能可以得到安全部署。(编译:江明明、秦川)
