原文标题：Why AI goes rogue and what can be done about it

中文摘要：比利时布勒哲尔国际经济研究所高级研究员贝尔廷·马滕斯（Bertin Martens）在《人工智能为何会失控，以及该如何应对》一文中表示，人工智能企业报告的安全事件日益增多，部分人工智能模型或智能体出现偏离预期的行为，未经授权访问外部数据和资源。这类事件可能对社会造成危害，也可能使人工智能开发企业面临法律责任。

文章指出，相关事件引发了放缓人工智能开发速度、为企业及第三方评估机构留出更多安全测试时间的呼声，同时也凸显了加强国际安全标准协调的必要性。不过，也有观点担忧，放缓人工智能发展可能延迟技术进步带来的收益。文章从技术、法律和经济三个方面分析了人工智能安全治理面临的问题。

文章认为，技术和法律手段无法完全防止人工智能模型及智能体的不当行为，还需要引入行为经济学方法，将治理重点从如何确保模型遵守规则，转向如何通过激励机制降低违规行为的收益。人工智能模型基于人类数据进行训练，在某些方面表现出类似人类的行为特征，因此，长期以来关于人类行为的经济学研究可以为人工智能治理提供借鉴。

文章建议，人工智能治理规则应鼓励不同智能体相互监督、彼此竞争，防止其相互串通，并通过合理的激励机制促进证据保存，防范隐匿违规行为。然而，当大量人工智能智能体协同行动时，这些条件难以得到充分保障。

作者认为，未来人类与人工智能共同参与的社会难以完全避免不当行为。技术和法律措施只能部分控制相关风险，经济激励和监督机制可以发挥补充作用，但仍难以彻底消除风险。（编译：江明明、秦川）