新智库:人工智能时代的生物安全

©原创   2025-05-16 11:18   南洋理工拉惹勒南国际研究院

原文标题:Biosecurity in the Age of AI: Risks and Opportunities

中文摘要:南洋理工拉惹勒南国际研究院(新加坡)研究员Julius Cesar Trajano等在《人工智能时代的生物安全:风险与机遇》一文中表示,随着人工智能驱动的生物技术的出现,生物安全形势变得更加复杂。生物技术与人工智能的结合会增强生物安全,但一旦出现滥用情况,这种结合也会加剧生物风险。因此,人们需要保持警惕,确保科学技术的快速进步能够造福社会,而不是威胁和平与国际安全。

文章指出,危险分子可能利用人工智能与生物技术开发生物武器。生物技术的快速发展,以及与人工智能的互动给《禁止生物武器公约》带来了挑战。在缺乏“政策护栏”和监管的情况下,人工智能驱动的生物工程设计工具(BDT)正让复杂的生物工程知识变得更容易获取。这对那些受过有限正规科学培训的危险分子也同样适用。人工智能驱动的BDT的快速发展也带来了严重的滥用风险,使其更容易被用于设计和合成危险的病原体,这些病原体能够在人群中传播并造成严重的健康损害。

文章建议,为基于人工智能的双重用途生物技术建立包含保障措施和风险降低措施的“政策护栏”,对于促进负责任的创新至关重要。由于国际社会尚未针对人工智能和生物技术制定防护措施,加强政府、人工智能开发者及生物安全专家之间的合作对于防范潜在风险和确定适当的防护措施至关重要。(编译:秦川、江明明)

相关阅读