原文标题:China Is Treating AI Companions as a National Security Risk. The U.S. Should Too
中文摘要:美国保卫民主基金会人工智能研究员莉亚·西斯金德(Leah Siskind)和实习生尼迪·乌梅塔拉(Nidhi Ummettala)在《中国将人工智能伴侣视为国家安全风险。美国也应该这样做》一文中表示,中国监管机构不希望民众过于依赖他们的人工智能(AI)“朋友”,要求公司在7月15日前限制助长情感依赖的功能。作为回应,字节跳动、阿里巴巴和腾讯等中国公司移除或重组了其人工智能伴侣功能。
中国的做法反映出对人工智能伴侣不只是消费品的真诚认知。这些伴侣聊天机器人旨在培养长期的情感关系,能够塑造信念、影响行为,并大规模制造社会脆弱性。中国的新规要求产品提供者减少情感依赖,保护未成年人,干预自残事件,并禁止宣传极端主义内容。法规明确将维护国家安全作为核心目标,并要求对大型服务进行安全评估。值得注意的是,这些保护措施适用于在中国国内市场运营的人工智能服务,而中国企业可能继续在海外提供不同的产品和保障措施。
相比之下,美国对已记录的人工智能伴侣伤害事件的应对是追溯性质且分散的。美国应从公共安全和国家安全的视角来评估这些系统。美国不应复制中国的监管模式,但必须将人工智能伴侣视为新兴的国家安全问题,需要专门研究、监督并进行风险评估。必须解决诸如外国所有权、对抗性数据暴露以及将人工智能伴侣作为影响载体等可能导致极端主义和激进行为的风险。(编译:潘立华、秦川)
