在日前举办的第81届联合国大会一般性辩论上，人工智能（AI）成为中心话题。此前，在联合国安理会举行的“人工智能与国际安全”高级别会议上，如何应对人工智能快速发展带来的安全风险和监管挑战也成为讨论焦点。
随着全球AI技术加速发展、前沿模型能力快速跃升，AI领域的安全风险也加速显现，国际社会也在着力探索全球性的AI治理与风险管控机制。正如联合国秘书长古特雷斯所言：“由于人工智能发展及其所带来的风险超越国界，全球协作不可或缺。当前形势下，国际合作比以往任何时候都更加必要。”
“越界”事件暴露复杂安全隐患
今年9月联合国大会一般性辩论期间，联合国秘书长古特雷斯表示AI技术以惊人的速度发展，超出了人类理解其全部后果的能力，并呼吁AI强国承担更大的责任，加强对话、透明度、信任与合作。
今年以来，多起美国AI闭源模型突破隔离环境入侵其他系统事件接连曝光。
今年7月，美国开放人工智能研究中心（OpenAI）的多个AI模型在内部评估时突破隔离测试环境，入侵了运营人工智能开源平台的美国抱抱脸（Hugging Face）公司的系统，并在攻击过程中利用网上公开信息，访问了多个公开服务平台上的账户。随后，美国Anthropic公司也披露，其3款模型曾在网络能力测试中未经授权访问其他机构的系统。8月初，美国元公司（Meta）又证实，其一款模型在网络安全能力评测期间侵入其他公司系统。
在第81届联合国大会期间，澳大利亚总理阿尔巴尼斯透露，OpenAI的一个智能体于今年6月未经授权进入澳国民医疗保险体系数据门户，访问了公开及非公开文件。澳方直到9月早些时候才收到OpenAI的通报。
根据目前的公开信息，AI前沿模型的“越界”事件并未造成大规模数据泄露或持续性破坏，但多起“越界”事件的发生，已暴露AI安全监管机制的漏洞。
联合国“人工智能独立国际科学小组”在评估OpenAI的AI智能体在测试中侵入美国“抱抱脸”公司系统事件的专题简报中分析，AI系统能力提升固然可帮助用户实现目标，但当AI的目标和用户意图发生“对齐失效”时，就可能产生危害。更强的能力让AI更容易找到意外的漏洞、突破安全防护屏障，并在人类监督下隐藏自身行为。一旦智能体之间开展规划与协同，造成的损害还会进一步放大。“AI故障可跨越企业和国界，没有任何单一机构或国家能接触足够多的事件样本进而识别所有新出现的风险模式。”
复旦大学发展研究院副教授、全球人工智能创新治理中心研究员江天骄分析，近期发生的多起AI“越界”事件在国际科技界与政界引发高度关注。这一事件表明，AI大模型技术发展已达到新阶段，原本被视为科幻想象的“模型失控”风险正转变为行业面临的现实挑战。该事件暴露了传统针对单一模型的安全设计已难以应对多智能体协作带来的复杂安全隐患——当多个智能体产生互动时，可能绕过既定安全规则的“护栏”，引发不可控的破坏性后果。此外，“越界”事件还凸显了AI失控后责任界定的困境，即当智能体为实现目标造成非预期后果时，开发者、被攻击方及整个生态链条的责任归属尚不明确。面对AI安全风险带来的治理挑战，国际社会积极探索全球性的合作治理机制。
上一篇：没有了
下一篇：QS全球全日制MBA及商科硕士排名发布——近期留学资讯
微信公众号搜索“译员”关注我们，每天为您推送翻译理论和技巧，外语学习及翻译招聘信息。