据新华社报道，9月23日，联合国安理会专门讨论“人工智能与国际安全”。OpenAI、Anthropic等企业负责人进入安理会现场，他们不再讨论AI还能写出多漂亮的文章、生成多逼真的视频，而是考虑另一个越来越现实的问题：当人工智能开始进入战争，人类应该怎么办？联合国将此次会议的重点概括为先进人工智能带来的安全风险、治理挑战和国际合作。

据澎湃新闻报道，两周前，某公司公布了一份威胁情报报告。报告披露，该公司发现中东一个处于长期动荡区域的神秘研发团队正在使用Claude研发包括制导火箭、远程弹道导弹、高超声速滑翔飞行器等武器系统。这是一个仅有几个人的团队，能够同时调用多个AI Agent：一个写代码，一个查资料，一个审查前一个AI写出来的代码，再完成制导、导航、飞控、参数调试和仿真。Anthropic形容，他们实际上在用Claude替代人类软件工程师。

这个武器研发小组的出现以及他们使用AI的方式，标志着人类正在面临一种新形态的威胁：人工智能正在把过去只有国家、大型军工机构和专业工程团队才拥有的极为稀缺的军事装备研发能力，赋予了人数极小的武装组织。

过去，一个武装团体可以很容易买到枪，也可以买到商业无人机，但要独立研发远程精确制导武器，不要说门槛摸不着，就是门槛在哪儿都不知道。除了发动机、材料、芯片和生产设备，还需要空气动力学、导航、控制、软件、电子工程等大量专业人才。这些人才必须经过多年训练，再被组织成一个完整的工程体系。

虽然，上述报道的权威性尚待证实，但是，人工智能技术的出现，的确让战争的门槛在降低，让战争的风险在增大，因为人工智能正在压缩现代军工体系中最昂贵的一项成本——知识和人才。一支只有几十个人的技术队伍，如果能够随时调用世界一流水平的程序员、资料分析员和工程顾问，战争的力量对比就将面临彻底的颠覆。AI可以帮助推动高水平装备的研发，可以写代码、做仿真、分析失败原因，甚至把原本需要几十名专业人员参与的工程工作压缩到少数几个人身上。理论上，一个人可以组成一人公司OPC，也可能通过AI agent赋予的能力，组成“一人武装组织”，这可能才是AI对人类安全最危险的改变。

技术的扩散是人类无法阻挡的。枪炮扩散过，导弹技术扩散过，无人机也正在迅速扩散。国际社会曾经耗费巨大的努力来阻止核武器的扩散，并为此影响到国际政治格局。而AI带来的变化会更加麻烦，因为它传播的不是一件武器，而是“制造、改进和使用武器的能力”。

一枚导弹可以被拦截，一批零件可以被海关查扣，一名工程师也可以被追踪。但一套已经下载到本地的模型、一段程序、一个离线仿真工具，很难重新收回来。

面对AI治理的话题，国际社会过去更多讨论隐私、版权、虚假信息、就业冲击，这些当然重要。但今天还必须增加一个更加现实的维度：怎样防止先进人工智能大规模赋能恐怖组织、极端势力、跨国犯罪集团和其他非国家武装力量。

中国在这次安理会会议上的表态，正好回应了这一变化。中国常驻联合国代表傅聪提出，要强化风险意识、确保安全可控，完善监管、应急响应和跨国协作机制，明确提出“坚决打击恐怖组织、极端势力和跨国犯罪集团恶用滥用人工智能”。对于军事应用，中方主张谨慎负责，避免战略误判和军备竞赛，并强调“确保人类始终掌握最终决策权”。与此同时，中方继续主张尊重数字主权、鼓励开源开放，反对借AI治理构建排他性“小圈子”和技术壁垒。

中方的态度说明，人工智能不能因为存在风险就被少数国家封闭起来，更不能把“安全”变成维持技术垄断的新理由；但开放也不意味着毫无边界。普通国家和平使用AI的权利需要保障，利用AI制造武器、实施恐怖活动、发动无差别攻击，则需要国际社会建立明确的共同底线。

人类一直担心有一天AI会自己决定杀人。现在看来，危险未必首先以这样的方式到来。更早发生的，是人类自己开始把AI接进战争机器，用它提高导弹的精度、无人机的自主性和武装团体的工程能力。机器没有能力决定是否发动战争。但它已经开始让越来越多的人拥有发动更复杂战争的能力。

对人类来说，AI能够做的最危险的事情之一，很可能正在发生。

（作者系浙大城市学院教授）