AI安全“破冰”：北京会议上，中美学者警告共同风险

🚀 如果你以为大国在AI上的竞争只有封锁和对抗，那么上周中关村的一场会议，可能提供了一个不同的视角。 在被称为“中国硅谷”的海淀，由北京智源人工智能研究院主办的这场AI盛会上，一群顶尖大脑在讨论一个棘手的问题：如果AI发展得太快太鲁莽，美国和中国可能会双双失利。 这不是一次公开的官方谈判，但弥漫在空气中的共识，或许比任何双边草案都更值得关注。麻省理工学院的计算机科学家Stephen Casper在会后坦言：“AI是一项全球性的技术，它带来的是全球性的好处，也是全球性的损害。新的能力，总会无可避免地扩散出去。” 他把眼下的局势，比作当年美苏在冷战时期被迫坐下来谈核武器危险的那种状态。尽管那时候，双方都还在拼命搞军备竞赛。Casper的话说得很直接：“AI不需要一个切尔诺贝利时刻”。 🤖 之所以能有这种氛围，是因为会议涵盖的议题太“硬”了。从模型的递归式自我改进，到人形机器人，再到一天长度的网络安全闭门讨论——会上指出了几个非常具体的麻烦：AI生成的代码里藏着新漏洞、高度自主的智能体正在创造新的攻击路径，以及高度自动化的社会工程学攻击。 上海交通大学的教授林云跟我描绘了这样一种攻防态势：短期内，黑客可能会因为这些新工具而占据上风；但把时间拉长，更先进的AI反制措施，可能会让防御端重新站稳脚跟。 💡 这就回到了那个核心窘境：到底该开放，还是该封闭？美国方面已经咬得很紧，不仅严格封锁芯片和制造设备，最近政府甚至下令要求Anthropic不允许外国国民接触其极强的模型。结果就是，Anthropic索性一刀切，把所有人的访问权限一起关了。而另一边，开源权重的模型，特别是来自中国的模型，又实实在在地在美国的研究和创新圈里跑得飞快，很受欢迎。 林云觉得，破局的关键在于划定边界：“关键是找到那些能够降低系统性风险，但又不会暴露敏感操作细节的领域。”如果不同国家能用相近的方式去理解风险，那么制定出共享的安全原则和技术标准就会容易得多。 虽然会议设施有些“原生态”——比如演讲者得用视频连线的方式做报告，但台下坐着的人却分量十足。这里有公钥密码学之父Whitfield Diffie，也有刚拿下图灵奖的强化学习先驱Andrew Barto。这种跨越地域的学术星光，本身就在无声地说明很多技术挑战的共通性。

EntAI观察

当前中美之间关于AI安全的学术互动，更像是暴风雨中悄悄推开的半扇窗户。这并不意味着科技脱钩会立刻停下来，但它反映出一种具有相当分量的认知：在某些最糟糕的系统性风险面前，单纯的隔离解决不了问题。Casper甚至引用研究指出，跨国界合作应对AI危险所获得的好处，可能超过了合作本身带来的国家安全风险。 这或许说明，即便在最紧绷的赛道，沟通的管道依然被视作必需品，而不是奢侈品。