超三千名顶级大佬齐呼吁：暂停超级智能研发 没有坚实证据确保安全

这项倡议由非营利组织“未来生命研究所”发起，目前已获多位重量级人士签名支持，包括人工智能先驱杰弗里·辛顿、苹果联合创始人史蒂夫·沃兹尼亚克、维珍集团董事长理查·布兰森、经济学家达龙·阿西莫格鲁，以及前美国国家安全顾问苏珊·赖斯。此外，哈里王子与夫人梅根、前政治顾问史蒂夫·班农等公众人物也参与联署。

截至10月23日中午，联署人数已达3193人。中国学界亦有重要代表加入，包括中国科学院院士、图灵奖得主姚期智，清华大学讲席教授张亚勤，以及清华大学苏世民书院院长薛澜等。

中国科学院计算技术研究所研究员曾毅指出，目前绝大多数企业所研发的仍属通用人工智能工具，并非真正意义上的超级智能。然而，超级智能所带来的风险目前在科学上仍无法有效控制。他特别提到，美国企业如Meta设立超级智能实验室，以及阿里巴巴等中国公司公开宣称研发超级智能，这些动向已超出通用人工智能工具的范畴，值得高度关注。

所谓“超级智能”，指的是在所有认知任务上超越人类水平的人工智能形态。尽管目前大多数公司所研发的仍属于通用人工智能（AGI），但“超级智能”所预示的能力已引发业界普遍忧虑。