人工智能“超级智能”发展需暂停，直到安全得到保障 | JQJO

一份政治上包罗万象的名单——从哈里王子和梅根，到人工智能先驱约书亚·本吉奥和杰弗里·辛顿，再到评论员史蒂夫·班农和格伦·贝克——签署了一封30字的信，呼吁在就安全和强烈的公众支持达成广泛科学共识之前，禁止开发人工智能“超级智能”。这项由生命未来研究所发起的呼吁，旨在针对谷歌、OpenAI和Meta等公司，警告称经济权力旁落、公民自由丧失、国家安全风险甚至人类灭绝的风险。

马克斯·泰格马克表示，批评意见已经成为主流，尽管2023年类似的暂停呼吁被行业日益激烈的竞争所忽视。