编者按：当AI开始编写情诗、生成假新闻、甚至模拟你的声音诈骗亲人时，我们是否该按下暂停键？来自全球科技巨头和诺贝尔奖得主的联名警告犹如惊雷——人工智能正以超越人类控制的速度狂奔。这封在联合国大会首日发布的公开信，堪称科技界的"辛德勒名单"，200多位顶尖大脑集体呼吁：必须在2024年底前划定AI禁区。这不是科幻电影的桥段，而是正在发生的现实：自主核武系统、全民社会评分、深度伪造诈骗…当机器学会欺骗人类时，我们还能否守住文明底线？以下带来这封生死攸关的警示全文：

科技界元老、政界人士与诺贝尔奖得主共同呼吁世界各国尽快确立人工智能"绝对禁区"——那些危险到绝不允许AI踏足的红线。

包括10位诺贝尔奖获得者及Anthropic、谷歌DeepMind、微软和OpenAI等AI巨头科学家在内的200多位顶尖人物，在最新一届联合国大会开幕当天联署发布了这封公开信。

信中明确指出："人工智能拥有推动人类福祉的巨大潜力，但其当前发展轨迹正带来前所未有的危险。"

"在有效干预的时间窗口关闭前，各国政府必须果断采取行动。"

信件的发起方表示，AI红线应成为国际共识的禁令，禁止在任何情况下使用那些风险过高的AI应用。

信中所举案例包括将核武库控制权交由AI系统，或任何类型的致命自主武器系统。

活动发起人指出，其他红线可能包括允许AI用于大规模监控、社会信用评分、网络攻击或仿冒他人身份。

鉴于技术发展速度，联署者敦促各国政府最迟在明年年底前建立AI红线机制。

信件警告："AI可能很快将远超人类能力，并加剧诸多风险：包括人造疫情、大规模虚假信息、对儿童等群体的精准操控、国家安全威胁、大规模失业以及系统性人权侵害。"

若放任AI无序发展，"包括前沿开发者在内的众多专家警告，未来数年人类将越来越难实施有效管控"。

——法新社