呼吁给AI确立行为红线

7 月 25 日，由杰弗里・辛顿、姚期智等 20 余位行业专家、学者共同签署的 “上海共识” 正式公开。该共识指出，人类正处于关键转折点，人工智能系统可能超越人类智能水平，或在操作者不知情时执行非预期行动，带来失控风险，且目前对高级通用人工智能缺乏有效控制方法。

为此，“上海共识” 提出三项关键行动：要求开发者在模型部署前进行全面检查、评估、测试，并说明潜在风险；呼吁国际社会合作划定 AI 开发不可逾越的红线，建立协调机构落实；强调短期内建立监管机制应对 AI 欺骗等问题，长期构建 “基于设计的安全” 架构 。

参与签署的部分中外科学家 来源：IDAIS官网