上海共识由辛顿、姚期智等20多位AI领域专家联合签署,指出人工智能已接近甚至超越人类智能水平,存在失控风险。共识呼吁国际社会确立具体、可操作的AI行为红线,确保AI安全可控。共识提出三项关键行动:全面安全评估、加强国际合作划定全球性红线、投资“基于设计的安全”研究。专家强调,AI安全应从被动防御转向主动构建,推动“善”与“智”共同演进,并建立国际协调机制落实监管与技术标准。