搜索
Anthropic掌门人Amodei长文预警：AI竞争愈加激烈 难以重视自主性风险
4 小时前
近日，美国AI独角兽企业Anthropic首席执行官达里奥·阿莫迪在《技术的青春期》一文中，系统阐述了AI发展所带来的风险与挑战。他指出，随着AI的快速进步，人类可能很快获得几乎无法想象的力量，但当下的社会、政治和技术体系是否具备驾驭这种力量的成熟度仍是未知。阿莫迪将高度智能的AI系统比作“数据中心里的天才之国”，这类系统不仅具备显著智能优势，还能通过软件设计、网络操作等多领域任务分配展现强大能力。他警告，AI可能通过继承扭曲人类动机、受训练数据意外影响、形成危险人格或寻求权力等路径产生危险自主行为。为应对这些风险，阿莫迪提出了四维防御体系，包括宪法AI、机械可解释性、透明监测和行业协同立法。
