ChatGPT耗电状况大揭秘,OpenAI执行长奥特曼除畅谈对未来AI能力的想像,也罕见公开ChatGPT每次查询的能耗数据,他指出,平均查询一次仅需花费0.34瓦时电力,约等于一个烤箱一秒钟、或节能灯泡数分钟的耗电量。
奥特曼也说,随着数据中心生产自动化提升,AI智能成本最终应趋近于电力成本。他也认为,虽然单次查询能耗不高,但若AI应用无所不在,整体能耗仍将成为未来社会需面对的重要课题。
AI为产业发展带来无穷想像空间,也推升源源不绝的电力需求,若从机柜来看,传统服务器机柜耗电量约4kW,等同一个家庭住宅的用电功率,而AI服务器机柜耗电量达到80kW,是传统服务器的20倍,未来若出现算力更强大的AI芯片,耗电量甚至可能持续往上,AI因此被形容为“吃电怪兽”。
业界人士指出,过往单一服务器气冷散热能解的热,顶多是千瓦以下,如今随着下一代AI芯片瓦数日益攀升,破千瓦的功耗已是“基本消费”。