最近在张江和几位搞AI的朋友喝咖啡,聊得最多的不是模型参数,反而是电费账单。一个朋友指着窗外远处若隐若现的数据中心轮廓,半开玩笑地说,“侬晓得伐,现在训练大模型的成本,硬件折旧是一部分,真正‘吞金’的是电。特别是那些部署在边缘、靠近数据源的AI算力节点,比如户外基站里的推理服务器,光是保障它365天不断电的备用电源和散热系统,初始投入和运营开销就让人‘肉痛’。”