🔌
AI 为什么开始「抢电」
算到最后,拼的是有多少电、能散多少热。
先给结论AI 的尽头不只有算法,还有电站和冷却塔。
先说清楚
数据中心是耗电大户,模型规模与调用量上去了,电力供应和散热能力就成了扩张的硬约束。
数据中心是耗电大户,模型规模与调用量上去了,电力供应和散热能力就成了扩张的硬约束。
- 芯片在算,电就在走,最后几乎都变成热
- 散热、供配电和场地,常常比买卡更难解决
- 所以数据中心选址会靠近电力充足、气候合适的地方
- 绿色算力、余热回收因此成了热门方向
- 推理量随用户增长,电费会直接反映到服务定价
- 下次聊 AI,可以顺带问一句:电从哪来
再补一句
看不见的基础设施,常常决定了看得见的体验。
看不见的基础设施,常常决定了看得见的体验。
一句话小结
AI 的尽头不只有算法,还有电站和冷却塔。
AI 的尽头不只有算法,还有电站和冷却塔。