标准回答
成本来源
大模型的环境成本主要来自电力消耗与相应碳排放，以及数据中心冷却用水。
- 训练阶段：预训练需成千上万张 GPU 连续运行数周至数月，是一次性但高度集中的能耗高峰。
- 推理阶段：单次请求能耗不大，但部署后服务海量用户、长期持续运行，累积能耗常常超过训练本身——这一点容易被忽视。
碳排放高低还取决于电网清洁度（用煤电还是可再生能源差异巨大）。
如何缓解
模型侧（提升效率）：
基础设施侧（绿色算力）：
- 用可再生能源供电、提升数据中心能效（PUE）、按清洁能源可用性调度负载。详见 AI 算力与能源。
理性看待：应客观量化而非情绪化——衡量「每次有用推理的能耗」，并与其带来的社会效益做权衡。
常见误区
⚠️ 常见踩坑
别只盯着「训练一次耗多少电」就下结论——对大规模部署的模型，长期推理的累积能耗往往才是大头。也不要把能耗直接等同于碳排放：同样耗电，用可再生能源供电与用煤电的碳足迹相差极大。
追问
追问 1：为什么说推理能耗可能比训练能耗更值得关注？
训练是一次性事件，而推理是持续的：一个被广泛使用的模型每天处理数十亿次请求，长期累积下来的总电量与碳排往往超过一次预训练。因此优化推理效率（蒸馏、量化、批处理、缓存）对降低整体环境成本通常更有杠杆。
追问 2：哪些技术手段能在不大幅牺牲性能的前提下降低能耗？
追问 3：除了算法效率，基础设施层面还能做什么？
把数据中心建在可再生能源充足的地区或直接采购绿电；提升数据中心能效（降低 PUE）、采用液冷减少冷却开销；按清洁能源可用性和电网负荷做时空调度（碳感知调度），把训练任务安排在低碳时段，从而降低单位算力的碳排放。
延伸学习
与本题相关的知识库文章、术语、工具与行业资讯。