作者简介:

葛坚 中国信息通信研究院技术与标准研究所高级工程师,主要从事智算网络、通信核心网相关研究工作

牛晓燕 中国信息通信研究院安全研究所工程师,主要从事AI赋能通信大数据平台等研究工作

黄雍涛 中国信息通信研究院安全研究所工程师,主要从事AI赋能通信大数据平台等研究工作

摘要：

近年来,人工智能(Artificial Intelligence,AI)模型的规模不断扩大,训练与推理过程的能耗问题日益突出,推动了低碳AI研究的兴起。系统梳理了大模型绿色计算的关键技术,重点分析了低碳训练与推理优化方法。在训练阶段,现有研究主要从模型架构优化、计算精度调整、资源调度策略等方面降低能耗,包括神经网络架构搜索、混合精度计算及分布式训练等方法。在推理阶段,优化策略则侧重于模型剪枝、量化技术、边缘计算、缓存复用等技术,以减少计算成本与碳排放。此外,归纳了低碳AI面临的挑战,如计算硬件能效瓶颈、碳足迹量化方法的不确定性以及数据中心绿色能源利用的限制,并探讨了未来的发展趋势。

低碳AI_大模型的绿色训练与推理优化方法研究.pdf