国内超大型智能算力中心建设白皮书 2024：智算中心算力规划

**AI 集群的构建需要配置面向 AI 优化的高速存储。**通过配置高性能、高扩展、多层级的智能存储，为各种数据访问需求提供优化性能。智能存储具备随需扩展功能，实现高 IOPS 处理能力，支持 RDMA 技术，同时实现高聚合带宽。

4．AI 大模型

**超大规模智能模型，简称大模型，是近年兴起的一种新的人工智能计算范式。**和传统 AI 模型相比，大模型的训练使用了更多的数据，具有更好的泛化性，可以应用到更广泛的下游任务中。按照应用场景划分，AI 大模型主要包括语言大模型、视觉大模型和多模态大模型等。

**自然语言处理是首个应用大模型的领域，BERT 是大模型的早期代表。**随着大模型在自然语言的理解和生成领域成功应用，推动了语言大模型向更大的模型参数规模和更大训练数据规模的方向发展。当前，语言大模型的单体模型参数已经达到千亿级别，训练数据集规模也达到了 TB 级别，训练所需计算资源超过 1000PetaFlop/s-day（PD）。业界典型的自然语言大模型有 GPT-4、源、悟道和文心等。自然语言大模型已经广泛应用于个人知识管理、舆情检测、商业报告生成、金融反欺诈、智能客服、虚拟数字人等场景，同时也出现了一系列的创新应用场景，如剧本杀、反网络诈骗、公文写作等。

随着大模型技术在语言、视觉等多个领域的应用，融合多个模态的多模态大模型也逐渐成为了业界关注的重点。基于多模态大模型的以文生图，文生视频技术也迅速发展，代表性模型有 DALLE-2、Stable Diffusion 3 和 Sora 等。由于多模态大模型的快速发展，AI 内容生成（AI Generated Content，AIGC）已成为下一个 AI 发展的重点领域。

5．智算 OS

智算 OS，即智算中心操作系统，是以智算服务为对象，对智算中心基础设施资源池进行高效管理和智能调度的产品方案，可以使智算中心更好地对外提供算力、数据、算法、智件等服务，有效降低算力使用门槛，提升资源调度效率，支撑各类智慧应用场景落地，是智算中心的'中枢神经'。

智算 OS 主要由三层架构构成，分别为基础设施层、平台服务层、业务系统层。基础设施层主要实现将异构算力、数据存储、框架模型等转化为有效的算力与服务资源，算力资源池能够聚合并进行标准化和细粒度切分，以满足上层不同类型智能应用对算力的多元化需求，并通过异构资源管理和调度技术，提升可同时支撑的智算业务规模。

智算 OS 以智算中心为载体，通过建设多元、开放的智算平台，融合国际、国内先进人工智能技术，形成标准化、模块化的模型、中间件及应用软件，以开放接口、模型库、算法包等方式向用户提供如行业大模型、自动驾驶、元宇宙、智慧科研等人工智能服务，促进人工智能技术成果的开放与共享，构建开放的智算生态。

二、技术路线

智算中心建设的关键技术涉及与其建设和应用相关的各类基建、硬件、软件，体现在智算中心算力基建化、算法基建化、服务智件化、设施绿色化过程中。

（一）以算力基建化为主体

**1．面向潜在算力需求，适度超前规模化部署算力资源数据量的爆炸式增长以及万亿参数大模型的出现，使智能算力需求呈现高速增长态势，并为算力基础设施带来巨大挑战。**在数据量方面，IDC 发布的《数据时代 2025》预测，到 2025 年，全球数据量将达到 175 ZB，而中国数据量的平均增速快于全球 3%，预计到 2025 年将增至 48.6 ZB，占全球数据圈的 27.8%。在模型方面，当前 1 万亿参数的单体模型需要 1EFLOPS 级算力（FP16）计算约 50 天，10 万亿参数的单体模型需要 10 EFLOPS 级算力（FP16）计算约 50 天。因此在智算中心的规划建设中，需要聚焦当前算力应用需求，同时面向未来数据量和大模型大参数量增长空间，适度超前，部署满足 AI 训练、AI 推理等大规模计算需求的强大 AI 算力机组，构建算力集群，提供大规模弹性算力。

**2．聚焦异构加速技术，提升高性能人工智能计算能力自 2012 年以来，人工智能训练任务所需求的算力每 3.43 个月就会翻倍，大大突破了传统以每 18 个月为周期实现芯片性能翻番的摩尔定律，这对人工智能计算架构的性能提出了更高的要求。**AI 芯片是生产算力环节的关键组件，为 AI 训练和 AI 推理输出强大、高效、易用的计算力。目前，AI 芯片主要包括 GPU、FPGA、ASIC、类脑芯片四大类，其中类脑芯片仍在探索阶段，因此多元异构芯片成为提升算力的关键手段。主流的人工智能计算架构是以 CPU+AI 芯片为主体的异构架构，通过将 CPU 与多种计算单元（如 GPU、FPGA、ASIC 等）集成，充分融合了 CPU 等传统的通用计算单元和高性能专用计算单元的优点，可以同时兼顾 AI 模型的高效训练和精准推理能力。异构架构具有高性能、高效率、低功耗等显著优点，使 AI 芯片在未来人工智能算法不断迭代更新的情况下，依旧能保持较好的兼容性和可扩展性，在一定程度上延长了 AI 芯片的生命周期。

**3．兼顾软硬一体协同，构建智算中心多元融合型架构人工智能计算场景和计算架构的多元化要求智算中心从硬件、软件、软硬协同等层面开展优化，提供弹性、可伸缩扩展的算力聚合能力，依据不同类型智能应用对算力的不同需求，提供更高效、更便捷的算力调度能力。**采用融合架构进行整体设计是智算中心的发展方向。具体而言，在硬件层面，通过硬件重构实现资源池化，结合新型超高速内外部互连技术、池化融合、异构存储介质等，推动多元异构智能算力设施的高速互联，形成高效池化的智算中心，实现多元计算资源高效协同；在软件层面，通过软件定义，将不同的资源池组成专业的服务器、存储、网络系统，实现重构硬件资源池的高效化、智能化管理，使智算中心的业务资源调度更为灵活、运维管理能力更强。在安全方面，智算中心可以依托隐私安全计算等技术，提供完善的隐私和数据保护解决方案，实现计算、存储、网络等多层级、全方位的资源隔离与安全防护。

（二）以算法基建化为引领

建设适度超前的算力基础设施，不仅体现在算力层面，也体现在算法层面，这是释放算力环节的关键。人工智能算法正面临着丰富化、专业化和巨量化的挑战，智算中心通过提供预置行业算法、构建预训练大模型、推进算法模型持续升级、提供专业化数据和算法服务，让更多的用户享受普适普惠的智能计算服务。

**1．面向千行百业发展需求，提供多类型预置行业算法 AI 落地面临开发成本、技术门槛高的难题，算法模型平均构建时间为 3 个月，同时算法还需要快速的迭代，再加上 AI 新算法、新理论层出不穷，行业用户的智慧转型存在着巨大的技术壁垒。**智算中心应围绕政务服务、智慧城市、智能制造、自动驾驶、语言智能等重点领域，在 AI 平台内预置实例分割、目标检测、边缘检测、图像分类、人脸识别、视频感知、自动问答、机器翻译、舆情分析、情感分析、语音识别、协同过滤、交通路线规划等常用行业算法模型，并从硬、软件对行业算法做性能优化，从而帮助各行各业智慧应用加速落地，推动行业智能化转型加速。

**2．面向模型即服务应用需求，构建大规模预训练 AI 模型在产业 AI 化和数实融合的背景下，当前的行业做法是针对每一个场景都做一个模型，即'有 1 万个场景就有 1 万个模型'。**然而随着以 BERT、GPT-3、DALL·E、源 1.0 等为代表的高泛化能力和高通用性的大模型的出现，一个模型可以覆盖众多场景。'预训练大模型 + 下游任务微调'的 AI 工程化模式已成为业内共识，层数、隐向量长度、前馈网络尺寸持续增长，参数规模迅速从亿级增长到百万亿级。

**3．面向可持续化发展需求，推进 AI 模型不断演进升级从感知机到深度神经网络，从全连接网络到模型剪枝、知识蒸馏、注意力机制，从有监督学习、无监督学习到强化学习、自监督学习，人工智能理论算法模型在持续深化发展中。**当前，人工智能算法正从单模态、有监督学习向多模态、自监督学习演进。自监督学习无需标注数据，可以直接从无标签数据中自行学习，极大降低了人工标注成本。

**4．面向算法高效调用需求，提供专业化开发部署支撑智算中心除了提供深度学习、强化学习等常见 A I 算法模型外，还应提供专业化基础支撑和开发部署服务能力，以支撑 AI 算法模型的便捷调用和部署。**为了满足算法模型对大规模高质量海量数据集的需求，智算中心应搭载海量数据清洗系统，提供全流程自动化数据处理系统，实现智能高效的数据处理和过滤。为了满足 AI 算法模型高效训练和使用的需求，智算中心在基础支撑层面应部署分布式训练框架、高性能推理框架，在开发部署层面应提供数据管理、模型开发、模型训练、模型管理等关键模块，以模型 API 服务、领域模型、工具包、会话式开放框架、开发者社区等形式，形成强大的 AI 算法服务支撑能力。

（三）以服务智件化为依托

**1．提供多元算力调度服务，实现算力调度'智件化'算力是智算中心提供的核心产品和服务。**面向不同用户的不同算力需求，智算中心应提供'智件化'算力服务，让用户无需关注底层算力芯片和技术细节，通过用户交互界面，选择业务场景类别、算法模型大小等参数，获得不同算力需求下的计算时间预估、服务费用测算等针对性算力服务方案。

一方面，算力服务虚拟化，弱化底层算力芯片供给的技术差异性，为用户提供标准化的算力供给服务。

通过抽象芯片架构并融合算力特性将提供底层计算能力的 GPU、FPGA、ASIC 等 AI 芯片进行统一管理和调度，以 PFLOPS、EFLOPS 作为计算能力单位向用户提供算力服务，让用户可以更便捷地调度算力，进行 AI 应用部署。

另一方面，算力服务协同调度，要强化对外的算力调度与服务能力。在构建全国一体化大数据中心协同创新体系和'东数西算'工程的背景和要求下，智算中心可以作为算力基础单元，通过云服务方式融入全国算力调度体系中，满足更大范围、更强算力调度需求。

2．提供简便算法模型服务，实现算法供给'智件化'人工智能是一门极其复杂的学科，要求应用开发者不仅要有扎实的理论功底，还要有高超的编程技术，门槛极高。算法模型是人工智能应用的灵魂，也是智算中心提供服务的主要输出物。从计算智能到感知智能，再到认知智能，人工智能的应用模型越来越复杂，从公共服务到社会治理再到产业发展，人工智能的应用需求越来越广泛，对人工智能模型和算法的要求也越来越高。

为了缓解人工智能模型训练成本高、技术门槛高的问题，智算中心应加强算法供给服务模式的创新，开发可视化操作界面，用户通过 API、模块化代码即可获得所需的人工智能应用效果，减轻代码开发压力，使用户无需关注算法和模型本身的复杂技术细节，只需聚焦相应业务领域的业务逻辑和数据就能实现人工智能应用。用户可以基于'智件化'的算法模型进行探索和创新，开发出适用于各种场景的新型智能应用。

3．提供开放生态环境服务，实现供需对接'智件化'人工智能场景日趋丰富，应用需求和技术供给个性化特征明显，为满足部分用户和场景对于人工智能算法优化、系统优化服务的个性化需求，智算中心应构建开放合作生态，加大数据资源供给，聚焦先进的技术并适配典型场景应用。一方面，加大数据供给，数据是人工智能应用的基础，智算中心应打造数据共享平台，推动计算机视觉、自然语言处理、重点行业领域等高质量公开数据集的汇聚，为用户人工智能应用提供增值性数据服务。另一方面，开放发展生态，围绕满足不同用户个性化人工智能应用需求，智算中心应将其计算平台、资源平台和算法平台对外开放，聚集行业内领先企业的力量，及时响应用户个性化需求，提升智算中心技术能力的同时形成新的产业和生产力。

（四）以设施绿色化为支撑

能耗是衡量智算中心发展水平的重要维度之一。'碳达峰、碳中和'目标背景下，国家和地方持续出台政策，进一步规范数据中心的能耗水平和平均电能利用效率（PUE）。为了进一步降低智算中心能耗，设施绿色化是智算中心建设的必然选择。设施绿色化主要包括设备节能化、能源供给绿色化等方面。

**1．采用先进节能技术，全面降低智算中心能耗制冷设备和 IT 设备是智算中心主要的能耗来源。**液冷技术采用冷却液和工作流体对发热设备进行冷却，利用高比热容的液体代替空气，提升了制冷效率，降低制冷能耗。液冷技术是智算中心制冷的主要发展趋势。数据中心采用全栈布局液冷，冷板式液冷、热管式液冷、浸没式液冷等先进液冷技术，构建包含一次侧二次侧液冷循环、CDU 等的智算中心液冷整体解决方案，可以进一步降低能耗、降低 PUE，实现绿色化。液冷智算中心采用余热回收技术，可以为智算中心自身以及邻近区域供暖，进一步提升能源利用效率。此外，智算中心采用高压直流、集中供电等高效供配电系统、能效环境集成检测等高效辅助系统、智能监控运维系统等绿色管理系统可以进一步降低能耗。

2．采用绿色清洁能源，从源头上实现绿色低碳

一方面，智算中心的大部分业务负载，特别是企业负载，在时间上主要集中于白天工作时段，与光伏、风电的主要发电时段匹配性较高，无需过多储能与调峰，使得智算中心在运用光伏、风电等绿色电力方面具有天然优势。采用绿色电力供给的智算中心综合运用线性规划、混合整数规划、启发式算法等多种能耗管理方法，可以在降低碳排放的同时也节约电价成本。智算中心采用优化调度与需求响应控制策略，还可作为需求侧可调载荷参与电力需求侧响应，不仅提升智算中心自身能源利用效率，而且提升新型电力系统需求侧资源优化配置效率。

另一方面，智算中心所在的建筑物、园区空间大，可以充分利用，发展屋顶光伏、园区风电等可再生能源发电设施，优化能源绿色供给格局。应用分布式光伏发电、分布式燃气供能等技术可以提升智算中心园区绿色化水平。小型智算中心还可以利用模块化氢燃料电池、太阳能板房等技术优化能源供给格局。

三、应用场景与产业赋能

（一）自动驾驶

**自动驾驶是汽车智能化和自动化的高级形态，作为 AI 技术备受关注的重要落脚点，被公认是汽车出行产业的未来方向之一。**自动驾驶场景的实现，需要通过感知融合、虚拟路测（模拟仿真）、高精地图、车路协同等核心技术将数字世界与实体路况进行深度融合，基于人工智能技术，让车辆能够像人类驾驶员一样准确地识别车道、行人、障碍物等驾驶环境中的关键信息，并及时对周围运动单元的潜在轨迹做出预判。

自动驾驶落地需要超大 AI 算力支持自动驾驶需要通过对车身多个传感器的数据进行感知和融合，并在此基础上对自动驾驶车辆的行为进行决策和控制，其中涉及大量 AI 算法、机器视觉与传感器数据整合分析、面向各类算力平台及传感器配置方案的适配能力等。

（二）机器人

机器人是人工智能技术多领域应用的重要载体，主要分为工业机器人、服务机器人和特种机器人。作为一种重要的智能硬件，随着计算机视觉、机器学习、智能语音等多种智能算法技术的进步，机器人产业也将实现飞速的发展。

《中国机器人产业发展报告（2022 年）》数据显示，2022 年中国机器人市场规模约为 174 亿美元，五年年均增长率达到 22%，其中工业机器人和服务机器人市场规模均保持增长，二者呈现出齐头并进、快速发展的态势。

1．虚拟数字人

虚拟数字人是可以感知、规划、行动的虚拟形象，由计算机图形学、图形渲染、动作捕捉、深度学习、语音合成等技术生成，具备类人外貌、交互能力等高度拟人化特征，是元宇宙的重要组成部分。虚拟数字人正逐步'闯入'现实虚拟数字人的应用领域非常广泛，按照应用场景或行业的不同，已经出现了虚拟主播、虚拟偶像等娱乐型数字人，虚拟教师等教育型数字人，虚拟客服、虚拟导游等助手型数字人，替身演员、虚拟演员等影视数字人应用。据《虚拟数字人深度产业报告》预测，2030 年我国虚拟数字人整体市场规模将达到 2,700 亿元。

2．数字孪生

数字孪生是指充分利用物理模型、传感器、运行历史等数据，集成多学科、多尺度的仿真过程，以数字化方式创建物理实体的虚拟镜像，通过模拟、验证、预测和控制物理实体全生命周期行为，实现在物理空间的最优决策。数字孪生是构建元宇宙数字空间的基础数字孪生在元宇宙的发展进程中扮演着重要角色，是元宇宙耦合物理世界的基石。

四、智算中心助力产业 AI 化走深向实

（一）智慧医疗

国家统计局《2021 年国民经济和社会发展统计公报》显示，2021 年全年总诊疗人次 85.3 亿人次，基本医疗保险覆盖 13.6 亿人。然而，各个地区医疗服务水平参差不齐，医疗服务资源不均等现象普遍存在，基层患者尤其是偏远地区的患者难以获得高质量的医疗救治。

AI 辅助诊断助力解决诊疗'三大难题'当前，医疗诊断主要面临三大挑战：

一是数据量巨大。粗略估算诊疗人次所对应的就医环节及相应的医疗数据质量，加上血压、心率、体重、心电图等医疗监测数据，规模早已突破 TB 级，并且以'秒'为单位持续更新叠加，需要强有力的算力支撑平台。

二是数据结构多元。不仅包含大量医学术语、专业名称，还包括文档、影像、视频等非结构化数据，对 AI 服务器等新型智能计算硬件要求较高。

（二）文娱创作

近年来，AI 在文娱创作方面有诸多突破，通过融合人工智能、认知心理学、哲学和艺术等多个学科，可完成诗词、绘画、音乐、影视、小说等创作。

人工智能正在逐渐改变文娱创作的发展范式对艺术家来说，灵感极为可贵并难以捕捉，当文娱创作遇上人工智能，整个行业迸发出了全新的生机和活力。AI 技术将是未来数字化创作的重要生产工具。当前出现的创作生态可分为专业生成内容（Professionally Generated Content，简称 PGC）、用户生成内容（User Generated Content，简称 UGC）、AI 辅助生产内容和 AIGC。

其中，PGC 和 UGC 都是以人为主体的创作模式，PGC 是由专业人士进行内容创作，成本较高且产能有限；UGC 降低了生产成本，满足了个性化需求，但存在不可控因素。从长期来看，数字内容生成的需求会愈发强烈，但是人脑处理信息的能力有限，当以人力为主的内容生产潜力逐渐消耗殆尽，以 AI 为主的内容生产模式将弥补数字世界内容供需的缺口。Gartner 数据显示，到 2023 年将有 20% 的内容由 AI 创作生成，预计到 2025 年生成式 AI 产生的数据将占所有数据的 10%。

（三）智慧科研

AI 技术成为继计算机之后，科学家新的生产工具，并催生出了新的科研范式 AI for Science。科学家们用 AI 技术去学习科学原理，根据实验或者计算产生的数据对所求解的科学问题进行建模，从而使复杂问题得到有效解决。近年来，AI 也被证明能用来做规律发现，帮助人类从大量的复杂数据中，抽取一些人类观察不到的高维信息和高价值规律，不仅在应用科学领域，也能在自然科学领域发挥作用。AI for Science 不仅带来了科研效率的显著提升，还能降低科研成本，让更多人都能参与到科学研究中来。

1．生命科学

随着大数据和人工智能的发展、普及和成熟，越来越多的科学研究从假设推动的范式向数据驱动的范式转变，利用大数据和计算机技术挖掘科学洞见。在生命科学领域，通过采用深度学习方法处理海量数据，已经在蛋白质结构预测等领域实现了落地应用。

蛋白质作为生命活动的主要承担者，长期以来都是生命科学工作者研究的重点，其中确定蛋白质的三维空间结构尤为重要。受困于计算量庞大、计算准确度有限，蛋白质三维结构预测领域近年来进展较为缓慢。

2．大规模分子模拟

分子动力学模拟通过求解原子运动的经典力学牛顿方程对相空间进行采样，可以研究体系在相空间的演化过程，还可以通过统计方法得到体系在非零温度下的各种性质，是当前材料和生物化学领域最常用的计算研究方法之一。

近年来，借助神经网络从大量数据中获得规律的优势，将第一性原理计算结果作为训练数据，利用神经网络训练构建势函数的方法引起了广泛的关注。该系列方法从上世纪 90 年代开始，经过二十多年的发展，在准确性、可扩展性等方面得到了提升，比较常用的方法有 DeePMD、SchNet、GAP、MTP 等。

3．数值计算

矩阵乘法是许多计算任务的核心，其中包括神经网络、3D 图形和数据压缩等。因此，提高矩阵乘法效率将直接作用于许多应用。几个世纪以来，数学家认为标准矩阵乘法算法是效率最高的算法，但在 1969 年，德国数学家 Volken Strassen 通过研究非常小的矩阵（大小为 2x2）证明确实存在更好的算法。然而，更大矩阵相乘的高效算法仍属于尚未攻克的难题。

从算力需求看，蛋白质结构分析、大规模分子模拟、数值计算相关应用主要涉及海量数据并行计算和大规模模拟实验，对算力和存力需求较高，属于计算密集型和数据密集型任务。智算中心所具备的算力服务能力极度契合 AI for Science 相关场景的算力需求，将成为支撑科研高质量、突破式发展的重要基础设施。