整个2023年，全球科技界都在为大模型沸腾。云计算产业作为AI大模型与产业场景间的最短路径，自然也在大模型浪潮中备受关注。目前阶段，云厂商已经纷纷入局大模型，从多个角度探索大模型带给云计算产业的可能性。
但我们往往会忽略这样一个关键节点：“百模千态”的大模型，第一项挑战是AI算力。而做好大模型服务，首当其冲也要做好算力服务。
在AI算力这个最为基础的能力中，隐藏着AI云服务如何能走向更远的真正答案。
9月21日，在华为全联接大会2023期间，华为常务董事、华为云CEO张平安围绕“共建智能世界云底座，让AI重塑千行万业”发表主题演讲，发布盘古大模型在矿山、政务、汽车、气象、医学、数字人、研发等领域的创新服务，并宣布华为云昇腾AI云服务正式上线，加快让千行万业实现大模型普惠。围绕盘古大模型落地，本次华为云分享的主题是“解难题，做难事”。让AI算力能用、够用、好用、有大用，就是华为云解开的第一道难题。
算力入山河，AI始落地。
为了做好这件重要的“难事”，昇腾AI云服务出发了。
大山大河，需要AI大算力
信息革命以来，人类逐步发现科技创新的幅度与算力消耗成正比，这一点在大模型身上又一次得到了印证。
大模型的出现和成熟，给千行万业智能化带来了全新的机遇。可以说，每个行业的每个场景都值得融入大模型，甚至其中大部分可以被大模型所重塑。而无论是大模型本身模型规模大、数据参数多的特点，还是各个行业涌现的大模型需求，都指向同一个结果：社会生产体系所消耗的AI算力，将得到指数级提升。
大模型需要大算力，已经成为了行业共识。但如果我们具体打开这个问题，会发现围绕AI算力产生的产业挑战非常多样。我们可以将其概括为供需矛盾、能效挑战、运维需求、安全顾虑四种。
先来看AI算力最为核心的挑战，即供需之间客观上的不平衡。
截至2023年7月，中国累计已经有130个大模型问世。“百模大战”带来了AI算力的巨量增长。根据相关数据报告，过去10年全球AI算力需求增长了30万倍，而未来10年我们还面临着需求500倍的增长。根据《2022-2023中国人工智能计算力发展评估报告》显示，在2022年中国进行的AI计算总量已经超过了通用计算。在可见的未来，AI算力将会变成社会各界需求量最大、供需缺口最大、资源最为紧张的计算形态。
其次是大模型与大算力，带来了尖锐的能效问题。
由于大模型训练需要集群式AI计算，因此其训练任务大量依靠数据中心，而AI服务器的功率密度远超普通服务器，单机柜的功耗是过去的6到8倍。在双碳大背景下，数据中心的能效比必须持续下降，因此大模型带来的计算能效问题已刻不容缓。如何在AI算力提升与能效比下降之间达成平衡，成为了产业界必须面对的问题。
除此之外，我们还要看到AI算力在应用过程中发生了一系列运维难题。由于大模型的训练、部署目标各不相同，各自的训练与部署环境也差异巨大，期间也自然会产生网络时延、模型可靠性、运维管理门槛等运维问题。举个例子，一些大模型需要极大量级的算力集群来支撑，而大量服务器与计算单元之间的协同往往会出现问题，一旦计算单元出现问题，研发人员就需要重启训练。大模型训练中巨大的时间、人才、算力成本消耗，就发生在频繁的故障与重启训练任务当中。因此，大模型不仅需要AI算力充足，还需要算力服务精细，帮助用户降低整体运维难题。
最后，我们还要看到大模型带来新的安全顾虑。
由于大模型的部署场景大多事关国计民生，因此其安全隐患必须全部扫清。在数据访问、存储加密、传输安全等领域，大模型目前还存在着诸多的安全隐患。
整体而言，大模型并不是高度一致化的产品。其本身技术分类复杂、工程化路径多变，并且各个用户还需要根据自身需求进行大模型的精调与订制化工作。这些问题让大模型对AI算力服务有了多方面、多角度的差异化需求。
满足大模型的AI算力需求，已经成为了大模型时代的头一道考题。
把昇腾AI云服务做实，做精，做成竞争力
对于华为云来说，要把算力这道题答好，需要兼顾两方面的建设：一个是如何让AI算力充足可用，另一个是如何跨越算力服务在运维、安全、能效等方面的挑战。AI算力既要做实，还要做精。
今年7月，华为云发布了最新的昇腾AI云服务，可以为千行万业的用户提供澎湃AI算力。在其背后，是华为云坚实的算力基础设施建设。
截至目前，华为云在贵安、乌兰察布、芜湖建设了3大AI算力中心。基于此，昇腾AI云服务在全国范围内实现了20ms的时延圈。用户可以实现就近接入，一根光纤即可联接澎湃的AI算力，服务即开即用。为确保大模型训练数据的全生命周期安全，昇腾AI云服务还采用了数据传输与存储加密、数据安全清除、数据访问控制、数据水印防泄露等多重技术。值得注意的是，无论对于企业还是社会整体，云服务都是能效比最优的双碳时代AI算力获取方式。
为了实现AI算力的极致性能，华为云还在基础设施之上进行了针对AI云服务的技术优化。比如ModelArts提供了数据、训练、推理三层加速，通过DataTurbo数据加速技术能够利用计算节点存储资源构建分布式缓存，将数据读取时延降低至亚毫秒级。TrainTurbo训练加速技术可以实现在训练数据超过100T时数据读取时间缩短50%，并使能整体训练效率提升20%以上。在模型的推理环节，InferTurbo推理加速技术通过图编译技术加速模型推理，通过全链路垂直协同优化，将大模型的推理性能提升30%。
在这样强大基建与核心技术加持下，用户可以获得极致的AI计算性能，而为了让算力不仅“够用”，还要“好用”，华为云进行了一系列把AI算力“做精”的探索。
比如说，AI开发有赖于工具与平台的全面。昇腾AI云服务背后，有着异构计算架构CANN、全场景AI框架昇思MindSpore、AI开发生产线ModelArts等一系列华为持续打造的AI底层开发工具与技术平台，从而为大模型提供分布式并行加速，算子和编译优化、集群级通信优化等关键能力，奠定AI算力服务的根技术加持。
如上文所说，在大模型训练、部署过程中还面临着一系列运维、能效等问题。在算力服务的优化方面，昇腾AI云服务可以提供更长稳的AI算力服务，千卡训练30天长稳率达到90%，还可以实现分钟级信息获取、2小时定界、24小时提供解决方案，断点恢复时长不超过10分钟，任务恢复时长小于半小时。
在模型迁移方面，华为云为用户提供了迁移工具链，并集成全栈的开发工具，能够实现典型模型迁移效率低至2周，主流场景自助迁移。此外，昇腾AI云服务还适配了业界主流的开源大模型，如LLAMA、Stable Diffusion等，从而真正让昇腾AI云服务满足“百模千态”的大模型需求。
对于运动员来说，基本功就是竞争力。在云+大模型的赛道上，华为云通过基建、技术、服务的集成，也把AI算力练成了竞争力。
澎湃易用的AI算力，是大模型产业化落地的基石，也是一切故事的开端。
算力，技术，场景：构筑大模型正循环
在大模型这个突然到来的巨大智能化机遇面前，千行万业的用户有着差异化巨大的需求。有人缺少算力，有人需要模型，有人寻觅场景，也有人需要特定技术工具的帮助。任何一个条件的缺失，都会让大模型的飞轮无法旋转。
换个角度看，算力资源、技术工具、模型的场景化应用都能变成支点。这些要素可以通过全栈配合、彼此推动的方式，帮助企业用户和开发者走上大模型之路。
华为云提供的昇腾AI云服务，不仅AI算力能用、够用，好用，还能通过与华为云一系列布局进行联动，让大模型从此“有大用”，从而共同实现盘古大模型解难题，做难事。
比如说，我们能够看到众多技术创新与昇腾AI云服务相辅相成，共同解决着AI算力需求大、供给难的挑战。华为云最新发布的分布式QingTian架构就有着这样的效果。
以AIGC为代表的大模型应用，算力需求特点是高度依赖分布式计算能力，这也对算力架构产生了新的挑战。分布式QingTian架构作为新一代对等架构，能够将传统的数据中心算力集群，演变为基于高速总线的对等池化系统集群，从而打破单一部件的性能限制，实现软硬协同、管控面全卸载、资源与性能零损耗，最终为用户带来性能、可靠性、安全可信等方面的极致体验。
除此之外，华为云还围绕不断发展的AI需求，在AI云存储、GaussDB向量数据库、数智融合、Serverless+大模型工程套件等一系列领域进行了技术创新，从系统架构层、数据处理层、模型训练层、应用开发层实现系统性创新，从而扫清了用户使用AI云服务过程中的障碍，让AI算力真正对齐到千行万业的场景化需求。
在基础AI算力与系列技术创新之上，就是华为云提供的盘古系列大模型。在华为全联接大会2023上，我们也可以看到盘古大模型在行业中有了更为深入的场景化落地。
在汽车行业，盘古汽车大模型能够覆盖车企的设计、生产、营销、研发等环节，并在自动驾驶训练、专用场景落地等领域发挥独特价值。在自动驾驶领域，盘古汽车大模型可基于实际场景采集的照片和视频，构建该场景的数字孪生空间，加入可移动的物体、可编辑的天气、光照等，生成供自动驾驶学习的场景样本。在港口、矿区等作业场景，盘古汽车大模型的多场景、多车型控制算法，可让60吨的重卡横向误差小于0.2米、精准停靠误差小于0.1米。目前在新疆疆纳矿业和内蒙古伊敏露天煤矿，已有23辆无人重卡在矿山中24小时不间断作业。
在直播+数字人领域，盘古数字人大模型基于十万级高质量直播话术进行预训练，能够自动生成专业话术，从而准确、流利地介绍产品，并且还能自动捕捉弹幕和观众实时互动。在贵州丹寨，盘古数字人大模型已经让非遗产业蜡染走向全球。
总结一下不难发现，华为云已经形成AI算力作为底座，技术创新作为驱动，盘古大模型融入行业场景为导向的“大模型正循环”。澎湃AI算力可以带动大模型的使用；技术创新将不断降低大模型的门槛；行业场景将带动大模型规模化落地。算力推动场景和技术发展；技术进步实现算力得到充分释放，场景价值被深入挖掘；场景的进步将带动算力建设，引领技术进步。三者滚动向前，吸引千行万业在云上寻找大模型的答案。
以算力为基础，以算力为钥匙，让AI融入山河大地——这便是华为云的AI长歌。
免责声明：此文内容为第三方自媒体作者发布的观察或评论性文章，所有文字和图片版权归作者所有，且仅代表作者个人观点，与 无关。文章仅供读者参考，并请自行核实相关内容。投诉邮箱：editor@fromgeek.com。
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。
