在“全域Serverless + AI 加速运用创新”专题演讲上，华为云首席产品官方国伟、2012实验室中软分布式与并行软件实验室主任谭焜，分享了Serverless和AI如何结合的前沿理念和实践，深度解析华为云在Serverless领域核心产品及基于元戎架构构建的分布式内核能力，为开拓者打造Serverless AI极优体验，帮助企业加速运用创新；广联达科技株式会社首席业务专家/副总裁祁长福分享了在建筑行业，华为云Serverless产品如何基于FunctionGraph优化AI运用开拓，提升开拓团队事情效率。
全域Serverless，为千行万业深度用云带来新体验方国伟先容，在AI时期背景下，软件开拓的办法由以代码为中央，走向以模型为中央，如何将AI大模型能力充分利用起来，是当下云厂商积极探索的事情。
华为云首席产品官方国伟
企业研发职员在构建AIGC运用时更多关注开拓支配门槛能否降落，更快的完成企业需求。运维职员要确保系统能够稳定运行，在业务量高峰时候做到快速弹性，业务量小时节约本钱，企业既能实现业务目标，又能担保系统可靠性高、本钱较低。
为了更好的支撑AIGC运用，华为云供应了全域Serverless能力，推出了CCE Autopilot、FunctionGraph、CAE等Serverless产品，将一系列的AI原生技能构筑成后端做事，形成BaaS for AI能力，调用即可得。结合完善的工具链，帮忙企业快速构建运用。
全域Serverless 让AIGC运用开拓更大略，让运维更高效
Serverless容器CCE Autopilot、CCI让用户无需关注底层资源，自动运维，帮助用户降落运维本钱。
在Cloud Bursting场景，去哪儿网基于CCI打造了灵巧上云新体验，完成业务0改造，实现4000实例/30s的极致弹性。
FunctionGraph 3.0八大关键能力，助力AIGC运用创新全新升级的FunctionGraph 3.0，新增Serverless运用中央、独创Snapshot冷启动加速、预留实例智能推举特性，合营异构资源虚拟化技能，实现AIGC运用低本钱、低延迟，加上端到真个全链路压测和全栈可不雅观测能力，助力AIGC运用快速开拓，天级上线。
FunctionGraph 3.0八大关键能力，助力AIGC运用开拓
杭州曼孚科技有限公司是行业领先的AI根本架构与数据智能平台做事商，基于FunctionGraph构建自动化AI演习平台，更细粒度的GPU算力供给加上按需全自动资源弹性，实现本钱降落40%。
华为云Serverless事宜总线做事事宜网格EventGrid能够支持统一事宜中央、事宜驱动引擎、开放与集成、降落开拓本钱四大范例场景，为企业供应中央化的事宜集成、管理和驱动能力。
在车联网场景，某Top车企利用EventGrid构建Serverless化的事宜驱动架构的同时，实现高下游异步解耦，便于扩展和避免单点故障；作为无码化对接的事宜中央，避免云做事间点对点对接，减少50%开拓事情量以及数据高可靠0丢失和数据规则调度0变更。降落本钱。
Serverless运用托管CAE产品升级：支持运用0代码修正平迁上云，用户无需修正业务代码；支持Web/微做事运用Serverless化，帮助企业降本增效，提升业务稳定性。
喷鼻香港新天下旗下广州新合创科技有限公司，利用CAE全托管模式提升50%效率；后续还会根据阛阓人流峰值设定定时伸缩，节省资源以降落本钱。
BaaS for AI：华为云BaaS做事DWS 3.0 供应Pay By Resource弹性模式和Pay By Query弹性模式，帮助企业实现后端做事Serverless化。
“华为云供应全域Serverless能力，让开发者5倍速开拓行业大模型，支撑千行万业的AI运用开拓。面向AI领域全新升级的FunctionGraph 3.0，真正实现大模型运用即开即关、即时相应，无限扩展。”
Serverless挺进 AI，强强联合加速AI运用创新华为2012实验室中软分布式与并行软件实验室主任谭焜
基于自主创新元戎内核构建的FunctionGraph 3.0如何保障AI运用开拓支配低本钱和相应低时延，谭焜做了深入的技能分享：
模型开拓支配依赖昂贵的异构资源。传统的异构函数，CPU和XPU资源绑定分配，单一推理函数包含CPU和XPU操作，操作CPU时XPU空闲，操作XPU时CPU空闲，资源利用率低。元戎独创的纯XPU异构函数，CPU和XPU资源绑定解耦，用户可把不同类型资源的操作写身分歧的函数，实行时分解到不同算力处理器上，无闲置资源。
FunctionGraph打造Serverless AI最佳平台
在大模型推理场景，包括全量推理和增量推理两个阶段。全量推理阶段算力需求远高于增量推理阶段，增量推理阶段，耗时可能远长于全量推理阶段。针对这类场景，元戎可以做到全量推理和增量推理解耦，各自按需弹性扩缩，精确算力供给，真正按利用量计费，降落用户本钱。
更快的运用相应速率意味着更好的用户体验。元戎自主创新的FoldFormer AI模型可在线持续预测用户业务负载，提提高行实例预热，达到85%~95%准确率，大大降落了冷启动概率。无法被准确预测的流量，通过一系列优化方法加速冷启动。在用户模型下载阶段，基于内置的内存数据系统和SSD构建的分级高速缓存，实现系统内缓存模型文件，大幅缩短下载韶光。打算时，模型按Layer分批加载，并根据用户SLA和模型推理时延历史数据构建最优pipeline, 降落参数加载和模型推理总时延，冷启动优化到秒级。
谭焜末了总结道：“基于自主创新的元戎内核，FunctionGraph 3.0供应异构函数极速冷启动，细粒度异构资源管理和按需弹性扩缩，打造Serverless AI极低本钱和极致性能；依托华为云丰富的BaaS做事和全托管的开拓环境，打造Serverless AI极优体验。”
AI赋能建筑行业数字化广联达科技株式会社首席业务专家/副总裁祁长福揭橥AI赋能建筑行业数字化主题演讲。“广联达作为数字建筑平台做事商，立足建筑家当，环绕工程项目的全生命周期，为客户供应数字化办理方案，公司提出“数字建筑”理念，希望通过“数字建筑”系统、全面、深度地助力建筑家当转型升级。”
广联达科技株式会社首席业务专家/副总裁祁长福
祁长福先容，在技能方面，广联达通过大力研发BIM 和云打算、大数据、物联网、移动互联网、人工智能等信息技能引领家当转型升级。
在AI领域，广联达环绕行业难点，环绕设计、本钱、施工等重点领域，打造核心AI运用。运用设计采取Serverless理念，依托华为云Serverless做事构建办理方案，将AI模型以镜像办法支配在FunctionGraph，对外供应通用API，无需管理运维异构资源（GPU等），模型实例随业务量全自动扩缩容，无要求时实例缩容到0，低本钱高可用运行。上层运用采取FaaS+ BaaS的Serverless运用架构，集成模型推理接口，只需专注于业务逻辑代码，可函数级粒度并行开拓，快速迭代运用。
华为云FunctionGraph技能极大的优化了AI运用的开拓过程，让AI团队可以更关注业务实现，而无需关注底层技能细节。
“广联达以推动建筑行业数字化为己任，着力打造‘数字+连接+算法’的系统性数字化。环绕行业痛点，我们以智能化技能为根本，依托华为云FunctionGraph Severless架构，打造建筑从业职员的CoPilot，帮助行业职员提升作业效率，提高管理水平和决策质量。”
未来，华为云将持续落地全域Serverless产品，与华为2012实验室深度互助，以FunctionGraph3.0为核心，打造Serverless AI极低本钱和极致性能，充分知足大模型运用的敏捷哀求，助力千行万业深度用云。
理解函数事情流 FunctionGraph：【函数事情流_FunctionGraph_事宜驱动做事器_函数托管_serverless-华为云】
关注@华为云，理解更多资讯