缘融论坛第三十一期主题
华为云EI实操讲解
大模型时代下的AI开发
引领无限创新
导言
华为云在人工智能领域持续发力,其昇腾AI云服务凭借全栈自主可控、极致性价比、开放兼容等优势,成为百模千态的云底座,有力引领着昇腾云生态的发展。
2024年10月15日14时30分,厦门工学院第三十一期缘融论坛于正心大厦325隆重举行。本次论坛由数据科学与计算机学院承办,面向数据科学与计算机学院22级学生,邀请了华为云AI工程师魏超老师为同学们带来了一场主题为 “华为云EI实操讲解 —— 大模型时代下的AI开发,引领无限创新” 的精彩讲座。
讲座过程
昇腾AI云服务:全方位的AI开发平台
魏超老师长期从事华为云AI相关工作,对华为昇腾AI云服务平台拥有丰富经验,曾在该平台上训练、微调、推理过业界主流LLM模型,这次将介绍华为昇腾Al云服务,并讲解在华为异腾AI云服务进行AI开发的技术以及用一个案例,实操演练在华为昇腾AI云服务进行AI开发 。
云化算力:强大的计算核心
芯片架构优势
昇腾芯片采用达芬奇架构,相比友商,算力有显著提升。例如,910系列增强版相比A100算力提升30%,910系列相比V100算力提升100%等。同等面积下,达芬奇架构算力是业界芯片架构的2倍。
从以CPU为中心的主从架构转变为多样算力对等计算架构。这种架构减少了数据搬移和格式转换,资源利用率提升30%+。异构Serverless计算框架重构了云基础设施,提升了带宽、降低了长尾时延,并且在AI训练推理性价比等方面有显著提升。
模型开发:高效的工具链支持
提供统一开发环境,包括SDK、CLI、IDE插件等,以及工作流管理。昇腾工具链为推理平台提供端到端生产工具链,保证了一致性开发体验。
涵盖交互式建模、算法管理、训练加速、故障容错等多种功能。支持线上线下协同开发,提供本地IDE插件,实现开发训练一体化架构,开发调试完成即可一键启动训练。还具备AI工程化能力,支持大模型分布式部署及推理,与DevOps和DataOps协同,提供数据诊断、模型监测等分析能力。
讲座总结
本次讲座为厦门工学院的数据科学与计算机学院22级学生们提供了一个深入了解华为昇腾AI云服务和AI开发技术的机会,激发了同学们对AI开发的兴趣和热情,对学院的人工智能教育和人才培养具有积极的推动作用。
图源 | 陈冰瑶
编辑 | 蓝育国
审核 | 陈杰南
指导老师 | 叶诗菡老师
微信扫一扫关注该公众号
微信扫一扫可打开此内容,使用完整服务