中兴通讯AI Booster智算平台演示亮相2024 MWC 上海
发布时间:2024-06-26
近日,中兴通讯AI Booster智算平台在2024 MWC 上海展出。该平台通过向导式工具链展示了大模型训练精调、推理应用的全过程,可实现工程能力工具化,有效提高大模型和AI应用的开发效率。
引入大模型技术,促进生产和管理提效,成了越来越多行业的期望。这就需要在通用大模型的基础上,使用领域专业数据进行精调,构建出同时具有通识能力和专业能力的行业专属大模型。大模型训练精调过程较为复杂,涉及到基模型选择、数据准备、训练策略制定、超参调整、模型性能调优等,简单易用的工具平台至关重要。中兴通讯AI Booster智算平台,通过可视化工具链,为用户屏蔽底层实现和复杂细节,降低大模型训推技术门槛。
AI Booster智算平台,由AI资源管理平台和AI训推平台有机构成。AI资源管理平台,支持异构算力统一管理、编排和调度,支持资源池化、虚拟化,最大化资源利用率。AI训推平台,通过工具链,实现大模型训推过程全流程贯通,向导式引导,过程可视化。用户无需感知智算资源情况,工具链触发模型最优自动并行训练、评估/优化、一键部署,降低大模型训练和推理的技术难度和工程化难度,可快速训练精调出不同行业的专属大模型,例如运维大模型、政务大模型、园区大模型等。
未来,中兴通讯将继续深耕智算领域,深化生态合作和应用实践,助力各行各业加速实现产业智能化转型升级。