中兴通讯在MWC 2024上海展展示AI模型快速无损迁移
发布时间:2024-06-26
近日,在2024 MWC 上海展,中兴通讯展示了AI模型在不同厂家GPU的快速无损迁移。基于AI Booster智算平台提供的模型迁移工具套件,可实现模型从CUDA生态向类CUDA生态高效无感迁移,打造开放解耦、自主创新的智算生态。
目前市面上可供选择的GPU厂家很多,但是不同GPU的软件协议栈存在壁垒不能通用,导致模型迁移的复杂度高,工作量比较大,业务上线周期长。中兴通讯提供一站式模型迁移工具,可以快速地进行模型和算子分析,并提供精度分析工具和性能分析工具,帮助开发者快速定位并解决问题,从而大幅缩短调试时间,确保模型在迁移后能够保持良好的性能和稳定性。
在本次展会上,中兴通讯成功演示了开源文生图模型应用在不同厂家GPU运行的效果,迁移前后图片生成的速度、清晰度和准确度基本一致。中兴通讯将继续和业界主流GPU厂家进行广泛深入的合作,全面适配业界主流的模型应用,大幅降低模型迁移的时间和人力成本,加速AI业务创新,打造开放共赢的AI生态圈。