摩尔线程已实现对DeepSeek蒸馏模型推理服务的部署

上海证券报·中国证券网| 2025-02-04 22:25:44

  上证报中国证券网讯摩尔线程2月4日发文称,已实现对DeepSeek蒸馏模型推理服务的部署。

  摩尔线程表示,通过DeepSeek提供的蒸馏模型,能够将大规模模型的能力迁移至更小、更高效的版本,在国产GPU上实现高性能推理。摩尔线程基于自研全功能GPU,通过开源与自研双引擎方案,快速实现了对DeepSeek蒸馏模型的推理服务部署。

  摩尔线程还透露,为推进国产AI生态发展,公司即将开放自主设计的夸娥(KUAE)GPU智算集群,全面支持DeepSeek V3、R1模型及新一代蒸馏模型的分布式部署。(窦世平)

该文观点仅代表作者本人,系信息发布平台,仅提供信息存储空间服务。

手机版 | 电脑版

© CopyRight 2022 tthmx.com All Right Reserved.

未经授权,请勿转载或建立镜像,违者依法必究

浙ICP备09070488号-8