DeepSeek官宣!

每日经济新闻| 2025-02-25 15:24:56

  2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源EP通信库。

  特点有:高效的全员沟通;节点内和节点间均支持 NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生 FP8 调度支持;灵活的GPU资源控制,实现计算-通信重叠。

CFF20LXzkOxqN7xcquf4vibBRE5ic9XjyCsRzkcXhzaaJibYETpNXwSiaibcPfnnibiaeQkwVUQWEH7ZXH09OHLkzyXnQ.jpg

该文观点仅代表作者本人,系信息发布平台,仅提供信息存储空间服务。

手机版 | 电脑版

© CopyRight 2022 tthmx.com All Right Reserved.

未经授权,请勿转载或建立镜像,违者依法必究

浙ICP备09070488号-8