本期播客深入探讨了Comet，这是一种为混合专家模型（MoE）设计的优化系统，通过精细的计算与通信重叠，显著提高了MoE模型的执行效率。我们将讨论Comet的两个关键设计：基于共享张量的依赖解析和自适应工作负载分配，以及它们如何克服现有MoE系统中的挑战。我们还将分享Comet在实际生产环境中的部署情况，以及它如何为大规模GPU集群节省数百万GPU小时。