本期播客深入探讨了ORCA，一个为Transformer模型设计的分布式服务系统。我们将详细介绍其创新的迭代级调度和选择性批处理技术，以及它们如何显著提升模型服务的性能。