本期节目深入探讨Bitnet.cpp，一个为BitNet b1.58等三元大语言模型在边缘设备上进行高效推理而优化的系统。我们将详细解析其创新的混合精度矩阵乘法（mpGEMM）库、TL（三元查找表）和I2_S（带缩放的Int2）内核，如何实现显著的速度提升和无损推理。