Microsoft Researchが開発した「BitNet b1.58」は、従来のフルプレシジョンモデルに匹敵する性能を持ちながら、メモリ使用量、レイテンシ、エネルギー消費で大幅な効率向上を実現した初のネイティブ1.58ビットLLMです。パラメータ数は20億、トレーニングには4兆トークンが使用されています。