Beam

Beam是一个稀疏的专家混合模型，拥有总计5010亿个参数，其中有230亿个是活跃的。它专为编码、推理和代理任务而设计。