Moe

Nature Will发布Natura-1：50B MoE预训练100万小时人类视频: Nature Will 的 Natura-1 是一个 50B 参数的 MoE，在 100 万小时的第一人称人类视频上预训练。随后，该模型用有限的机器人数据进行了适配，以控制 20-DoF 机器人手。

机器人技术 • Pandaily

ModelBest开源MiniCPM-V 4.7，称MoE版手机端约3GB内存运行: ModelBest开源了MiniCPM-V 4.7，这是其首个MoE多模态模型，提供35B-A3B和1B两种规模。该公司称，MoE版本在iPhone 17 Pro Max上以约3GB内存运行，解码速度超过每秒13个token。

开源 • Pandaily