卡饭论坛 · 软件安全交流· anyangmo·· 4 小时前同新闻AI 评分66
蚂蚁百灵开源 Ling-3.1-flash AI 模型,最高支持 1M 上下文
AI 导读
蚂蚁百灵开源 Ling-3.1-flash 模型,总参数约 560B,每个 Token 激活约 25B,最高支持 1M 上下文。针对本地部署,routed experts 采用 MXFP4 量化、dense 层保持 block-FP8,权重占用从约 534GB 降至 292GB,Hopper GPU 测试配置中服务部署由 8 卡降至 4 卡。
同一新闻,精选展示《蚂蚁百灵开源 Ling-3.1-flash:总参数 560B、激活 25B,支持 1M 上下文》
来源:卡饭论坛 · 软件安全交流 · bbs.kafan.cn