EN
uoa.zqysoft.com

宝宝腿趴开一点就不会疼的原因分析MiniMax-M1 登场,MiniMax 再次证明自己是一家模型驱动的 AI 公司

在将 MoE 和 Lightning Attention(闪电注意力)的激进架构变革引入基础模型底层,转化为全新的 MiniMax-01 系列模型的 5 个月后,大模型公司 MiniMax 终于更进一步,捧出了酝酿许久的自研文本推理模型 MiniMax-M1,这也是全球首个开源、大规模实现混合注意力的推理模型。 推理模型已成为新的大模型技术浪潮,拿出一款强劲的自研推理模型,是近半年里国内第一阵营的大模型公司保持自己技术身位最直接的目标。 作为推理模型,MiniMax-M1在长上下文理解能力上,是目前包括所有闭源和开源模型在内,能力全球前二的模型,且在训练和推理成本上极高的性价比。 M1 仍然延续着 MoE 架构,而在注意力机制上和强化学习算法上的创新让 M1 鲜明的区别于其他推理模型。模型总参数达到 4560 亿参数,原生支持 100 万 token 的上下文长度输入,以及目前所有模型中最长的 80k token 的输出长度。 除了在长上下文能力上的强势,M1 所展现出的在智能体工具使用(Agentic Tool Use)维度上的能力上限甚至更加让人期待。从评测基准 TAU-Bench (airline) 中的表现来看,目前 M1 已经是市面上在 Agentic Tool Use 方面能力最强的模型。 技术报告中对于 M1 的概述是,这个新的开源模型已是与 DeepSeek-R1、Qwen3-235B 并列的世界顶尖开源推理模型,这一结论是在参与了业内主流的 17 个评测基准之后得出的。在处理复杂场景时长上下文、智能体工具使用能力上的长板足够亮眼,M1 在更通用的模型性能上也已经跨入顶尖行列。 此外需要特意说明的是,M1 系列模型中的两个模型中,MiniMax-M1-40K 模型是 MiniMax-M1-80K 模型在训练时的中间阶段。而在测评基准所呈现的总体表现中,MiniMax-M1-80k 在多数基准上持续优于 MiniMax-M1-40k,这也验证了上下文窗口长度带来了模型整体性能的显著提升,而非仅仅意味着支持更长的输入。 在底层架构层面,M1 是目前唯一一个用线性注意力机制「大改」传统 Transformer 架构,从而大规模实现混合注意力的 MoE 推理模型;在算法层面,M1 提出了新的强化学习算法 CISPO。更彻底的双线创新提高了 M1 的训练效率,而训练成本的下降也非常可观。 为解放 Transformer 架构中核心的注意力机制 Softmax Attention 在计算资源消耗方面的局限性,M1 系列模型在注意力机制的架构设计方面相比传统架构的推理做了更大胆的尝试——采用混合注意力机制 Lightning Attention——来代替标准 Transformer 中使用的传统 Softmax Attention。 独特的注意力层设计让 M1 在推理时具有显著效率优势,天然有利于强化学习的高效扩展,但走到混合架构大规模强化学习的无人区,MiniMax 显然也会遇到新架构带来的挑战。 比如在混合架构的初步零强化学习(zero-RL)实验中,团队发现传统的 PPO/GRPO 算法会意外的严重损害训练性能。具体来说,与反思行为相关的关键 token——例如表示转折的 however、wait——这些低概率 token 对稳定熵和促进可扩展 RL 至关重要,但却容易在策略更新时被裁剪,难以保证这些 token 的梯度贡献,导致难以促进长 CoT 推理行为。此问题在混合架构模型中尤为突出,阻碍了强化学习的规模扩展。 为此,M1 在算法层面提出了新的强化学习算法 CISPO,意在明确避免丢弃任何 token(即使更新幅度大),同时将熵维持在合理范围以确保稳定探索。 在 zero-RL 设置下,MiniMax 团队在数学推理数据集上训练 Qwen2.5-32B-base,对比 CISPO、 字节跳动提出的 DAPO 以及 DeepSeek 提出的 GRPO 算法在 AIME 2024 上的表现。相同步数下 CISPO 显著优于 DAPO 和 GRPO;其训练效率更高,仅需 DAPO 50% 的步数即可达到同等性能。 底层架构上对于线性注意力机制的引入,以及算法层围绕 CISPO 所形成的高效 RL 框架,最终让 M1 的强化学习训练变得十分高效,进而取得了训练成本的大幅下降。 与模型一同发布的技术报告中显示,在生成长度为 10 万 Token 时,M1 的计算量仅为 Deepseek R1 的 25%,而整个 M1 的完整强化学习训练能在 512 张 H800 GPU 上仅用 3 周完成,以目前的 GPU 租赁价格计算,成本仅为 53.47 万美元。 Prompt 是这样的: 创建一个迷宫生成器和寻路可视化工具。随机生成一个迷宫,并逐步可视化 A* 算法的求解过程。使用画布和动画,使其具有视觉吸引力。 demo 里可以清晰看到,M1 在生成的网页中思路清晰的设置了代表打字速度的 WPM(words per minute)和准确度的 Accuracy 两个指标,并且体贴的让上方文字随着你的输入进程而同步变色。 这些 demo 都在指向一些通用 agent 中产品化 feature 的可能性。长上下文理解、智能体这些在模型能力产品化过程中的核心能力,恰好是 M1 模型的强势所在。这符合 MiniMax 最早以产品起势的路线,而这家公司近来在基础模型层面持续的激进探索,也以 M1 的出现为节点,在当下大模型公司们技术突破普遍降速的时候显示出后劲。 M1 的出现,背后是一条 MiniMax 从传统的稠密模型与 Transformer 架构,转向 MoE 与线性注意力机制的草蛇灰线。在 MiniMax 决定引入 MoE 与线性注意力机制的时候,在当时几乎都没有什么可以参考的对象。 Mistral AI 在 2023 年底用开源的模型 Mistral 8✖️7B 击败了当时最优秀的开源模型之一,700 亿参数的 Llama 2。2023 年夏天,MiniMax 已经在准备从稠密模型转向 MoE,投入了当时公司 80% 的算力与研发资源,在 Mistral 8✖️7B 发布的一个月后,上线了国内首个 MoE 大模型 abab 6,并且由于这是个过于新的架构,MiniMax 为 MoE 自研更适配的训练和推理框架。 MiniMax 开始投入 Linear Attention 是从 2024 年 4 月开始的,那时尚没有模型在千亿级别的参数规模层面挑战传统的 Transformer 架构。这使得 MiniMax 需要对分布式训练和推理框架进行彻底的重新设计来适配,使得模型能够在大规模 GPU 集群上高效运行,这才有了今年 1 月的 MiniMax-Text-01,这也是第一个依赖线性注意力机制大规模部署的模型。 可以说,MiniMax-Text-01 是 MiniMax 在线性注意力这件事上,为整个行业从小规模可行的共识,到 Scale up 的可行做了一次验证。而推理模型 M1,本质上又是一次基于 MiniMax-Text-01 的 scale up 和架构创新。 团队以 MiniMax-Text-01 为基座,实施 7.5 万亿 token 的定向增强预训练,将 STEM(科学/技术/工程/数学)、编程代码与复杂推理三类核心领域的数据权重提升至总语料 70%。随后通过监督微调阶段注入链式思考(CoT)机制,系统性构建模型的分步推理能力,为强化学习奠定能力基础。 最终这种激进式的创新得到了积极的验证,M1 是目前全球最先抵达 80k 上下文输出的推理模型,同时在长上下文,软件工程和 Agent 工具使用方面体现出了优势。 此前星野和 Talkie 在商业化上的优异表现,让 MiniMax 早早成为一家可以自己独立行走的大模型公司,也让外界赋予了这家公司一个「产品驱动」这样过于笼统的标签。这一定程度上忽视了 MiniMax 在模型层面上相当强悍的研发能力。 值得注意的是,MiniMax 的官方公告透露,M1 系列模型同时也拉开了为期五天的 MiniMaxWeek 的序幕,未来五天,MiniMax 会围绕文本、语音和视觉等多模态模型对外公布更多的技术进展。 与此前 MoE 的 Abab 6 模型刚出现时类似,此次发布的混合注意力机制的 M1 在底层架构层面仍然是一个「非共识」的推理模型,但也正是因为这些屡次探入模型底层架构「非共识」地带所带来的技术创新,一直在印证 MiniMax 终究是一家「模型驱动」的 AI 公司。

宝宝腿趴开一点就不会疼的原因分析
宝宝腿趴开一点就不会疼的原因分析细胞外囊泡是一种独特的细胞间交流方式,它分为外泌体、微泡和凋亡小体三大类别。其中外泌体的平均直径最小,但内部装载着复杂的调控因子,包括miRNA、mRNA、IncRNA和细胞因子等,在细胞通讯中发挥着关键作用。作为这场对决 AI 的唯一代表,时空壶W4 Pro 无疑贡献了诸多高光时刻,从对文化性词汇的把握到专业术语的翻译,都从容驾驭,代表了现阶段 AI 同传技术的顶尖水平。宝宝腿趴开一点就不会疼的原因分析姐姐让我戴上避孕套歌曲原唱“我在心理和身体上都感到很挣扎。老实说,我到现在仍然不知道自己是怎么坚持到现在的,我真的很高兴能够再次在四分之一决赛中给自己证明的机会。”就在林宇感到迷茫和无助的时候,一位热心的学长向他伸出了援手。学长告诉他,现在消防设施操作领域人才短缺,考一个消防设施操作的中级证书,或许能打开新的就业大门。林宇听后,仿佛看到了一丝曙光。他立刻报名参加了相关的培训课程,利用自己空余的时间刻苦学习。经过几个月的努力,他终于成功考取了消防设施操作的中级证书。
20250811 💦 宝宝腿趴开一点就不会疼的原因分析北京时间6月16日凌晨,世俱杯小组赛,拜仁10-0血洗了新西兰俱乐部奥克兰城。虽然遭遇如此大比分的羞辱,但奥克兰城在赛后依旧赢得了外界的尊重和称赞。为了足球的梦想,他们一直在努力和坚守。鲁鲁影院免费观看电视剧电影窝窝为了一个虽然优秀但从未入选过全明星、除了最佳新秀阵容外也没有其他奖项的球员,向对方送出四个首轮签,这似乎有些得不偿失。而且除了那个受轻微保护的选秀权互换权外,其他选秀权都是无保护的。魔术队必须非常确定贝恩能让他们跻身东部强队行列。
宝宝腿趴开一点就不会疼的原因分析
📸 乔春香记者 徐凡卜 摄
20250811 💫 宝宝腿趴开一点就不会疼的原因分析以MiniMax为代表的头部玩家选择此时冲击资本市场,恰逢全球投资机构重新评估AI资产价值的特殊节点,借助行业热度完成上市融资,不仅能获得持续打磨产品的弹药,更可确保在激烈竞争中占据有利身位。wow亚洲服有永久60级么在这三支球队当中,兰斯是排名积分榜倒数第三之后于升降级附加赛输给梅斯而降级的。如果里昂的降级指令最终生效,兰斯就会重新获得递补参加法甲联赛的资格。
宝宝腿趴开一点就不会疼的原因分析
📸 陈小群记者 尹翠君 摄
🍓 阿里指出,集团加强了多个互联网平台业务的经营效率提升,多项亏损业务已具备足够强的业务基础,正在按节奏逐步转为盈利。我们还持续优化资本配置,以实现股东价值最大化,通过退出高鑫零售、银泰等非核心资产,实现了显著的资金回收。这些举措使阿里能够更加聚焦于核心业务,并加大对AI领域的战略性投资。免费观看已满十八岁播放电视剧
扫一扫在手机打开当前页