开yun体育网MoC 也相似能结束降本成果-新|开云·(中国)Kaiyun体育手机官网登录网址
生要素钟级的长视频开yun体育网，只需要和短视频独特的资本？
字节 Seed 与斯坦福等机构的猜测东说念主员一说念推出的新模子，能让长视频生成的策画量缩短 85%。
而且质料不减，还大要保握东说念主物和场景的连贯性。
请看 VCR：
团队以为，长视频生资本体上是一个长落魄文记挂问题，将视频生成重新界说成了落魄文检索任务。
为此，团队提议了一种新的寥落把稳力机制—— Mixture of Contexts（MoC）——行动有用的历久记挂检索引擎。
低资本生要素钟级视频
先来看用这项时期生成的长视频成果。
当先是写实场景，这段视频长度 56 秒，展示的是一老一少两个男东说念主坐在咖啡馆中交谈的场景。
从中不错看出，两个东说念主的外貌和衣服特征在经过屡次视角切换之后已经保握一致，桌子上的咖啡亦然如斯。
换成卡通场景，也能在长达一分半的期间之内保握前后一致性。
要害是，生成这么历久间一致的视频资本，被 MoC 打下了一个数目级。
使用 MoC 机制生成一分钟的 480P 视频，仅需破费 2.32 × 10 ¹² FLOPs 的策画量，而基线模子需要 1.66 × 10 ¹³ FLOPs，MoC 将策画量削减了 85%。
关于短片来说，MoC 也相似能结束降本成果。
多镜头 64 秒（8 × 8 秒）的 480P 视频中，基线为 1.7 × 10 ¹³ FLOPs，而 MoC 只用 2.3 × 10 ¹² FLOPs，相似检朴约 86%。
而况主题一致性、布景一致性、动作连贯性、图像质料等性能筹画饱和优于基线模子。
单镜头 8 秒的 320 × 192 短片测试里，基线 1.9 × 10 ¹ ⁰ FLOPs，MoC 为 4.1 × 10 ⁹ FLOPs，策画量减少约 78%。
那么，MoC 要津是怎样结束的呢？
将长视频生成重构为信息检索
作家以为，长视频生成主若是受制于跨时域记挂的高效调取，为报复这一瓶颈，他们提议了名为 Mixture of Contexts（MoC）的寥落落魄文检索层，将生成历程重构为一次里面信息检索。
而 MoC 的核神思制，是，具体来说，先把跨模态序列切谚语义同质的内容块，然后让每个查询 token 只与最关连的少数块开拓把稳力结合。
这一系列操作不更正扩散 Transformer 骨干，仅以寥落检索的方法把策画聚合在果真伏击的历史。
"可磨真金不怕火寥落路由"
MoC 的第一步是"内容对都分块"——论文指出视频序列在三维时空上高度非均匀，如果节略按固定长度滑窗切片，会把远离的场景混入吞并窗口，导致均值池化后的块形貌符失去判别力。
因此，作家依据帧、镜头、模态范围动态切块，让每个块在三维位置上局部且语义一致，从泉源上提高了检索精度，也幸免了不必的策画猝然。
随后参预"动态 top-k 路由"，关于每个查询 qi，模子用均值池化得到的块形貌符策画点积相似度，只保留得分最高的 k 个块参与把稳力，再把必选锚点加入掩码中。
这一步完全无参数，却在反向传播中通过梯度调度投影矩阵，使查询与块形貌符接续自相宜，最终把节略的"均值 +top-k "磨真金不怕火成高抒发力的检索器。
为了驻扎指示漂移和局部模糊，作家在路由前硬性加入两类强制边：
其一是"跨模态"纠合，保证所有这个词视觉 token 永久可看望完满文本指示，维系主题一致且强化可剪辑性；
其二是"镜头内"纠合，使每个 token 至少温雅自身镜头鸿沟内的块，既为寥落图提供矫捷下界，又让寥落预算果真用于跨镜头长依赖。
另外，寥落图本人易形成闭环，变成信息淹留。作家通过在路由阶段加入严格期间掩码，谢绝任何查询看望我方或之后的块，把所有这个词这个词图不竭为 DAG，从结构上阻绝轮回并显赫擢升长程动态平滑性与磨真金不怕火矫捷性。
除了机制本人，在工程结束方面，MoC 回把选中的键值一次性打包进 FlashAttention 可变长核，结束对数千万 token 的线性伸缩且访存一语气，在 GPU 上可充分并行。
论文地址：
https://arxiv.org/abs/2508.21058
神情主页：
https://primecai.github.io/moc/
一键三连「点赞」「转发」「谨防心」
接待在接洽区留住你的思法！
— 完 —
专属 AI 产物从业者的实名社群，只聊 AI 产物最落地的真问题 扫码添加小助手，发送「姓名 + 公司 + 职位」央求入群～
进群后，你将径直获取：
� � 最新最专科的 AI 产物信息及分析 � �
� � 不如期披发的热点产物内测码 � �
� � 里面专属内容与专科扣问 � �
� � 点亮星标 � �
科技前沿施展逐日见开yun体育网