英伟达开源TwoTower模型：保留98.7%质量，AI生成提速2.42倍
IT之家 7 月 3 日消息，英伟源英伟达昨日（7 月 2 日）发布博文，达开宣布推出 Nemotron-Labs-TwoTower。型保这是留质量一种基于预训练自回归骨干网络的离散扩散语言模型，旨在突破大模型 Token 生成的生速倍速度瓶颈。
开源与授权
该模型以开源权重形式在 Huggingface 平台发布，成提采用 NVIDIA Nemotron Open Model License授权协议。英伟源
架构详解
- 总参数量：60B。达开
- 双塔架构：由两个 30B 的型保模块组成：
- 自回归上下文塔（AR Context Tower）：负责维护文本的自回归上下文。
- 扩散/降噪塔（Diffusion/Denoising Tower）：负责对噪声块进行去噪。留质量
- 激活机制：每个塔仅激活 3B 模型参数，生速倍并配备 128 个可路由专家（MoE）。成提
核心创新：TwoTower 架构将传统扩散语言模型中的英伟源任务解耦，把“上下文表示”与“去噪过程”分离到两个独立的达开神经网络中。上下文塔保持冻结状态，型保而去噪塔经过专门训练，两者通过逐层交叉注意力机制进行协作。
性能表现
英伟达数据显示，双塔架构在综合基准测试中保留了 98.7%的质量，同时实际运行吞吐量提升了 2.42 倍。
以下是具体基准测试结果对比：
| 任务指标 | Nemotron-3-Nano-30B-A3B (AR) | Nemotron-Labs-TwoTower (diffusion) |
|---|---|---|
| MMLU (5-shot, acc) | 78.56 | 78.24 |
| MMLU-Pro (5-shot, CoT EM) | 62.59 | 60.93 |
| ARC-Challenge (25-shot, acc_norm) | 91.72 | 92.66 |
| WinoGrande (5-shot, acc) | 76.09 | 76.09 |
| RACE (0-shot, acc) | 88.90 | 88.90 |
| HumanEval (0-shot) | 79.27 | 75.58 |
| MBPP-Sanitized (3-shot) | 74.71 | 74.28 |
| GSM8K (8-shot, acc) | 92.49 | 90.14 |
| MATH-500 (4-shot) | 84.40 | 80.60 |
| MMLU Global Lite (5-shot) | 73.97 | 73.94 |
| MGSM (8-shot, avg acc) | 80.80 | 80.40 |
| 质量保留率 | 100% | 98.7% |
| 生成吞吐量 (× AR) | 1.0× | 2.42× |
(责任编辑：娱乐)
小S发文怀念姐姐，晒大S练拳旧照，自曝与大S都用内地微信
周星驰，恰烂饭
值得二刷的4部爱情剧，白敬亭、吴磊各有一部，你喜欢哪部？推荐文章
-
王思聪这波操作，可谓把全网的脸都打肿了。此前盛传的“分手”与“破产”传闻，如今看来全是笑话。本以为遵循“铁打的校长，流水的网红”这一规律，这位21岁的妹子终究难逃被甩的命运。更扎心的是，但凡王思聪稍有
...[详细]
-
河北富商相亲发现小23岁对象酷似亡妻，DNA检测后傻眼：怎么可能
01燕赵大地，自古多慷慨悲歌之士，亦不乏商海弄潮的传奇人物。李成功，便是冀州府赫赫有名的富商。年届五旬的他，凭借着过人的胆识和敏锐的商业嗅觉，从白手起家，一步步打造起了自己的商业帝国，产业遍及地产、物
...[详细]
-
CVB收视周报重磅发布！【2026.7.4–7.10】黄金时段电视剧收视数据新鲜出炉✨📺 央视榜《种墨园》持续领跑央视黄金档，以全国收视率2.783%、收视份额12.580%的亮眼成绩强势占据榜首；《
...[详细]
-
纯粹热爱，阿根廷南极科考站员工在漫天风雪中庆祝球队晋级世界杯决赛
当地时间7月15日，阿根廷队长梅西率队在世界盃半决赛中以2-1逆转英格兰，连续两届闯入决赛，这一历史性时刻在南极大陆同样引发了热烈反响。在遥远的阿根廷南极科考基地，欢呼声穿透了凛冽的寒风。当地工作人员
...[详细]
-
于和伟没说错！被传“婚变”的李小冉，12年前就给自己铺好了退路
近日，关于李小冉与徐佳宁婚姻生变的消息甚嚣尘上。尽管爆料称两人早在2023年底便已分居，并于2025年11月在北京完成离婚手续，且双方为丁克家庭、呈现“女强男弱”态势，但截至目前，官方渠道民政局、律师
...[详细]
-
美联储加息预期急剧升温、银行财报季正式拉开帷幕、新任主席首次国会亮相——这三大关键变量在同一时间窗口叠加，使得本周二成为近期金融市场最具决定性意义的交易日。关键事件时间轴华盛顿时间早间 8:30：美国
...[详细]
-
TVB「御用惡女」離世享壽84歲 子女發訃告7.24大圍設靈
被譽為TVB「御用惡女」的資深演員梁珊，於今年7月1日安詳離世，享年84歲。梁珊憑藉精湛的演技塑造了多個經典角色，深受觀眾愛戴，其逝世令眾多電視迷深感痛惜。其子女宇澄與天之今日13日）正式發布訃告，詳
...[详细]
-
美股存储芯片股加速下跌，闪迪重挫12%，中国资产深夜爆发，阿里巴巴涨超5%
7月15日美股交易时段，市场呈现分化走势。截至北京时间次日凌晨23:00，美股三大指数整体维持红盘，道琼斯指数微涨0.38%，纳斯达克综合指数上涨0.19%，标普500指数同步上涨0.19%。存储芯片
...[详细]
-
【导读】韩国检方以涉嫌违反《公平交易法》为由，对澜起科技、瑞萨电子及Rambus在韩办公室进行突击搜查，调查半导体零部件价格操纵传闻。受此消息影响，澜起科技A股开盘即大跌超17%。中国基金报记者 卢鸰
...[详细]
-
IT之家 7 月 15 日讯 —— 据中国民航局官网消息，2026 年全国民航年中工作电视电话会议今日在北京召开。民航局局长宋志勇在会议上通报了上半年行业运行数据及无人机管理进展：上半年，全行业运输生
...[详细]
热点阅读
- 阿里Qoder以47.6%市占率领跑2025中国AI编程市场，规模预计两年翻三倍
- 从“一处美”到“全域美”，文明乡风让齐鲁乡村更有“看头”
- 大盘指数缩量回踩年线，“高低切”行情再现！
- 腾讯云：8月1日起，对云数据库MySQL本地盘实例存储空间超用部分进行计费
- 4.7%，经济增长的逻辑变了
- 威胁摧毁伊朗所有桥梁，不排除派遣地面部队，美媒：白宫讨论大规模进攻伊朗
- 苹果更新地图Apple Maps广告投放条款：明确禁投家居服务等内容
- 卫报：图赫尔被斯卡洛尼“完爆”；英格兰队本性难移罪有应得
- 豆瓣9.8封神！男性必看的10部顶级权谋剧，看完格局直接打开
- 火爆！英阿大战半场19次犯规仅3射门 记者吐槽：街头斗殴+裁判太软
