蚂蚁技术研究院李建国:扩散语言模型或成LLM新方向,生成速度可达传统模型4倍以上

专题:2026北京智源大会

蚂蚁技术研究院李建国:扩散语言模型或成LLM新方向,生成速度可达传统模型4倍以上-第1张图片

  6月12日至13日 ,2026第八届北京智源大会在北京中关村国际创新中心举行 。蚂蚁技术研究院深度学习实验室负责人李建国出席并演讲。

  李建国表示,扩散模型或将成为语言模型下一阶段的重要发展方向和补充,其在生成速度和可编辑性方面展现出显著优势。

  他解释到 ,扩散模型在图像生成领域已是主流范式,应用非常广泛 。正向过程是通过对图像逐步添加噪声直至变为白噪声,反向过程是从白噪声中逐步去噪 ,恢复出原始图像。

  而在语言领域 ,当前主流范式是“Next Token Prediction”。“就像打字机一样,我前面打出一个字,后面接着就依赖前面去产生下一个字 。扩散语言模型则将图像领域的范式迁移到语言中 ,可以像印刷机一样批量 、成批地输出词元 。 ”

  李建国以今年2月发布的LLaDA 2.1模型(可编辑扩散生成)与蚂蚁百灵2.0模型(100B参数)对比为例。LLaDA的生成速度约为1000 token/秒,而百灵2.0约为200 token/秒,速度相差4倍以上。

  他指出 ,从核心特性看,有两个速度,一个是传统的AR模型 ,一次只输出一个token,即使采用投机采样方法(如MTP)也只能做到2-3个 。另外一个速度,就是扩散语言模型 ,起步平均能做到5-6个,在代码生成、智能体等场景中,实际观察可超过10个 ,最高可达15个。

  此外 ,扩散语言模型的另一个重要特性是可改写性。例如在生成过程中某个字出现错误,可以通过“悔改”机制只修改错误的那一个位置,而无需重新生成整个序列 。

  新浪声明:所有会议实录均为现场速记整理 ,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

标签:

相关推荐

  • 广州新增确诊详情(广州新增确诊详情最新消息)

    广州新增确诊详情(广州新增确诊详情最新消息)

    3月11日广州白云区新增5个重点场所〖壹〗、月11日广州白云区新增的5个重点场所为云城街社区卫生服务中心、萧岗东约西街五巷新鲜水果店、美芝选便利店(萧岗东约店)、东约北街14巷开心果园、东约大街1巷。具体情况如下:信息来源:3月11日下午5时,广州市疫情防控新闻发布会公布了这一消息。〖贰〗、新增重点场所:虽然新增重点场所信息不直接决定防范区范围,但有助于了...

  • 广西新增本土无症状136例(广西新增1例无症状感染者)

    广西新增本土无症状136例(广西新增1例无症状感染者)

    8.8广西疫情月8日0-24时,广西新增本土确诊病例1例,本土无症状感染者25例,当日治愈出院本土确诊病例10例,解除隔离医学观察本土无症状感染者53例。具体情况如下:新增本土确诊病例:1例(北海市海城区),为无症状感染者转确诊病例。新增本土无症状感染者:25例,具体分布为:崇左市12例,其中宁明县9例,大新县3例。非农利空未改多头趋势:非农数据虽利空黄...

  • 9月份小麦行情/9月份小麦行情分析

    9月份小麦行情/9月份小麦行情分析

    小麦费用迈过1.5元/斤后冲高回落,旺季来临能否带动再次上涨?当前小麦费用回落原因粮商售粮心态松动:小麦费用冲高至5元/斤后,高价促使粮商售粮心态开始松动,市场粮源流通增加。此前基层惜售供货少,导致市场粮源供应偏紧,推动费用走高,而如今粮商售粮积极性提高,改变了市场粮源的供需格局,使得小麦费用有所回落。下游需求难以支撑:小麦费用的快速上涨造成下游需求难以支...

  • 首钢资源三股东同日增持合计45.8万股 涉资约100.36万港元

    首钢资源三股东同日增持合计45.8万股 涉资约100.36万港元

      香港联交所最新数据显示,6月26日,首钢资源(00639)三名股东同步增持公司股份,合计增持约45.8万股,涉资约100.36万港元。  具体来看,董事总经理范文利增持20.8万股,每股作价2.1716港元,总金额约45.17万港元,增持后最新持股数目约为114.8万股,持股比例为0.02%;股东蔡伟贤增持10万股,每股作价2.1750港元,总金额约...

    2026/07/01
  • 【锦泰期货行情软件,锦泰期货400客服电话】

    【锦泰期货行情软件,锦泰期货400客服电话】

    锦泰期货怎么样?锦泰期货有限公司的经营范围是:商品期货经纪、金融期货经纪,期货投资询问,资产管理。(依法须经批准的项目,经相关部门批准后方可开展经营活动)。在江苏省,相近经营范围的公司总注册资本为2887946万元,主要资本集中在5000万以上规模的企业中,共406家。本省范围内,当前企业的注册资本属于一般。锦泰期货有限公司对外投资3家公司,具有12处...

  • 广州:拟提升退税商店覆盖率 推动各类入境消费重点场所增设退税商店

    广州:拟提升退税商店覆盖率 推动各类入境消费重点场所增设退税商店

      《广州市落实加力优化离境退税政策的实施方案》公开征求意见。其中提到,提升退税商店覆盖率。鼓励更多具备条件的商店备案成为退税商店,持续优化空间布局,在11个区全覆盖基础上,继续推动各类入境消费重点场所增设退税商店,重点拓展一批境外旅客较多的重点商圈、景区、市场、口岸,以及具有鲜明本土特色的优质品牌、老字号企业、旅游景区商店、文博场所纪念品商店、主题乐园购物...

    2026/07/01
  • 今天铝锭什么费用行情/今天铝锭费用?

    今天铝锭什么费用行情/今天铝锭费用?

    国内长江现货铝锭铝价走势如何〖壹〗、截至5月19日,长江现货A00铝锭费用报24200元/吨,受海外供应紧缺、国内新能源等领域消费支撑影响,预计铝价将延续强势走势。〖贰〗、截至2026年6月18日,国内铝锭出售费用根据市场类型、区域及规格不同存在小幅波动,主流现货市场均价区间为23820-24080元/吨。主流现货市场报价有色宝长江市场:费用区间238...

  • 文华赢顺下载行情官方网站/文华赢智程序化交易平台

    文华赢顺下载行情官方网站/文华赢智程序化交易平台

    文华赢顺WH6天通银分析软件如何调出铜〖壹〗、在文华赢顺WH6软件中调出铜的操作步骤如下:第一步:确认软件是否支持铜品种文华赢顺WH6作为期货交易软件,通常覆盖国内主流期货品种,包括铜(如沪铜、世界铜等)。若软件版本正常且开户公司已签约相关品种,铜的行情数据可直接调取。若软件未显示铜品种,可能是未登录支持该品种的账户,或需更新软件版本。〖贰〗、文华赢顺WH...

  • 【喀什疫情与之前不同,喀什疫情有不同】

    【喀什疫情与之前不同,喀什疫情有不同】

    喀什市因为疫情被封城几次?〖壹〗、喀什市因为疫情被封城过两次。第一次封城:发生在2020年新冠疫情初期。为了控制疫情的传播,喀什市政府采取了严格的封城措施,包括限制人员流动、关闭公共场所等。这次封城对喀什市的经济和社会生活造成了较大影响,但在政府和全市人民的共同努力下,疫情得到了有效控制。〖贰〗、根据我了解到的信息,喀什市没有封城。喀什地区现有确诊病例(轻...

  • 江苏疫情最新通报(江苏疫惰最新通报)

    江苏疫情最新通报(江苏疫惰最新通报)

    中国哪些地区有疯牛病发生〖壹〗、近来中国本土没有官方通报的牛群疯牛病疫情,仅存在过从巴西疯牛病疫区流入的问题牛肉流入部分地区的情况。〖贰〗、江苏。疯牛病是一种人畜共患疾病,感染者的大脑会产生空泡并最终变成海绵状,它在中国江苏最严重,不过2023年中国人对疯牛病有了全面的了解,预防措施也是适当的。〖叁〗、大陆近来没有相关报道的,但是是在台湾有报告的病例。疯牛...

返回顶部