新智元报道 编辑:定慧【新智元导读】AI最底层规则要被改写,当模型先打腹稿再开口,AI还只是一只概率鹦鹉吗?Transformer可以说整个LLM的基石,但这个基石要松动了!8年了!持续了8年的Transformer底层架构似乎要被Meta打破了。Meta推出「自由Transformer」(Free ...
【新智元导读】大模型「灾难性遗忘」问题或将迎来突破。近日, NeurIPS 2025收录了谷歌研究院的一篇论文,其中提出一种全新的「嵌套学习(Nested ...
在旧金山 TED AI 大会上,这位被誉为“生成式 AI 时代奠基人”的研究者,突然“开炮”——不仅公开批评了整个 AI 行业的研究方向,还宣布自己已经“离开 Transformer”,开始寻找下一次重大突破。
大家好,今天我们来聊一聊来自清华大学和北京大学的最新研究成果,它为热门的Vision Transformer(ViT)带来了令人瞩目的技术突破。最近被NeurIPS 2025录用的论文《Linear Differential Vision Transformer: Learning Visual Contrasts via Pairwise ...
近日在旧金山举行的 TED AI 大会上,Llion Jones 表示: 尽管前所未有的投资和人才正涌入 AI 领域,但该领域已经僵化在单一的架构方法上,这可能会让研究人员对下一个重大突破视而不见。
国家知识产权局近日公告,德中(深圳)激光智能科技有限公司及其关联公司,联合取得一项名为“一种面向高密度PCB的轻量化Transformer缺陷检测方法和装置”的专利(授权公告号CN120726034B,申请日期2025年08月)。这一消息预示着在高密度PCB制造领域,特别是针对轻量化、Transformer架构的缺陷检测技术取得了新的进展,有望提升PCB的生产效率和产品质量。 德中激光的专利布局与 ...
人工智能领域迎来一项突破性进展,国际研究团队成功开发出一种融合Transformer与Mamba架构优势的新型语言模型。这项由多国科研人员共同完成的研究,通过创新性架构设计实现了模型性能与效率的双重突破,为自然语言处理技术开辟了新路径。