大家都知道，图像生成和去噪扩散模型是密不可分的。高质量的图像生成都通过扩散模型实现。 但有没有一种可能，「去噪扩散模型」实际上并没有做到「去噪」？ ResNet 之父，超70万引用的 AI 大神何恺明的新论文敏锐地捕捉了这一现象。 当扩散生成模型最初被 ...

当一家公司愿意投资自己曾经的员工创办的初创企业时，这通常说明两件事：一是前员工确实做出了值得关注的东西，二是这家公司正面临某种紧迫感。谷歌对日本人工智能初创公司 Sakana AI 的战略投资，恰好同时印证了这两点。 1 月 23 日，Sakana AI 宣布与谷歌 ...

日前，OpenAI发布视频生成模型Sora，引起了全球范围内的广泛关注和讨论。从深度学习崭露头角到大模型浪潮席卷科技圈，AI发展的进程中经历了许多里程碑式事件。其中，Transformer架构可以说是大模型领域的“统治者”。对于AI大模型而言，Transformer架构发挥了 ...

这两天，VentureBeat 一篇报道在 Hacker News 上引发热议。 颠覆性论文《Attention is all you need》的作者之一，现任 Sakana AI CTO 的 Llion Jones 在近日的 TED AI 大会上表示他已经厌倦了 Transformer 是什么，让这位 Transformer 的创造者发出了如此言论？ 近日在旧金山举行的 TED AI ...

现在最前沿、最被学界追捧、被产业界寄予厚望的自动驾驶技术，是什么？ 地平线创始人余凯博士最新的朋友圈揭晓了答案： Vision Mamba，全球年度AI论文高引TOP 3，也被认为是Transformer最强挑战者——Mamba架构在视觉领域的“飞跃式”进展。 背后核心团队，和端 ...

在深度学习的发展历程中，2017 年谷歌团队发表的《Attention Is All You Need》论文具有里程碑意义 —— 该论文提出的 Transformer 架构，彻底改变了自然语言处理（NLP）乃至人工智能领域的技术路径。与传统循环神经网络（RNN）、卷积神经网络（CNN）不同，Transformer 以 ...

Transformer，6岁了！2017年，Attention is All You Need奠基之作问世，至今被引数近8万。这个王者架构还能继续打多久？ 2017年6月12日，Attention is All You Need，一声炸雷，大名鼎鼎的Transformer横空出世。 它的出现，不仅让NLP变了天，成为自然语言领域的主流模型，还成功跨 ...