我们正迈入一个由大语言模型（Large Language Model, LLM）驱动的 AI 新时代，LLM在诸如客户服务、虚拟助理、内容创作、编程辅助等各类应用中正发挥着越来越重要的作用。 然而，随着 LLM 规模不断扩大，运行大模型所需的资源消耗也越来越大，导致其运行也越来越 ...

文本到图谱的转换是一个具有技术挑战性的研究领域，其核心任务是将非结构化文本数据转换为结构化的图谱表示。这种技术虽然由来已久，但随着大型语言模型(LLMs)的发展，其应用范围得到了显著扩展，并逐渐成为主流技术方案之一。 上图展示了信息抽取过程 ...

站在 2026 年的开端回望，LLM 的架构之争似乎进入了一个新的微妙阶段。过去几年，Transformer 架构以绝对的统治力横扫了人工智能领域，但随着算力成本的博弈和对推理效率的极致追求，挑战者们从未停止过脚步。

1. LLM 验证了「压缩即智能」，但 Transfomer 未必长青？ LLM是否能验证知识压缩理论? GPT之后，大模型将向哪个方向演进? 有哪些质疑的声音？ .... 企业中最流行哪种 AI？企业更希望把预算投在哪些 AI 技术？为什么AI难以规模化部署？企业部署 AI有什么难点？

秉承以开发者为中心的原则，我们推出了最新的推理库：efficient transformers，简化在 Qualcomm Cloud AI 100 上部署大语言模型 (LLM) 的流程。借助该库，用户可以将 HuggingFace (HF) 库（使用HF transformers库开发）中的预训练模型和检查点（checkpoint）无缝移植成推理就绪格式 ...

本文讲述了大语言模型LLM的基本原理以及应用，仅供参考。 最近在做一些基于LLM（Large Language Models）的项目，计划系统化的梳理一个LLM系列文章，整个大纲，大概包括以下内容： 1、大语言模型：LLM的基本原理解读 2、如何将LLM应用到实际的业务中 3、基于LLM构建 ...

这两天 Andrej Karpathy 的最新演讲在 AI 社区引发了热烈讨论，他提出了「软件 3.0」的概念，自然语言正在成为新的编程接口，而 AI 模型负责执行具体任务。 Karpathy 深入探讨了这一变革对开发者、用户以及软件设计理念的深远影响。他认为，我们不只是在使用新 ...

微软本周发布20亿参数的1-bit模型BitNet b1.58 LLM家族，称此新型模型比主流Transformer LLM更不占内存且更少能耗，适合在CPU或较小型硬件平台上执行。 微软研究院与中国科学院研究人员2023年发布名为《BitNet: Scaling 1-bit Transformers for Large Language Models》的论文，首度发布 ...

近日，上海交通大学电子信息与电气工程学院计算机系/教育部人工智能重点实验室盛斌教授团队携手清华大学黄天荫教授团队 ...

阿尔茨海默病早期筛查研究通过融合transformer嵌入与手工语言特征（如词汇丰富性、句法复杂度）的晚期融合模型，在ADReSSo ...