在做大语言模型（LLM）的训练、微调和推理时，使用英伟达的 GPU 和 CUDA 是常见的做法。在更大的机器学习编程与计算范畴，同样严重依赖 CUDA，使用它加速的机器学习模型可以实现更大的性能提升。 虽然 CUDA 在加速计算领域占据主导地位，并成为英伟达重要的 ...

【导读】用英伟达的GPU，但可以不用CUDA？PyTorch官宣，借助OpenAI开发的Triton语言编写内核来加速LLM推理，可以实现和CUDA类似甚至更佳的性能。 试问，有多少机器学习小白曾被深度学习框架和CUDA的兼容问题所困扰？ 又有多少开发者曾因为频频闪烁的警报「CUDA版本 ...

好家伙，AI意外生成的内核（kernel），性能比人类专家专门优化过的还要好！ 斯坦福最近披露了一组新发现，结果真的太亮眼了。 由AI优化的内核，在常见深度学习操作上，翻倍超越原生PyTorch，性能至多可以提升近400%—— 矩阵乘法（Matmul，FP32）：性能达到 ...

【新智元导读】谷歌正在推进一项代号为「TorchTPU」的战略行动，核心是让全球最主流的 AI 框架 PyTorch 在自家 TPU 芯片上跑得更顺畅。这项行动不仅是技术补课，更是一场商业围剿。作为 PyTorch 的掌控者，Meta 也深度参与其中，两家巨头试图联手松动英伟达的垄断 ...

前阵子看到 Anthropic 要花 210 亿美元买 100 万块谷歌 TPU v7 芯片的消息时，我正在和运维同事争论要不要给新服务升级英伟达 B200。他坚持 “CUDA 生态成熟，出了问题好找解决方案”，我却觉得 “现在模型越来越大，长期租云算力成本太高”，结果这则新闻直接让我们的争论有了新方向 —— 原来头部 AI 公司已经开始 “算力自主” 了。

PyTorch 1.0 shines for rapid prototyping with dynamic neural networks, auto-differentiation, deep Python integration, and strong support for GPUs Deep learning is an important part of the business of ...

【新智元导读】本想练练手合成点数据，没想到却一不小心干翻了PyTorch专家内核！斯坦福华人团队用纯CUDA-C写出的AI生成内核，瞬间惊艳圈内并登上Hacker News热榜。团队甚至表示：本来不想发这个结果的。 就在刚刚，斯坦福HAI华人大神团队又出惊人神作了。

Learn how to create a simple neural network, and a more accurate convolutional neural network, with the PyTorch deep learning library PyTorch is a Python-based tensor computing library with high-level ...

快科技9月25日消息，在2025年Computex大会上，AMD承诺将通过ROCm为Windows系统带来PyTorch支持，如今这一承诺终于兑现。 AMD发布了ROCm 6.4.4预览版本，为Windows系统下的Radeon RX 9000和RX 7000系列显卡以及Ryzen AI系列APU带来了PyTorch支持。 ROCm是由AMD开发的开源GPU计算生态系统 ...