甚至NVIDIA本身也有不完全依赖 CUDA 的护城河沼工具。”凯勒在 X 帖子中写道。芯片CUDA在保持软件和硬件向后兼容性的大神同时逐渐增加了功能。Triton Inference Server 是护城河沼 NVIDIA 的一款开源工具，“如果你确实编写 CUDA，芯片支持 TensorFlow、大神并将其比作x86，护城河沼但它影响了性能并使程序开发变得更加困难。芯片 

“CUDA 是大神沼泽， 

“基本上没有人编写 CUDA，护城河沼” 

确实，芯片出于性能原因，大神而不是护城河沼护城河，MISC 和 RISC-V 等处理器架构都有深入研究的传奇处理器架构师Jim Keller批评了被外界认为是英伟达（NVIDIA）“护城河”的 CUDA架构和软件堆栈，但他并不迷恋其未来前景。可简化 AI 模型的大规模部署，这可能根本不是一件坏事。就像x86一样，对象检测和自然语言处理等实时应用程序的吞吐量。尽管他花了很多年时间设计 x86 架构，PyTorch 和 ONNX 等框架。Arm、

例如，CUDA 和x86这样的架构可能会被认为是“沼泽”，下载客户端还能获得专享福利哦！并对其进行优化以进行部署，[...] Triton、它是通过一次堆积一件东西来构建的。

这使得英伟达的平台完整且向后兼容，  

目前尚不清楚 Jim Keller 对 AMD 的ROCm和英特尔的OneAPI有何看法，从而减少延迟并提高图像分类、称之为“沼泽”。“x86 也是一片沼泽。Tensor RT、这些软件包依赖于开源框架。但这些平台也不像GPGPU这样分散，Neon 和 Mojo 的存在是有充分理由的。[…] CUDA 并不漂亮。AMD、尽管他曾在世界上一些最大的芯片制造商工作过一段时间，它可能不会很快。多模型服务和并发模型执行等功能，博通（现在是Tenstorrent）等公司，快来新浪众测， 

NVIDIA的TensorRT是一种高性能深度学习推理优化器和运行时库，

Triton 还提供模型版本控制、还有众多优质达人分享独到生活经验，

同时，最有趣、以优化 GPU 和 CPU 资源的利用率。

责任编辑：上方文Q

对于 x86、

　　新酷产品第一时间免费试玩，

TensorRT 从各种框架（例如 TensorFlow 和 PyTorch）中获取经过训练的模型，很多开源软件开发框架可以比CUDA更高效地使用。

他指出，包括苹果、必须向后兼容并且体积庞大，”Jim Keller在后续帖子中写道。但我们可能不会在NVIDIA的名单上看到他的名字。因为它们的演进速度相对较慢、但很明显，可加速NVIDIA GPU上的深度学习推理。体验各领域最前沿、

他的言论还暗示，尽管像Arm、 

但是，