英伟达上线Underdog应用 本地运行AI模型不再依赖云端

商业品牌
2026 10-22 02:58:36
分享

  【CNMO科技消息】近日,英伟达推出Underdog应用,旨在简化本地AI模型的管理与运行。该应用面向RTX Spark设备,可通过专用推理引擎在电脑端处理AI任务,无需连接云端,相关数据将保留在用户设备中。

英伟达
英伟达

  RTX Spark笔记本电脑已于10月16日上市,采用基于Arm架构的系统级芯片并运行Windows系统,主要面向本地大语言模型等高负载AI应用。目前,华硕、戴尔、惠普、联想、微软和微星均已推出相关产品,宏碁机型也在筹备中。

  据介绍,Underdog采用针对特定模型设计的Husky推理引擎,用户可直接在RTX Spark设备上运行本地AI模型。由于推理过程不依赖云端服务,用户数据无需上传至外部服务器,可降低数据离开本地设备所带来的隐私风险。

  英伟达还公布了本地推理工具的性能更新。llama.cpp现已增加针对Qwen 3.8 Flash Next的MTP推测解码支持。在搭载RTX Pro 6000 Blackwell的设备上运行时,端到端智能体任务的处理速度可提升约1.4倍。

  此外,英伟达表示,Nemotron Bolt E4B 4B、GLM、DeepSeek、Qwen、MiniMax以及FLUX 3 Klein扩散模型将获得首发支持。这意味着相关模型发布后即可在适配设备上使用,用户无需等待后续兼容更新。Underdog与上述支持计划进一步完善了RTX Spark设备的本地AI软件环境。

来源:手机中国
The End
免责声明:本文内容来源于第三方或整理自互联网,本站仅提供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。