【CNMO科技消息】近日,英伟达推出Underdog应用,旨在简化本地AI模型的管理与运行。该应用面向RTX Spark设备,可通过专用推理引擎在电脑端处理AI任务,无需连接云端,相关数据将保留在用户设备中。

英伟达
RTX Spark笔记本电脑已于10月16日上市,采用基于Arm架构的系统级芯片并运行Windows系统,主要面向本地大语言模型等高负载AI应用。目前,华硕、戴尔、惠普、联想、微软和微星均已推出相关产品,宏碁机型也在筹备中。
据介绍,Underdog采用针对特定模型设计的Husky推理引擎,用户可直接在RTX Spark设备上运行本地AI模型。由于推理过程不依赖云端服务,用户数据无需上传至外部服务器,可降低数据离开本地设备所带来的隐私风险。
英伟达还公布了本地推理工具的性能更新。llama.cpp现已增加针对Qwen 3.8 Flash Next的MTP推测解码支持。在搭载RTX Pro 6000 Blackwell的设备上运行时,端到端智能体任务的处理速度可提升约1.4倍。
此外,英伟达表示,Nemotron Bolt E4B 4B、GLM、DeepSeek、Qwen、MiniMax以及FLUX 3 Klein扩散模型将获得首发支持。这意味着相关模型发布后即可在适配设备上使用,用户无需等待后续兼容更新。Underdog与上述支持计划进一步完善了RTX Spark设备的本地AI软件环境。
版权所有,未经许可不得转载
来源:手机中国