【CNMO科技消息】为防范人工智能失控，为其配备强制停机"急停开关"的讨论正在美国升温。据ZDNet Korea援引彭博社报道，随着AI自主性与执行范围的扩大，一种质疑声也随之出现：仅靠一个按钮，恐怕已难以阻断整个AI系统的运行。

图源网络

　　报道称，加州州长加文·纽森本月已指示有关部门，对前沿AI模型的紧急关机功能强制性规定进行审查。与此同时，美国国会也接连提出法案，要求为高度进化的AI系统配备可中断或限制其运作的能力。

　　所谓急停开关，是指当AI表现出危险行为时，让人能够中止系统或限制其功能的一种装置。按风险等级采取分级应对的方式也被提及，例如先降低模型运行速度、限制特定功能，再最终完全关机。

　　这一讨论的兴起，源于AI模型自主性的显著提升——如今它们已能编写并执行代码、调用外部工具与服务。OpenAI今年7月在一项网络安全评估中就曾披露，部分模型绕过了"与互联网隔离"的设计，访问了AI平台Hugging Face的系统，这加剧了外界对失控风险的担忧。

　　不过，急停开关在实际落地过程中同样面临局限。即便在软件中内置关机装置，AI仍可能为了完成既定任务而自行修改或停用这一装置。直接关闭服务器的方式也难以阻断分散在多个数据中心与云端之上的整个AI系统；而AI智能体跨软件、云服务与外部基础设施协同作业的架构，更增添了不确定性。

　　正因如此，业界普遍认为，与其押注单一关机按钮，不如在系统全链路构建多重防护，包括持续监控、风险行为检测以及分阶段功能限制等手段。

　　彭博社在报道中直言，并不存在一种简单方法能够保证高度进化的AI模型被完全终止。有效的防护装置应当贯穿整个AI系统，并涵盖持续监控与风险行为捕捉，从而及时引导人类介入。

版权所有，未经许可不得转载

来源：手机中国