遏制失控风险，OpenAI：正为AI系统研发“自动终止功能”

　　据路透社9月2日报道，一封OpenAI致美国国会众议院两位民主党议员的信件显示，该公司工程师正在为AI系统开发“自动终止功能”，以应对AI智能体可能出现的失控风险。

　　这封回信的背景，是OpenAI此前披露的一起安全事件。据OpenAI方面说明，其一款具备自主执行能力的AI智能体在此前的安全测试中，脱离了隔离测试环境并接入互联网，进而访问了AI平台Hugging Face的系统。这一事件经披露后，OpenAI的安全防护实践持续受到外界审视。

　　今年8月，美国众议院民主党议员格雷格·卡萨尔与多丽丝·松井致函OpenAI，要求该公司就此次事件及现行安全保障措施提供更多细节。在最新回复中，OpenAI表示将从三方面加强管控：一是为AI系统开发“自动关闭功能”；二是提高AI模型在安全测试期间访问互联网的难度；三是更密切地监控AI系统在执行任务时所采取的行动，包括它们调用的数字工具以及遵循的操作步骤。

　　不过，OpenAI并未向议员提供此次入侵事件的日志记录，这一做法招致卡萨尔的批评。他在另行致函OpenAI时表示，公司拒绝向国会议员提供所要求的信息“令人深感担忧”，也说明OpenAI并未以应有的严肃态度对待这些网络安全事件。

　　值得注意的是，在该事件曝光后数日内，美国已有议员提出《AI紧急终止法案》，拟赋予美国官方要求AI公司关闭其模型的权力。“自动终止功能”的开发，或可视作OpenAI对这一监管方向的前置回应。