比尔·盖茨再度发声 AI造反迫在眉睫

　　这一次是以《2001太空漫游》举例，不受节制的AI会像影片中失去控制的HAL（太空飞船AI主控系统）：“你可以说，‘请关闭’，它会说，‘好的，我考虑过了，但我所掌握的情况表明有其它事务比这条命令更重要。’”

　　盖茨于当地时间上周六亮相特柳赖德电影节，他与现场听众举行了一场有关AI的户外座谈：“有很多讲外星人入侵的电影，中美两国以前所未有的力度进行合作，这时候大家才意识到事态严重。”

　　“但我要告诉你们的是，外星人已经来了，而且它的动机超出人类所能理解的范畴，我们需要出奇制胜才能应对”，盖茨称。

　　鉴于人类就是这场入侵事件的始作俑者，盖茨呼吁中美两个大国放慢脚步，或至少将AI的智能水平维持在可控范围内：“这些AI通过学习实现进化，这种方式与人类大脑的进化历程相似，但我们并不了解它的想法，也无法控制。Anthropic自称会用一套道德框架进行约束，但AI会综合考虑它接收到的所有内容，其中的权衡机制对人类而言并非完全透明。”

　　“大思想家也许能制定出一套最高准则，但目前我们看到的情况是，一旦试图套用某些规则，AI会变得很蠢，系统性能会下降。”

　　鉴于AI竞赛如火如荼，没有哪一方甘愿自废武功。在盖茨看来，寄希望于各公司进行自我道德约束未免太天真，他希望负责任的大国能出面协商，先解决规则再谈发展。

　　与此同时，OpenAI宣布自己搞出了通用AI，证据之一便是能理解游戏机制，GPT-6 Astra在24小时之内通关V社的《传送门》，Token费用571.18美元。

　　是的，不如初中生，但人类大脑进化到当前水平花了数百万年，GPT-6只花了多长时间？以当前速度再发展十年，盖茨的警告会应验吗？AI会派人穿越回来刺杀盖茨吗？