编辑：KingHZ
【新智元导读】从拦截彼得·蒂尔、警告马斯克，到如今公开说「必须有适应能力」，哈萨比斯史诗级转身：AI安全窗口正在永久关闭，他不再幻想制度，而是赌上全部身家——赌影响力，赌良知，赌自己。
最怕AI毁灭人类的人，正在拼命造AI！
最相信治理的人，如今亲口承认：治理彻底靠不住！
最强调安全的DeepMind，也被拖入战时军备竞赛！
就在几小时前， DeepMind创始人Demis Hassabis哈萨比斯自己亲手砸碎了AI安全幻想，从理想主义者彻底转向现实派。
他承认：超级智能可能灭绝人类，却只能靠自己「抢座上桌」来护航。
哈萨比斯，这个曾发誓要用严密的制度、法律约束和伦理委员会将AI锁进笼子里的人，坐在那个破旧的吊灯下，无奈承认：
「安全不再取决于治理结构。即便有董事会，在关键时刻，他们也未必会做对的事。」
他转而提出了一个极具现实主义、甚至带有些许悲剧色彩的新方案：「我必须坐上桌，争取影响力。」
幻想再三破灭，哈萨比斯转身
哈萨比斯不是普通加速派。
一般而言，AI领袖通常分为两派：一派是以OpenAI奥特曼为代表的「加速主义者」，相信技术总能解决技术带来的问题；另一派是忧心忡忡的「末日预言家」，认为AI可能像核武器一样导致人类灭绝。
但哈萨比斯是一个极其复杂的矛盾体：他是为了阻止末日，才决定亲手制造AI。
这种近乎悖论的动力源于他极度深邃的焦虑。
哈萨比斯对「AI灭绝风险」了如指掌，熟悉程度甚至超过了最激进的抗议者。
他和DeepMind的另一位联创Shane Legg，就在一次AI安全的讲座上相识。
目前，Shane Legg任谷歌DeepMind的首席AGI科学家，担任AGI安全委员会联席主席，同时也领队研究后AGI时代的世界可能是什么样子。
在「奇点峰会」上，他曾拦截彼得·蒂尔（Peter Thiel），向他兜售关于机器如何超越人类的幻象。
他曾当面告诉马斯克，殖民火星毫无意义，因为如果超级智能是恶意的，它同样能造出横跨星际的火箭，火星绝不是人类的避难所。
这种焦虑催生了他早期极具英雄主义色彩的「单体治理」（Singleton Scenario）构想——
他曾严肃地计划，带着全球最顶尖的科学家，躲进一个秘密的「地堡」——可能是摩洛哥的沙漠，也可能是某个与世隔绝的孤岛。
在那里，他们将像开发曼哈顿计划一样，在没有资本压力、没有地缘竞争、没有世俗干扰的情况下，代表全人类开发出第一个「绝对安全」的超级智能。
哈萨比斯被马斯克背刺？
「只要这个世界上只有一只手握着火种，我们就还能控制火势。」 这是哈萨比斯最初的逻辑。
为了这个逻辑，他在2014年将DeepMind卖给谷歌时，开出了历史上最奇葩的收购条件：
即使谷歌付了钱，哈萨比斯依然要在AI安全事务上保持绝对的独立；
设立一个由独立专家组成的外部委员会来监督整个进程；
AI的军事应用将被严格禁止。
从少年时代起，哈萨比斯就立志要构建强AI。而只有确保其安全性，他才能为毕生的事业找到正当理由。
谷歌收购前不久，哈萨比斯曾提醒DeepMind的研究员候选人，如果签约加入，就要做好心理准备——最终的终局之战来临时，他会进入一个地下基地，实现单体治理的壮举。
2015年，为了落实谷歌承诺设立的AI监督委员会，DeepMind组织了一场秘密集会，邀请了哲学家和技术专家参加。
哈萨比斯邀请马斯克主持集会，地点设在马斯克的SpaceX加州总部。
但这一招适得其反。这次集会，标志着哈萨比斯的安全构想开始瓦解。
马斯克听取了哈萨比斯及其联合创始人的演示，随后反其道而行之。他与奥特曼联手创立了OpenAI。
那一刻，哈萨比斯的安全乌托邦就开始死了。
失了里子，还丢面子了
考虑到人性，这种局面不可避免。面对钻木取火般史诗级的AI技术前景，人们并不会凝聚成一个单一的集体。他们争论不休、相互嫉妒、各自为营。
此时，哈萨比斯本可以停下来重新思考。
如果「单一主体」的设想过于天真，AI开发者又如何避免一场冲向悬崖的竞赛？
但哈萨比斯非但没有停下脚步，反而加速前进。2016年，AlphaGo横空出世。机器智能超越人类智力的时间表，一下子提前了。
为了跟上AI这一进展，哈萨比斯提出了新的想法，希望让AI服务于人类。他与联合创始人穆斯塔法·苏莱曼一起，着手与谷歌谈判，寻求建立一套新的治理保障机制。
为了推进这个秘密的「马里奥计划」（Project Mario），他聘请了一支顶尖的法律团队，获得了外部10亿美元的资金承诺，并考虑如果无法获得对技术的控制权，就让DeepMind从谷歌独立出去。
与此同时，苏莱曼还带领DeepMind团队参与了一项帮助英国国家级的急性肾病管理项目。
如果能实现AI的独立治理，又能改善普通英国民众的健康状况，哈萨比斯或许就能确信，自己的追求确实是向善的。
然而，这两项努力均以失败告终。
与谷歌围绕治理权的拉锯战持续了三年，困难重重。
而帮助英国国家医疗服务体系的项目，则遭到了隐私保护倡导者的强烈反弹——他们愤怒于一家美国科技巨头的子公司可能染指患者数据。
到2019年，哈萨比斯和DeepMind在这两条战线上都已退却。苏莱曼最后也离开了DeepMind。
ChatGPT致命一击，谷歌AI狂飙
2022年，ChatGPT的爆发，像一颗核弹丢进了哈萨比斯的办公室。
在此之前，哈萨比斯还试图维持「科学家的优雅」。
他带领团队开发AlphaFold，破解蛋白质折叠难题，拿下了诺贝尔奖。
他认为这是AI服务人类的最高境界：一种纯粹的、造福医疗的、可控的科学。
但市场不这么看。当ChatGPT成为历史上增长最快的应用时，谷歌慌了，整个硅谷都疯了。
2022年，ChatGPT爆火那天，哈萨比斯在内部定调：现在是战争状态！
在这个状态下，所有之前的安全承诺都变得脆弱不堪：
谷歌开始积极接触国防部门，试图将AI卖给五角大楼（曾是哈萨比斯的红线）。
在权力斗争中，原本那个「独立伦理委员会」几乎隐形。
为了追赶GPT-4，DeepMind与谷歌大脑强行合并，速度取代了严谨。
哈萨比斯看清了一个残酷的现实：在AI竞赛中，没有一个非营利的制度能寄生在营利性巨头的体内。
当生存受到威胁，所有的伦理都是奢侈品。
哈萨比斯亲眼看着自己亲手筑起来的所有墙，一堵一堵倒掉。
他终于承认：「即使有治理委员会，关键时刻也可能做错决定。」
真正失控的不是模型，而是人类竞赛
孤独的人类守望者
现在，哈萨比斯彻底转向现实主义。
他的目标，是争取到「一张决策桌旁的席位，这样当安全问题出现时」，他就能参与决定解决方案。
「事情不是非黑即白的，尤其是当你面对一项后果未知的技术时，」他告诉记者。「所以你必须有适应能力。你不得不从理想主义者转变为现实主义者，但希望依然能坚守自己的价值观。」
哈萨比斯对「治理」的彻底祛魅，放弃了制度安全，改为靠个人影响力「抢座上桌」。
一边狂推AlphaFold拿诺贝尔奖、Gemini继续冲锋，一边把希望死死攥在「有良知的人」手里。
更狠的反转来了：连马斯克这种曾经最激进的安全派都开始狂踩油门。
乐观派还在喊「对齐技术能解决一切」，可哈萨比斯自己都不信了。
制度彻底死了。
OpenAI董事会罢免奥特曼，又瞬间被资本力量反杀。
他选择了最无奈的一条路：「让自己成为权力的一部分。」
他现在的安全逻辑是：既然我无法阻止这场竞赛，那我就必须赢得这场竞赛。我必须留在牌桌上，我必须拥有最高的话语权。
这样，当真正的「奇点」来临，当那个人类无法理解的决定需要被做出时，至少，坐在那个关键位置上的人，是一个从第一天起就对AI心存敬畏的哈萨比斯。
他现在只能赌——赌「好人掌权」能救世界。
可问题来了：如果AI安全只能靠「好人掌权」，到底是救赎，还是最危险的赌局？
AI安全窗口正在永久关闭。
超级智能若对齐失败，造的火箭、殖民的太空，都逃不掉灭顶之灾。
人类本性早已把统一治理变成永远的笑话。
唯一希望，只剩「有良知的人掌握话语权」这种最脆弱、最危险的方案。
哈萨比斯不是唯一改变的人，他只是第一个把残酷现实说透的人。
现在，第37手棋，已经落在我们每个人头上——
你我正在见证的，是一场文明豪赌。
泓川证券提示：文章来自网络，不代表本站观点。
