Reid Hoffman 谈如何理性地加速

在 AI 行业，人们一直在争论发展节奏的问题，到底该放慢，该暂停，还是该继续加速？关于政府监管在维护信任与安全方面该扮演什么角色，讨论也很多。Reid，当我们在争论该更快还是该放慢的时候，你觉得我们问对问题了吗？

我还是认为我自己是个理性加速主义者，或者叫掌舵式加速主义者。原因在于，当美国或者任何一个国家能够像拥有电力一样，让人工智能实现大规模、高速度和低成本的普及，并且应用到各行各业，由此催生的经济活力让我们有能力去解决各种社会难题。而如果没有这种经济基础，很多问题我们根本无力解决。而且这绝不是说只让科技圈的人发财，其他人自认倒霉。现在超过六成的美国人日子过得并不轻松，我们需要真正帮到这些人。想要在美国重振制造业岗位靠什么？靠的就是 AI 和机器人，这是唯一的路径。你看那些数据中心兴建项目，各家工会的态度都是，这创造了一大批很不错的工会岗位，我们举双手赞成，我们愿意干。这笔资本涌进来，仅仅是在建设期就给我们带来一大堆活儿。这一点其实非常重要。对于眼下处境动荡的那百分之六十以上的美国人来说，这种繁荣就是至关重要的事。

就像你说的，人们在所有事情上都会做权衡，比如在犯罪治理、安全和个人隐私之间做取舍。但感觉现在我们没有让大家看到权衡的另一面，只是一个劲儿地告诉大家各种坏处。而且正如你所说的，普通人现在还看不见、摸不着这些好处。你之前也提过一个很讽刺的现象，敲响警钟的 AI 领袖恰恰是掌舵的那批人。网上流传着成百上千的梗图，我开着一家活煮人类的工厂，但我对活活把人煮死这件事深感忧虑。大家的反应就是，这台戏从头到尾是你们在演，你们拉的是哪门子警报？就连白宫 AI 事务负责人 David Sacks 都说过，我直接引用他的原话，别再假装了，你们不能忽悠政府去暂停反垄断法，只是为了让你们能组建垄断联盟。他还警告说，如果这些公司不肯自愿减速的话，就会暴露另一种企图，制造监管捕获，也就是大公司游说政府出台一些有利于他们自己的安全规范，从而排挤小公司。很多人都在聊这事儿。哦，这其实就是监管俘获。而 Sacks 的论点是，你们现在就能慢下来，不需要我们批准。所以我想问你，这个批评公平吗？他们确实可以直接自己减速。再有，如果政府真的响应大公司的号召，会不会锁定某种监管俘获的格局，等于让这几家公司永远遥遥领先。

你知道吗？十年来头一回，我居然部分同意 Sacks 的观点。客气点说，他过往大部分立场与行动对社会算不上利好。他是一个相当功利的政治投机者，所以他的很多观点本身值得警惕。但他这次说得有道义的地方在于，现在敲警钟的恰恰是站在最前沿、跑在最前面的那批人。那凭什么说需要政府来让我们慢下来？你们明明自己就能踩刹车，对吧？把话说得再尖锐一点。假如有人对这些前沿公司说行，我们就把前沿定格在你们现在所处的位置，规定这就是所有人必须减速的那条线，好给其他人一个追赶的机会。你们乐意吗？答案多半是并不乐意。我认为这就是他立场里有分量的部分。不过话说回来，OpenAI 和 Anthropic 不仅是世界领跑者，更是美国的国家队选手。真要搞减速，至少要争取让中国以某种方式一起加入进来。要知道，中国大概只落后我们六到十二个月，就为这个搞单方面减速，实在说不通。所以这实际上是在呼吁就此签订一份国际条约。而 Sacks 用他一贯的政治手法，姑且称之为操纵舆论吧，把这件事完全描述成一个美国国内的问题。可实际上，人家实质上想说、想呼吁的恰恰是国际条约。这不是反垄断法的问题，而是国际条约的议题。这正是 Anthropic 和 OpenAI 过去一两年一直在呼吁的事。Google DeepMind 的 Demis Hassabis 最近也公开表态支持，希望以此应对，尤其是能够递归式自我迭代，也就是能够自主设计、自主开发自己下一代版本的 AI。这次再度呼吁的紧迫感恰恰来自 AI 递归式自我改进的不确定性。我们并不知道它最终会走到哪一步，这是前所未有的事物。掌舵、加速、减速，这套比喻在这里有点失灵了，因为就像这辆车自己踩起了油门，它在加速，越开越快，而且一边加速，还一边伸手来抢方向盘。面对这种情况，我们该怎么办？说实话，我们现在还做不到百分之百完完全全地驾驭它，但我们依然知道怎么拔插头，要求配备一键关停开关，要求有遥测功能，也就是运行数据上报，这些都是政府该推动的切实可行的举措。这也是我八年来一直想说的。政府就应该从这些方面切入，这跟监管捕获不是一回事，这也不等于让所有人都一起踩刹车慢下来。这些监管手段完全不影响这些公司的研发速度，同时至少让政府和社会保有几分拔插头的能力。所以我认为这些都是值得做的事。但眼下是一个历史性的时刻。你知道，我并不是百分之百反对 Sacks，我对他的不同意程度也得有百分之几十，而且我不认同他在这件事上的真实意图，靠歪曲对方的立场来做文章。但平心而论，他确实说中了一点，对吧？