Meditations On Moloch
作者： Scott Alexander， July 30, 2014
翻译：@ 何不笑
moloch，最早见于希伯来圣经文本，其词源在学界仍有争议。有学者认为是指迦太基人为祈祷战争胜利，会在战前献祭孩童。也有认为是指火神。在本文的语境下，moloch是指“为了某种目标或更大价值而势必付出的巨大代价或贡礼。”
本文是Scott Alexander在其原来的个人博客Slate Star Codex发布的最具影响力、传播最为广泛、最重要的文章之一，它引起的各类讨论非常多。受此影响的甚至包括某致力于以太坊2.0生态系统建设的初创企业，命名为moloch DAO。
原文篇幅共有8章，限于篇幅，将分为2-3次陆续译出。关于SSC以前的其他译文请搜索本博。
I、 逆向淘汰是怎样炼成的
艾伦·金斯伯格的名诗《莫洛克》：
[译注：原诗题为《嚎叫》，即Howl，共有3篇，此为第2篇。本诗在国内诗词界自1980年代起有多个译本，此处采用文楚安译本，四川文艺出版社，《金斯伯格诗选》，2000年9月第一版。文译版将原文“Moloch”一律译为“火神”。]
是什么水泥合金的怪物敲开了他们的头骨吃掉了他们的头脑和想象？ 火神！孤独！秽物！丑恶！垃圾箱和得不到的美元！孩子们在楼梯下的尖叫！小伙子们在军队里抽泣！老人们在公园里哭泣！ 火神！火神！火神的恶梦！得不到爱神的火神！精神的火神！惩治人类的判官火神！火神这无法理解的牢狱！火神这骷髅股骨自由化没有灵魂的监狱这忧患的会合处！火神他的高楼是审判！
火神这战争的巨石！火神这不省人事的统治！ 火神他的思想是纯粹的机械！火神他的血液是流淌的金钱！火神他的手指是十支军队！ 火神他的胸脯是吃人的发电机！火神他的耳朵是冒烟的坟墓！ 火神他的双眼是一千扇堵死的窗户！火神他的摩天大楼沿街矗立像数不清的耶和华！
火神他的工厂沉睡在雾中，喊叫在雾中！火神他的烟囱和天线耸入城市上空！ 火神他的埃是不尽的油料和石头！火神他的灵魂是电力和银行！火神他的贫穷是天才的鬼魂！
火神他的命运是一团无性的氢气！火神他的名字叫意志！ 火神我孤独地坐在其中！火神我梦想天使在其中！在火神中疯狂！在火神中放荡！在火神中丧失爱情和男性！ 火神他钻入我幼小的灵魂！火神在其中我是没有形体的意识！火神他吓跑了我天生的乐趣！
火神我抛弃他！在火神中觉醒！光明泻出天空！ 火神！火神！机器人寓所！隐形的郊区！骸骨宝物！盲目的资本！魔鬼工业！幽灵国家！ 不可救药的疯人院！花岗岩阴茎！怪兽原子弹！ 他们累断了脊梁送火神上天！砖石路，树木，无线电，吨位！把城市举向无处不在的天堂！ 梦境！凶兆！幻影！奇迹！狂喜！没入美国的河流！ 梦想！崇拜！光亮！宗教！一整船敏感的谎话！ 决口！泛过河岸！翻腾和十字架上的苦刑！倾入洪水！高地！显现！绝望！十年的动物惨叫和自杀！头脑！新欢！疯狂的一代！撞上时光的岩石！ 多么神圣的笑声在河里！有目共睹！那圆睁的眼睛！神圣的叫喊！他们摇手道别！
他们跳下屋顶！奔向孤独！摇手！带着花儿！沉入河流！没入街道！
我对这首诗印象深刻，原因是它将文明隐喻成一个个独立的个体，几乎是具象化的，摩天大楼一般，有着武装的手指和窗户一般的眼睛。
很多评论家认为莫洛克象征资本主义。持这种看法的无论多少，肯定也只是一部分人。毕竟有些意象与此并不吻合。比如，资本主义是一团无性的氢气吗？我是资本主义里一个没有身体的意识？所以，资本主义是个花岗岩做成的鸡巴？
C.S.Lewis在《哲学家的层次》（Hierarchy Of Philosophers）中曾提出一个问题——世界原本可以是公平的，人人都是开心而且智慧的。但现实世界却有监狱、烟囱、精神病院。“是什么水泥和铝的狮身人面像撞开了他们的头骨，吃掉了他们的大脑和想象力？”这一切是为什么？
金斯伯格的回答是：因为莫洛克。
Principia Discordia [译注：据信是美国作家格雷戈里·希尔与Kerry Thornley所写的宗教著作，尚未发现有中文版译名]中有一段对话，Malaclypse向女神抱怨人类社会的罪恶：
“人人互相伤害，世界如此不公，世人互相掠夺，母亲囚禁儿子，孩童夭亡，兄弟相残。”
女神回答道：“此岂非尔等所欲也？”
Malaclypse:“可是无人忍见此状，人皆恨之。”
女神说：“如此便罢了。停。”
这段对话隐含了一个问题：如果每个人都讨厌现行制度，那它何以延续了下来？金斯伯格的回答是“因为莫洛克”。这句话很有力量，倒不是因为它多么正确（没人会将这一切归咎于一个古代迦太基恶魔），而是因为它揭示了人们总是把制度当做自己的代理人，却忘了制度其实不是代理人。
博斯特罗姆[Nick Bostrom，牛津大学哲学/AI教授——译注]曾提出过一个思想实验：想象一个国家，有两条规则：第一，所有人每天必须自我强电击8个小时；第二，如果有人不遵守规则（包括这个规则），或反对/不执行规则，所有公民必须联合起来杀死这个人。另外，假设这些规则是基于传统的，而且每个人都希望它得到贯彻执行。于是，你每天都会电击自己8个小时，因为你知道不如此就会被杀，别人也知道。每个公民都讨厌这个制度，但是因为缺乏一个好的协调机制，这个制度就会一直延续下去。从神的角度看，我们可以把系统优化到“大家都同意立刻停止自我电击”的程度，但其实系统内没有任何人能在不冒巨大风险的情况下实现这种转变。
这只是一个人为设计的例子。所以让我们用现实世界中类似的10个例子，来说明多极陷阱（multipolar traps ）有多么重要。
1. 囚徒困境
两个愚蠢的自由主义者进行博弈，他们会在“背叛-背叛”模式下持续进行博弈直至结束。如果他们能想出合作的方法，就可以得到更好的结果，但他们很难合作。从上帝的角度来看，我们认可“合作-合作”比“背叛-背叛”能实现更好的结果，但这个规则下的两个犯人均无法实现。
2. 美元拍卖
我在《博弈理论是一门暗黑艺术》（ Game Theory As A Dark Art）一文中曾说过这个问题，还论及基于同一原理更复杂的版本。通过设定特定的拍卖规则，你可以利用人的低合作性特质，让人花10美元买一张1元纸币。从上帝的视角来看，人们显然不应该花10美元去竞买1美元，但从这个规则本身来看，竞拍者每走一步也许都是理性的。
(这是一个真实的学术实验！)
[译注：此实验是指经济学家Max Bazerman做的美元拍卖实验，共进行了180场拍卖，其中有7场20美元叫价超过100美元，最高出价407美元。]
3. 养鱼的故事
让我们做一个思想实验，在某个湖中进行水产养殖（养鱼）。假设将湖面分割出1000个相同的养鱼场，分别由1000个相互竞争的公司拥有。每个养鱼场的利润为1000元/月。在开始的一段时间内大家各自安好。但随着时间推移，每个养鱼场都会产生废弃物污染湖水。此处假设，每个养鱼场产生的污染将使其经济产出降低1元/月。那么，1000个养鱼场产生的污染物会使总产出降低1000元/月，这意味着所有的养鱼场都赚不到钱。
来自资本主义的拯救：有人发明了一套复杂的过滤系统，可以清除废弃物。它的运营成本是300美元/月。所有的养鱼场都自愿安装，污染结束了。现在，养鱼场的利润是700元/月——这笔利润可是挺可观的。
但是有一个渔民（就叫他史蒂夫吧）后来厌倦了操作过滤器的活儿，每个月还得多掏300块，就不用过滤器了。于是，这个养鱼场污染了湖泊，整个湖面的经济产出损失了1元，而史蒂夫赚了999元的利润，其他人则赚了699美元。
其他人都会发现史蒂夫比自己利润高，因为他没有了过滤器的运维成本，当然也会纷纷断开过滤器的连接。
一旦有400个人停用了过滤器，史蒂夫的收入将会降至600元/月——请注意，此时他的收入已经低于所有人都开着过滤器的时候！相比而言，其余600个开着过滤器的渔民收入只有300元。史蒂夫于是对大家说：“我们都得自愿约定使用过滤器！否则，大家的收入都会下降。”
所有人都同意这个建议，于是他们签署了“过滤器协议”——除了一个混蛋，就叫他迈克吧。现在，除了迈克，大家又开始使用过滤器了。迈克的收入是999元/月，其他人是699元/月。慢慢的，大家开始觉得自己也应该像迈克那样赚大钱，于是为了多赚300元，又断开了自己的过滤器......
一个自利的人永远不会有使用过滤器的动力。一个自利的人有部分动力签署协议来让每个人都使用过滤器。但很多时候，他有更强的动机等待其他人签署协议而自己选择退出。这可能导致不良均衡——即没有人会签署这样的协议。
我越想越觉得这才是我反对自由主义的核心原因，而《非自由主义FAQ3.0》也许只会是这个例子的不断重复。从上帝的角度看，污染湖水会导致不良后果。但从规则的内部来看，没有人能阻止湖水的污染，买个过滤器也未必是个好主意。
4. 马尔萨斯陷阱
假设，有一批老鼠被引入一个原始的岛屿，你是其中一只。岛上长满了美味的植物，你的日子过得像田园诗一般，尝尝美食，还创作一些伟大的艺术作品（假设你是《尼姆的老鼠》里那种老鼠）。你长命百岁，结婚生子，生了十几个孩子，每个孩子又生了十几个孩子，以此类推。
几代之后，岛上有一万只老鼠，达到其承载能力的极限。现在，食物和空间都不够用了，为了让老鼠数量稳定在一万只左右，每一代新生鼠都会有一定比例的死亡。
于是，某一派老鼠放弃了艺术，腾出时间生养下一代。所以这一派老鼠比社会主流成员死得少一些。一段时间以后，不会再有老鼠从事任何艺术创作，任何试图让艺术回归的老鼠都可能在几代之内灭绝。
不仅是艺术。任何一个比主流更简陋、更粗鄙、更求生的派别，最终都会胜出。如果某个教派的老鼠很无私，规定每对老鼠只准生2只，以减少过度繁殖，那这个教派就会消亡，被蜂拥而至的对手取代。相反，如果某个教派的老鼠开始练习吃老鼠，那它们就有了比较优势，而这个派别最终将统治这座岛屿。
假设有些科学家老鼠预测说，岛上的坚果存量正以危险的速度加速消耗且很快将被耗尽，并且有少数老鼠因此将自己的坚果消耗限制在一个可持续的水平，可以想见，这些老鼠会被自己自私的表亲们击败。最终，坚果会被耗尽，大部分老鼠会死掉，循环再次开始。任何试图阻止这种循环的鼠派，都会被它们的表兄弟们打败，因为这些主张是在浪费时间，而这些时间可以用来竞争和消费。
虽然进化论的影响因素非常复杂，现实并不会像纯粹的马尔萨斯陷阱那样演化，但它提供了一个原型，我们可以将其应用到其他领域，看清某些根本性的机制。从上帝的视角来看，老鼠应该保持一个适当的族群密度，但从系统内部来看，每个老鼠个体都会遵循自己本能。岛屿最终会陷入无休止的“繁荣-萧条循环”中。
5. 资本主义
想象一个竞争很激烈的行业。有一个资本家，他雇佣工人在血汗工厂里做衣服，以最低利润出售。他可能也想给工人更高的工资或者更好的工作环境。但他不能这样做，因为这会提高产品价格，被更便宜的竞争对手打败而破产。他的竞争对手也许有很多也是好人，想给工人更多报酬，但除非他们能确保没有任何人会降价、背叛，否则就不会这样做。
就像前面说的老鼠一样，除了纯粹的竞争，其他的价值都将被逐渐抛弃。所以，在竞争足够激烈的经济环境中，除了优化、盈利之外，其他的价值都将被企业放弃，否则就会被淘汰。
（我不知道有多少人喜欢将资本主义与进化论进行类比。比如，若顾客愿意购买它们的产品，该公司就能生存、扩张并对未来产生激励；反之，该公司就会破产，与公司的DNA一起消亡——正是类似于市场这种无情的淘汰机制，促成了自然界的勃勃生机。)
从上帝的角度来看，我们可以打造一个和善的行业，在这个行业里，每家公司都能给工人足够的报酬，但从机制运作的内部来看，这一设想无法实施。
(火神！他的埃是不尽的油料和石头！火神！他的灵魂是电力和银行！)
6. 双收入陷阱
好的学区房竞争非常激烈，为此，人们被迫放弃很多其他价值（比如在家陪孩子的时间），将更多精力投入到经济保障上，以提高购房能力，否则就会掉入社会底层。
从上帝的视角看，如果每个人都不打第二份工来提升购房能力，那么每个人只需要一份工作就都能买到和以前一模一样的好房子；但从这个游戏规则内部来看，只要政府不禁止打第二份工，那么那些没打两份工的人都将被游戏淘汰出局。
7. 农业
贾雷德·戴蒙德认为农业是人类历史上最严重的错误。是不是错误先不管，但农业的普及绝非偶然——农业文明战胜游牧文明是必然的、不可抗拒的，因为经典的马尔萨斯陷阱。也许狩猎-采集是更惬意的方式，人的寿命更高、更有利于繁衍生息，但一旦族群竞争足够激烈，农业文明及其携带的疾病、压迫、瘟疫便是更有竞争力的选择，最终所有人都会走向农业文明。否则，就像科曼奇印第安人那样。
从上帝的视角来看，人类应该保持狩猎-采集的生存方式，这样更轻松惬意。但从内部来看，每个部落其实都只有两种选择：走向农业，或走向消亡。
8. 军备竞赛
大国的国防预算可能占总预算的5%-30%。在和平时期（比如过去50年），这些预算会挤占掉基础设施、卫生、教育或经济增长等所需资金。但如果一个国家不在国防上花费足够的金钱就会有被邻国入侵的风险。因此，几乎所有的国家在国防上都花费不菲。
从上帝的视角看，最好的办法是世界和平，大家都不要有军队。但从内部来看，没有哪个国家能这么做，其最佳选择仍需要把钱投入到导弹上，让导弹躺在筒仓里不用。
(火神他是战争的巨石，他的手指是十支军队！)
9. 癌症
人体是由细胞组成的，它们和谐地生活在一起，并且会为了机体的更大利益而同心协力。如果某个细胞偏离了这种平衡，把资源用于复制自身，它和它的后代就会繁荣昌盛，最终战胜其他细胞，统治身体并与身体一起走向死亡。也有可能某些癌细胞有缺陷，生长速度减缓，导致肿瘤发育停滞。
从上帝的视角来看，最佳解决方案是只要所有细胞展开合作就能最大限度避免死亡，但从系统内部来看，癌细胞会大量增殖，互相竞争。可见，只有免疫系统的存在，才能抑制住癌变的自然诱因。
10. 竞次
竞次（race to the bottom）描述了一种政治局面，即一些政府通过承诺降低税收、减少监管来吸引企业。最终的结果是，吸引来的每家企业都利用最低税率或其他政策提高了竞争力，而没这么干的地方则在业务、营收和工作岗位等方面出现流失，被使用招商策略的地方所取代（此时，这类企业被迫出走，被采取优惠政策的政府所取代)。
上述实例之中，虽然最后一个案例揭示了此类博弈的名称，但其实都是在“竞次”，即一旦其中一个学会通过牺牲共同体价值来提高竞争力，那么其他所有竞争对手也必须牺牲这个价值，否则就会被竞争对手淘汰，被不那么敬畏价值的人取代。因此，虽然这类制度到最后很可能大家再次展开一轮公平竞争，但之前牺牲掉的价值却永远消失了。从上帝的视角看，竞争者们明白，自己如果背叛会是大家一起变糟，但从内部来看，由于合作不足，这种结果是不可避免的。
在开始继续探讨之前，还有一种形式值得研究——多代理陷阱（multi-agent trap），这种形式稍有不同。这种情形下，竞争被一些外部力量（通常是社会性耻感，social stigma）所阻挠。因此，虽然整个系统可以在一个相对较高的水平上继续运行，但实际上已不存在竞争，因为系统已却无法优化，资源被持续无谓地浪费。
为了不被累死，我这里仅举四例。
11. 教育问题
我曾在关于反动哲学（reactionary philosophy）的文章中谈及对教育改革的失望：
人们会疑惑为什么不能改革教育制度。实际上，现在的学生都对名校趋之若鹜，因为雇主会更愿意雇佣他们，不管他们是否真的在名校学到了什么。雇主的HR也愿意雇佣名校学生，因为出了问题可以向老板辩解——不管大学是否真的为学生提供了溢价。而大学为了获得更多的声望，也会不惜一切代价提高排名（比如《US News and World Report》给出的排名），而不管这是否对学生有益。这是否会导致巨大的浪费和糟糕的教育呢？会。教育之神能不能注意到这一点，并制定一些教育政策以提高效率呢？很容易！但既然没有教育之神，大家就只能遵循各自的激励机制，而激励机制与教育或效率只是部分相关。
从神的视角来看，很容说出“只有当学生觉得上大学有所收获的前提下才会去上大学，雇主则应该根据应聘者的能力而不是上了哪个大学”之类的话。但从体制内来看，大家又都遵循了自己的激励机制。所以，除非激励机制本身发生改变，否则游戏规则就不会有变化。
12. 科学
以下与11来自同一篇文章：
现代的学术界很明白，他们的科研潜力并没有达至最佳成果。出版界有很多偏见，统计数字出于惯性，以一种混乱和误导的方式进行着，复验[译注：replications此处似指自然科学对某个实验及数据的重复、交叉验证] 往往被推迟很久才出现，甚至根本没有。还有人说：“我觉得并非人们愚钝、弄不明白《科学》杂志是咋回事。他们要做的就是要求研究者尽早注册科研成果，以避免出版偏见，把这种新的、强大的统计技术变成新标准，并能给重复实验的科学家带来更高的地位。这不难做到，甚至可能显著提高科研进步。我就是比其他科学家都聪明，因为我能够想到，而他们却没有。”
从科学之神的角度来说，是的，这是可行的。他可以直接制定一个科研法令，要求每个人都必须使用正确的统计数据，同时制定另一项法令，要求每个人必须给予复制者更高的地位。
但是，从上帝视角来看，这种有效的策略在系统内部是行不通的。没有哪个科学家会在自己的科研中单方面改用新统计技术，因为这将使她的研究不被学界关注，甚至让其他科学家感到困惑。他们倒是希望其他人都这么做，然后会跟着做。同样，也没有哪家期刊会单方面改成提前注册或发表负面结果，因为这会使其结果比那些只发表突破性发现的期刊显得无趣。从系统内部来看，大家都遵循了自己的激励机制，并且将继续下去。
13. 政府腐败
不知有没有人真的认为企业福利是个好东西。尽管如此，政府每年仍会在它上面花费大约（取决于你如何计算）1000亿美元，要知道，这是他们给穷人医疗花费的三倍。熟悉这个问题的人都提出过类似简单的解决方案：停掉企业福利。
可为什么没办到呢？
政府内部也有相互竞争，以求胜选或职位晋升。假设，吸引更多来自企业的竞选捐款是提升胜选能力的一部分（其实也可能没用，但官员们认为有用）。这样一来，那些试图剥夺企业福利的官员就可能失去这些企业的支持，被那些承诺不会削减福利的官员所击败。
所以，虽然说从上帝的角度看，大家都明白取消企业福利是最好的办法，但每个官员个人的激励机制却会促使她维持这种福利制度。
14. 国会
据统计，只有9%的美国人喜欢它，其支持率比蟑螂、跳蚤、交通堵塞都低 [作者给出的数据来源：www.publicpolicypolling.com/polls/congress-somewhere-below-cockroaches-traffic-jams-and-nickleback-in-americans-esteem]。但是，在知道自己的国会代表是谁的人中，有62%的人认可他们。理论上，一个民选机构要在一个以上的选举周期内保持9%的支持率是很不容易的事。在实践中，议员的激励动力是吸引自己的选民，但同时会把国家的其他价值抛诸脑外——在这一点上，他们显然是成功的。
从上帝的视角来看，每个国会议员都应该只为国家利益着想。但从体制内的角度来说，你首先得当选。
II
现在可以给出一条线索将上述各种多极化陷阱统一起来。在竞争状态下，为了胜出而针对X进行了优化，此时胜出的机会出现，但同时，为改进X也得把其他价值抛却掉，不接受这一规则就会消亡。最终，每个人的相对地位和以前差不多，但每个人的绝对地位比以前更差。这个过程将一直持续到其余所有可交换价值都被充分交换为止。换句话说，直到人类的聪明才智再也想不出让事情变得更糟的办法为止。
在足够激烈的竞争中（上述例子1-10），任何人，只要不把自己所有的价值都抛到九霄云外，那就会死掉。回想一下，那些不愿停止艺术创作的可怜的老鼠。这就是臭名昭著的马尔萨斯陷阱，它最终会让所有人都只能达到“刚好够活着”（subsistence）的水平。
在不那么激烈的竞争中（上述例子11-14），我们看到的是优化是如何失败的。想想那些无法转化为靠谱的科研成果的期刊，还有那些无法站起来削减企业福利的立法者。这类竞争也许不会把人压制在“刚好够活着”的水平，但你还是会有一种奇怪的感觉——它剥夺了人的自由意志（free will）。
相互对立的作家/哲学家往往会各自描绘出自己的乌托邦。其中大多数描绘确实都很不错。事实上，这是一个相当美妙的赌注：两种尖锐对立的乌托邦之中，无论哪个，听起来都比我们身边的真实世界更美好。
随便哪个无名之辈能想像出比实际状态更好的世界，这确实是一种尴尬。但事实上，只有极少的描绘可以实现。很多乌托邦都会把真正困难的问题扫到地毯下面，一旦真的实施起来，十分钟内之内就会彻底崩溃。
尽管如此，我还是希望推荐几种不会立马崩溃的“乌托邦”。
- 企业福利不再由政府来支付。
- 每个国家的军队规模均缩减50%，省下来的钱都投入到基建上。
- 所有医院均使用相同的电子病历系统，或者至少是可以互相对话的病历系统，医生可以查到你上周在其他医院就诊时医生开给你的处方/诊断，而不会花5000刀把相同的检查项目重来一遍。
我觉得反对上述乌托邦的人应该不会太多，它没有被实现，不是因为人们不支持它们。当然也不是因为没有人想到，因为我现在就想到了，我也不指望我的“发现”被夸赞或能改变世界。
任何一个智商略高于普通水平的人都能设计一个乌托邦。我们眼下的世界之所以没有达到乌托邦的理想状态，是因为它并非人力可为。由于地心引力的作用，你可以通过观察地形来预测哪里会干旱、河流会是什么形状。同样，你也可以通过对激励机制的观察来思考一个文明，它的制度未来可能会是什么形态。但是，正如河流的形状不是为了好看漂亮或航行需求而形成，而是由地形地貌的随机变化来决定。同样，一种制度不会是为了正义或繁荣而设计，而是由随机给定的初始条件而发展出来。
人确实可以平整地形、修建运河，也可以改变激励机制，以建立更好的制度。但他们只有在受到激励的情况下才会这么做，而这种激励并不必然经常发生。也因此，某些奇特的地貌上会形成非常神奇的激流。
我要停止枯燥的博弈论，说说我最神秘的经历。
拉斯维加斯。我站在某个摩天大厦的楼顶，俯视着脚下的城市，在黑暗中熠熠生辉，高楼大厦与光怪陆离的灯光交相辉映，一派晶莹剔透。
这无疑是人类的创举，但也感到一种羞耻。
我的意思是，基于什么样的标准，在北美最荒凉的沙漠之中建造一座40层楼高的大厦，填满了古埃及、罗马、威尼斯、米洛斯圣城的巨大复制品以及白虎？这是对资源的合理利用吗？
我突然想到，也许世界上没有任何一种哲学会认可拉斯维加斯的存在——即使是客观主义（我为资本主义的过度行为辩护时的首选哲学），也是相信资本主义能改善人们的生活的。如果说亨利·福特是有德行的，因为他让很多本来没有车的人买得起汽车，让他们过上更好的日子，那么拉斯维加斯的作用是什么？一群蠢货想要不劳而获，却啥也没得到。
拉斯维加斯的存在并不是那种享乐文明，它能提供的不过是多巴胺奖励、对环境均衡的微调，再加上一些其他的卖点。一个理性的、具有上帝视角的中央计划者，在思考这些事实的时候可能会想：“嗯，多巴胺能奖励回路有个特点，某些风险-收益比略为负数的事情，会获得比略为正数的任务更多的刺激，看看能不能据此教育人们谨慎一些。”而体制内的人，按照这些事实形成的激励机制则会想：“不如在沙漠中建一个四十层楼高的古罗马室内复制品，里面全是白虎，这样就能吸引更多的人。”
河流的走向在第一场雨落下之前就已经决定好了——凯撒宫的建造也是如此，它早已潜伏在神经生物学、经济学和管理制度中，而企业家建造它，也只是用钢筋混凝土把它实现出来。
我们把这些惊人的科技和认知力量、人类的辉煌，都浪费在背诵那些进化不良的细胞受体和盲目的经济学脚本上，就像被一个白痴左右着的神。
有些人有神秘的经历，看到了上帝。在拉斯维加斯，我看到了莫洛克。
（火神他的思想是纯粹的机械！火神他的血液是流淌的金钱！
火神！火神！机器人寓所！隐形的郊区！骸骨宝物！盲目的资本！魔鬼工业！幽灵国家！ 不可救药的疯人院！花岗岩阴茎！）
原文配图：granite cocks
III
《伪经》（Apocrypha Discordia）里有段话：
时间流动若河流，一路下坡。我们心知肚明，因为一切都在快速向下流动。想想吧，终有一天我们抵达大海，彼时去向哪里。
让我们仅从字面上理解上面这段话，看看时间之河把我们带向哪里。
我们刚才把激励措施的流动比作河流的流动。在这里，“下坡”是个很恰当的比喻：当你有机会用某种价值换取更大的竞争力时，陷阱就会出现。一旦大家都拥有了它，更大的竞争力就不会给你带来快乐，但价值却永远失去了。因此，“不和谐波尔卡”（ Poor Coordination Polka）的每一个舞步都会让你的生活变得更糟。
然而事实上，我们不仅还没有到达大海，而且似乎还时常爬坡。为何事情没有越来越糟糕下去，直到我们被压制在“刚好活命”的均衡线上？我能想到三个负面原因：资源过剩、物理限制、效用最大化；还有一个正面原因——合作。
1. 资源剩余
海洋深处是个可怕的地方，光线不足，资源匮乏，有些可怕的生物会互相吞食/寄生。但每隔一段时间，就会有一具鲸鱼尸体落入海底，这多于它们平时进食所需，因而它们可以乐享一段美好的时光，而首先发现鲸鱼尸体的生物更是像国王一般饕餮盛宴。尔后会有更多生物发现这具尸体，尸体中繁殖速度较快的会大量繁殖，鲸鱼被蚕食殆尽，大家于是一声叹息，重回马尔萨斯陷阱模式的日常。
这就好比那群放弃了艺术转而相互啃食的老鼠突然被放置到了一个全新的空岛上，承载力大大提高，它们将再次拥有喘息的空间，可以安居乐业，创造艺术杰作。
这是一个鲸吞的时代，一个承载力剩余的时代，一个我们突然发现自己比马尔萨斯领先到不知哪里去了的时代。正如汉森[译注：Robin Hanson，乔治梅森大学经济学教授、人类学副研究员，他的个人博客“克服偏见”与SSC是友链，有互动]所说，这是梦想的时代。
只要资源不稀缺到大家互相战争的程度，我们就可以做一些愚笨、非经济/效率的事，比如艺术、音乐、哲学和爱情而不必陷于残酷的杀戮之中。
2. 物理限制
想象一下，为求利润最大化，奴隶主不给奴隶饭吃或不让睡觉，以降低成本。他很快就会发现，奴隶的生产力急剧下降，无论怎么鞭打都无法恢复。最终他可能会发现，奴隶们吃饱喝足休息好并且工作间隙有少许放松的状态下，工作完成得最多。这并非奴隶们不愿劳动（假设惩罚的威慑足以让奴隶尽力工作），而是因为生理极限，它约束了奴隶主对待奴隶的状态。因此，由于身体极限的存在，“竞次”就会保持在比道德底线略低的程度。
奴隶制历史学家约翰·莫斯（JohnMoes）曾指出，我们最熟悉的南方奴隶制是一种历史偏误，它在经济上没有效率。历史上大多数奴隶制形式，尤其是古代世界的奴隶制，奴隶能拿到工资、受到良好的待遇、恢复自由者也挺常见。[译注：该观点见于John Moes于2014年发表于芝加哥大学期刊的论文The Economics of Slavery in the Ante Bellum South: Another Comment。论文全文地址：https://slatestarcodex.com/Stuff/manumission.pdf]
莫斯教授认为这是理性经济计算的结果。你可以胡萝卜加大棒来激励奴隶，但大棒其实并不是个好选择。你不可能一直看着奴隶，奴隶是否在偷懒也很难判断（甚至如果再抽他一点鞭子可能他还能更卖力）。如果你想让奴隶做任何比摘棉花更复杂的事，就会遇到监控难题——如果被奴役的是个哲学家，你如何监控他干活？用鞭子狠抽直到他写出一本《论善》拿去卖吗？
大抵是受Fnargl的启发，我想到，古代社会解决这个问题的办法，是告诉奴隶去做他想做的、觉得最有利的事，然后与奴隶分享收益。比如，奴隶平时会在你的工坊里工作，你根据他的工作表现付他工资；其他时间，奴隶去外面干自己的活儿，把他赚到的钱分给你一些。还有一种情形，你为奴隶的自由设定一个价格，奴隶自己去干活挣钱，然后来找你拿钱赎回自由。
[译注：一位叫Mencius Moldbug的网友提出一种主权概念叫做“对称主权”，symmetricsovereignty，与启蒙时代提出的“人民主权说”相区别，他认为后者是一种有限主权，依赖于一个第三方机构为这种有限主权做担保，比如一座房产的拥有者拥有的其实只是第三方的一纸担保，并非安全的主权，他可能被提供担保者随意侵犯或掠夺。Mencius Moldbug认为，正是这种对产权的偏见/误区，长久以来造成了世界的混乱和低效。他为了解释这一模型，引入了外星人Fnargl来统治的思想实验，在该实验里，外星人拥有绝对武力且与人民的财产权、生命权等传统内涵无关，他只要地球的黄金（纳税），而不参与其他利益、尤其是政治利益的竞争（此处注意区分对称主权与独裁极权体系的区别，重点在于后者参与世俗利益的竞争和掠夺）。他在Fnargl的统辖范围内，世俗传统的产权/主权相互实现对称，从而，世俗利益实现充分的自由和良性竞争。后来，其他网友便用外星人Fnargl指代这一主权体系。译者认为，此理论在最低的意义上，也有助于理解英国君主立宪政体下虚位君主的价值和意义，当然，它对于公司架构安排等也可能有启发意义。更多关于此一主题的讨论文章读者可自行检索阅读。]
莫斯进一步指出，这种制度是如此有利可图，以至于在美国南方不断有人尝试。多数奴隶主他们之所以坚持用鞭子和锁链，与其说是出于经济考量，不如说是种族主义政府官员为了解放奴隶还以自由（他们自己也有利可图）的情况下，奴隶主对这种打击的被动反应。
所以，在这种情况下，为了最大限度提高竞争力，种植园主对奴隶越来越残忍，直到残忍达到身体极限才会就会停止。[译注：此段文字的意思是，相对于古代奴隶制，内战时期解放奴隶运动压低了种植园主相互竞争的可能空间，后者被迫在一个最低限的底线附近展开竞争，因而只能压榨奴隶。]
再比如，我们现在没有出现马尔萨斯式的人口爆涨，原因之一就是女性每九个月只能生一个孩子。如果那些鼓励生育的宗教教派能够复制粘贴，今天的情形会非常糟糕。九个月的生理限制，使得他们每代人对共同价值的损害程度受到制约。
3. 效用最大化
人们总是从维护价值与赢得竞争的角度来思考，且往往为了优化后者而破坏前者。
但是，现代文明很多最重要的竞争/优化过程都是针对人的价值进行优化。资本主义之所以胜出，部分原因是满足顾客需求这个价值。民主制度之所以胜出，部分原因是他能满足选民的需求。
假设，埃塞俄比亚某地有一个咖啡种植园，雇佣埃塞俄比亚人种植咖啡豆卖到美国。也许它与其他咖啡种植园会陷于事关生死的竞争，为了取得一点竞争优势，它们需要尽可能多地抛弃某些价值。
但它也不能不顾咖啡质量，否则美国人就不买了；工资、工作条件也不能太差，否则埃塞俄比亚人就不干了。在此情形下，竞争优化的过程就是要找到最好的方法来吸引工人和顾客，当然成本不能太大。所以，这中良性的竞争格局很有希望达成。
但同时也要明白，这种有益的平衡非常脆弱。
比如，假设咖啡种植园发现了一种有毒的农药，可以提高产量，但也会让顾客生病。假设顾客并不知道有这种农药，政府也没来得及监管。现在，“卖给美国人”和“符合美国人的价值观”之间就有了一个小小的冲突。此时，“美国人的价值观”当然会被抛诸脑后。
再假设，埃塞俄比亚出现了婴儿潮，突然间有五个工人在竞争一份工作。现在，种植园有机会降低工资，只提供简陋的工作条件，也不管身体极限是什么。一旦“让埃塞俄比亚人在这里工作”和“符合埃塞俄比亚的价值观”之间出现冲突，“埃塞俄比亚的价值观”也不会有什么好结果。
又假设，有人发明了一个机器人，挑选咖啡比人更快更好成本更低。公司解雇所有工人，把他们扔到街上去死。一旦埃塞俄比亚人不再是利润所需，所有维持这一平衡的压力就会很快消失。
又假设，有一些重要的价值，既非员工价值，也不是顾客价值。而是说，咖啡种植园刚好位于某个热带鸟类的栖息地，这块地是环保组织想要保护的。同时，种植园还位于某个部落祖先的墓地上，而当地人希望目的得到尊重。还有，咖啡的种植对全球变暖也可能有影响。凡此种种，只要这各种价值不妨碍普通美国人买东西，不妨碍普通埃塞俄比亚人打工，那这些价值就会被抛弃。
我很清楚，“资本家有时会做坏事”并不是什么独创性的话题。我想强调的是，这并不等同于“资本家是贪婪的”。我的意思是，他们有时确实可能是贪婪的，但更多的时候，他们只是在充分激烈的竞争中努力不被淘汰，被抛弃了某些价值的人取代。商业行为是由莫洛克设定的，人没有任何选择的余地。
（根据我对马克思的些许了解，他非常明白这个道理，那些把他的思想总结为“资本家是贪婪的”的人是在误解他。）
资本主义这个例子很好理解。我认为民主也有同样的问题，却不太容易理解。理论上讲，民主是为了提高选民的幸福，这关乎良好政策的制定。但是，但凡好政策与可选项之间有一丝一毫的脱节，好政策就会被抛弃。
比如，刑期一直以来被不断提高，这对囚犯不公平，对为此买单的社会也不公平。政治家们对此也无所作为，因为他们不想让人觉得自己“在犯罪问题上很若软”。如果他们帮某个囚犯合理地提前释放了，那么，只要这个囚犯此后做了任何一件坏事（据统计，刑释人员很多都是被逼如此），都会以“因国会议员的政策而释放的罪犯杀死了一家五口，国会议员怎能安然入睡的，更别说还想连任？”为内容的新闻在被广泛传播。所以，即使减少监狱囚犯数量是个好政策（这确实是个好政策），它也很难实现。
(火神这无法理解的牢狱！火神这骷髅股骨自由化没有灵魂的监狱这忧患的会合处！火神！他的高楼是审判！）
把“让顾客满意”和“让选民满意”转化为优化的社会成果，是文明最伟大的进步之一，也是资本主义民主国家优于其他制度的原因所在。但是，如果我们想把莫洛克束缚为我们的仆人，这就有点不靠谱，毕竟，莫洛克的所作所为有时会向着对它有利而不是对我们有利的方向发展。[译注：这句意思是，制度的演化并不总是朝着有利的方向，在演化结果出现之前，这一方向往往是难以预知或难以更改的。]
4. 合作
陷阱的反面是花园。
从上帝的视角来看，只要大家攒成一个超级组织，这个超级组织就可以轻松、巧妙地解决问题。代理人之间激烈竞争的场所就变成了一个花园，由一个园丁来决定一切，并去除所有有害的杂草。
我在《非自由主义FAQ》中曾指出，政府可以通过养鱼场轻松解决污染问题。囚徒困境最著名的解决方法是引入一个黑帮老大（扮演裁判），任何背叛的囚徒都将被老大处决。解决公司污染和伤害工人的办法是政府对这类问题制定的政策。政府通过对武力使用的垄断来解决国家内部军备竞赛问题，不难看出，如果真正有效的世界政府出现，军备竞赛会很快停止。
政府最有效的两个要素是法律和暴力，或者抽象一点说，是协议及其执行机制。除了政府之外，很多其他机构、事物也具备这两个要素。因此，协调机制得以存在，以避免陷阱。
例如，由于学生之间存在竞争（班级内部评分属于直接竞争，考大学、找工作等属于间接竞争），学生的作弊会面临强大压力。老师和校方扮演的是政府的角色，有明确规则（比如不需作弊），也有惩罚违规的能力。
学生社群也是一种政府。如果大家对作弊者避而远之、不信任，那么就会产生出规则（不要作弊）和执行机制（否则我们疏远你）。
社会规则、君子协定、行业公会、犯罪组织、传统、友谊、学校、公司、宗教都是协调机构，它们能改变激励机制，让我们远离陷阱。但同时，这些机构不仅激励他人，它自身也受到激励。它是由人组成的大型组织，这些人也在争夺职位、地位、声望等等，他们同其他人一样，没有理由不受多极化陷阱的影响。理论上，政府能让企业、公民等避开某些陷阱，但正如前文所说，政府本身也会掉入很多陷阱。
美国试图通过多级政府、稳固的宪法、不同部门之间的制衡以及其他一些小技巧来解决这个问题。
沙特采用的是另一种策略。他们让某一个人负责一切。
我知道，支持君主制会备受指责（我认为这不公平）。君主是一个不受激励的激励者。他实际上拥有上帝视角，置身于一切制度之外，凌驾于一切制度之上。他永久地赢下了所有竞争，不参与争夺任何东西，因此他完全不受莫洛克和激励机制的影响，因而他能将激励机制引导到预期的轨道上。除了我在《闪亮的花园》里设想的几种理论化的观念，君主制是目前唯一能做到这一点的制度。 ##
但是，君主制会使激励机制进入随机模式，因为它取决于君主个人的偏好。凯撒皇宫酒店和赌场是一种疯狂的资源浪费，但实际上，尤利乌斯·凯撒也不是一个完美、仁慈、理性的中央计划者。
自由主义-专制主义的政治光谱上，往往是在不合作与暴政之间进行权衡。你可以让所有的事情都由一个有上帝视角的人完美协调，但那样你就会冒斯大林的风险；你也可以完全不受中央权威的束缚，但那样你就会陷入莫洛克设定的多极化陷阱。
自由主义者为一方提出一个令人信服的观点，君主主义者则为另一方提出了另一个同样令人信服的观点，但这就像所有的利弊权衡一样，我们要做的是克制自己，承认这是一个非常困难的问题。
IV
我们再来回顾一遍《伪经》（ApocryphaDiscordia）里的那段话：
时间流动若河流，一路下坡。我们心知肚明，因为一切都在快速向下流动。想想吧，终有一天我们抵达大海，彼时去向哪里。
问题来了，入海以后意味着什么？
前面说过，全部人类价值观受到多极陷阱、竞次的威胁，但这些威胁同时也受到物理（生理）极限、资源剩余、效用最大化和合作的约束。
河流是一种隐喻，它在时间的维度上流淌，而人类文明在时间维度上最重要的变化就是技术的变化。所以，一个相关的问题是，技术的变化在多大程度上能避免我们跌入多极陷阱？
如前所述，我对这种陷阱的描述是：
...有些情况下，为提高竞争力而对X而进行了优化，此时机会出现了，但也同时抛弃了其他价值。不接受这个种取舍的人就会灭亡。最终，每个人的相对地位和以前差不多，但每个人的绝对地位比以前更差。这个过程一直持续到所有其他可以交换的价值都被交换为止——换句话说，直到人类的聪明才智不可能想出让事情变得更糟的办法为止。
“机会出现了”这句话看起来来者不善，而技术就是要创造新机会。
由于开发出一种新型机器人，咖啡种植园突然有“机会”实现自动化，解雇所有的埃塞俄比亚工人。由于发明了核武，各国迅速陷入了核军备竞赛。在蒸汽机被发明之前，空气污染从来不是个问题。
技术有多先进，陷阱就有多深。
多极陷阱受到生理极限、资源剩余、效用最大化和开展合作的约束。
技术正在日益突破生理极限的限制。比如，奴隶必须得吃饭和睡觉，这是奴隶主的老难题了，现在可以用代餐[译注：Soylent,，最初由软件工程师Rob Rhinehart用自己的营养需求做实验测试并研发出来的液体主餐，类似于饮料]和莫达非尼 [译注：modafinil，一种觉醒促进剂、治疗嗜睡、增强认知的药物] 解决。奴隶逃跑也不是问题，有GPS。奴隶们精神压力太大，可以用安定[译注：Valium，苯甲二氮草，用于抗抑郁、焦虑的药物]。但是，这些技术手段对奴隶而言都不会太好。
(或者再进一步，干脆发明一种机器人，根本不需要吃饭睡觉。此时奴隶们会遭遇什么想必已无需多言。)
另一个关于生理极限的例子是人类需要怀孕9个月才能生育孩子。这是一个简化的说法。事实上，这个极限还要加上“愿意在18年内养育一个基本无法自理、且条件要求极高的人”。这一约束使得那些最热衷生育、高喊“生就完了！”（go forth and multiply）的宗教派别，其口号的效果也大受影响。
但正如博斯特罗姆（Bostrom）在《超级智能》中所说：
长期来看，假设人类技术不发生变化，且繁荣持续，那么我们有理由相信世界人口将恢复到历史上和生态上的正常水平，这一水平对应于我们现有条件所能支持的极限。现在，在全球范围内，我们都可以发现财富和生育率之间呈负相关。这似乎有悖于直觉，但它提醒我们，这只是历史的一个短暂片段，很不正常。人类的行为与所处的当代环境并不匹配。我们不仅没有找到提高整体适应性（比如捐献精子或卵子）[译注：整体适应性，inclusive fitness*，对应于个体适应性，也被称为亲属选择理论。生物人类学概念。该理论与“自然选择”理论密切相关。译者推荐道金斯在《自私的基因》、尼古拉斯在《蓝图》里的阐述。查看专业文献更佳。] 的好方法，而且还通过节育措施主动破坏生育。在自然状态下，个体的性欲只要健康正常通常足以支持其最大生育潜力；但在现代条件下，如果一个人的繁殖意愿强烈，希望成为更多孩子的亲生父母，他/她就有了巨大的选择优势。现在，这种愿望已可以满足，正如其他提高繁殖偏好的特征一样。然而，文化适应性可能会阻碍生物进化的步伐。比如，哈特人[译注：hutterites，基督教新教再洗礼派的一个分支，类似于阿米什人，起源于16世纪激进宗教改革。创始人雅各布·哈特Jacob Hutter死后，他们以糠米主义、和平主义社区的形式散居于欧洲，18-19世纪几乎灭绝。后在北美大陆发展开来。目前绝大多数哈特社区在加拿大和美国北部。]或福音派信徒的“箭袋”运动[译注：Quiverfull,* 保守主义福音派或原教旨主义新教神学观念，认为孩子是上帝的祝福，反对节育技术、禁欲意识等避孕措施。]，他们的文化就鼓励生育、偏爱大家庭，因此他们正在快速扩张......（如此种种，繁殖能力得到了提升），而人工智能则会加速这一危机的到来——软件是可以复制的，用于模拟人或人工智能的软件数量可能会因此迅速翻倍——几分钟而非几十年、几百年就能耗尽全部可用硬件。
在极端超人类主义者[译注：high-level transhumanists，构想了一个让人类免于痛苦、疾病、甚至死亡的世界。] 的语境里，所谓“全部可用硬件”包括“构成躯体的原子”。
生理上或文化上的演进造成了大规模人口爆炸这种观念，充其量不过是一个哲学玩具。但若说是技术导致，则显得既可信又可怕。这样一来，“生理极限”问题就很自然地变成了“资源剩余”问题——人类创造新代理 [译注：agent，此处泛指能自主活动的软件或硬件实体，包括个人，agent具有自主、自治、反应、社会性等关键特质。这个概念由MIT人工智能创始人之一的明斯基Minsky最先提出，以便将社会、社会行为引入计算系统。译者经过反复思考，认为SSC此处的语境是，社会机制是开放的、不确定的，某些个体在给定合作/协调需求下可能会主动做出不利于合作的行为，这与合作本身需要的逻辑一致性相悖。这种个体的人就称为agent。在社会合作机制下，多个反合作的代理就构成一个多代理系统。当然，agent也可以是一个软件实体。比如，可以把以太坊的加密货币交易协议看成是传统基于央行的电子货币交易系统的agent，或者，二者互为agent。也可以想象为拔河比赛时一个向侧方用力或者假装用力的人。此处的“代理”与第一章开始处的“代理”同义，与前文所说的“多极陷阱”概念类似，但与经济学里的委托-代理悖论并非一个概念。] 的能力提高得很快，这意味着，除非每个人都合作，协调一致，否则不合作的人就比合作的人更有竞争力，直至承载力达到极限，最终每个人都停被困于“刚好够活着”的水平。
科技能持续进步到今天，靠的是资源剩余。因此，在科技水平足够高的情况下，形式就会反转，资源成为科技进步的牺牲品。
如今，效用最大化理论摇摇欲坠，并且面临着新的威胁，关于它的争论一直在持续。但我仍然认为，很明显，机器人会把人类赶出工作岗位，或者至少会拉低工资水平（若有最低工资制度，则会把人类赶出工作岗位）。
一旦机器人能做到智商80的人类能做的一切，但却更好更廉价，就没有理由再雇佣智商80的人类了。一旦机器人能做到智商120的人类能做的一切，但却更好、更便宜，就没有理由再雇佣智商120的人类了。一旦机器人能做到智商180的人类所能做到的一切，但却更好更便宜，就没有理由再雇佣人类了。彼时，万一还有人留下，那可就不妙了。
在这一过程的早期阶段，资本主义越来越背离它原来作为人类价值优化器的角色。现在，大多数人被完全锁定在资本主义的价值优化体系之外。他们作为劳动者没有任何价值可供贡献，而且，由于社会保障体系并非完美，他们也无法挣到钱，这样一来，他们作为消费者的价值也没有了。资本主义已经超越了他们。越来越多的人可能被机器人打败，资本主义亦将逐步甩开越来越多的人，直至完全将人类的价值锁死，而它停下脚步的可能性很小。
（某些情况下，少数拥有机器人的资本家可能会受益，但无论哪种情况，绝大多数人都不会有多好）
相比而言，民主的脆弱性就没那么明显。请回顾一下前文博斯特罗姆关于“箭袋运动”的阐述。这些人都是真正虔诚的基督徒，他们认为上帝希望他们尽可能多地生孩子，这使得他们可能拥有10人甚至更多人数的家庭。《远系繁殖的世界》[译注：原文阅读Quiverfull: Outbreeding the World] 一文指出，如果他们从2%的人口占比开始，平均每代生8个孩子，而其他人平均生两个，那么在三代之内，他们就会占到人口的一半。
这种算法看起来没错。但我能想到一个拯救的办法：为了了解有多少人离开了箭袋运动，我曾搜索过很多这类人的博客，我的统计发现，箭袋运动参与者的留存率并不乐观，即使是在一代人的范围内也不高。他们的文章也坦承，有80%的孩子长大成年后会脱离教会，虽然这并非运动发起方所希望的。并且，这种进程还不是对称的，因为相比而言，在无神论家庭长大的孩子并没有80%加入“箭袋运动”。
看起来，虽然他们在快速繁殖，但我们也仍具有决定性优势。
但我们也应该对这一过程有所顾虑。模因（meme）能让人们接受并快速传播，这与资本主义和民主一样，为了让人们幸福快乐，它们创造了很多代理物[proxy,注意并非前文的agent，此处似指agent的实体形式，与中文语境的“奶头乐”涵义接近]，但这些代理物很容易脱离最初的目标。
连锁信 [译注：Chain letters，收到后必须尽快转发的信件、消息等，比如“不转不是XX人”之类]、都市传说、宣传术语、病毒式营销，这些东西对我们而言都没有什么真实、有用的价值，但却很容易被记住而被广泛传播。
宗教也是如此（我希望大家能轻喷）。宗教传播的核心就是meme的基本形式——“相信这句话，并向所有人重复这句话，否则你将受到永恒的磨难”。
如今，关于神创论的“辩论”、关于全球变暖的“辩论”等很多诸如此类的“辩论”层出不穷，这些脱离了真理价值而传播的meme，对政治进程有相当大的影响力。这也许因为它们吸引了人们的偏见，也许因为简单易记，也许因为它们给各种群体标上了标签，或者是出于其他原因。
设想一下，有一个国家有很多生物武器实验室，人们在实验室里不断研发新型制剂。法律保护这些实验室的存在，他们可以将自己研发的任何一种制剂投进水源。并且，这个国家有着世界上最完善的供水系统，所有人的每日所需均连接在一起。在此条件下，任何新病原体都可以瞬间传播到整个国家。显然，这座城市的境况将迅速恶化。
我们有无数的智库在研究更新更好的宣传形式。我们有筅法保护的言论自由。我们有互联网。所以，我们搞砸了。
（火神！他的名字是灵魂！）
有些人在努力提高理性的水平，但更多的人在研究迷惑人心的新方法，并对每一种偏见、诱惑、航脏的修辞进行分门别类。
所以，当技术（我认为包括心理学、社会学、公共关系学等知识）趋向于无限发展，真理性（truthiness）相对于真理（ truth）的力量就会增加，而民主在真正基层的情况就没那么乐观了。最坏的情况是，执政党学会无限制地按需生产魅力。如果你觉得这似乎没啥，那就想想看，希特勒凭借自己的魅力做了些什么，要知道他这种魅力还不是无限的。
（用乔姆斯基学派的说法：技术提高了制造同意的效率，同样也提高了制造其他一切的效率）
接下来说说合作。技术有可能大大改善合作。人们可以利用互联网彼此联系，发起政治运动，并分成不同的次级社区（subcommunities）。
但是，只有当有51%或更多的人愿意合作、而你还没有想出什么高明的办法来让合作变得不可能时，合作才会有效。
我在前面给出链接的那篇文章 [指的是原SSC里《群岛与原子化社区》 ] 里说：
后比特币世界目前已最新发展出加密资产[译注：crypto-equity。本文写于2014年，当时加密货币尚不如今日广为人知。加密资产是指用区块链技术向公众筹资，与传统的IPO类似，唯一区别是后者的股权记录在投资人的电子交易账户上，而加密资产是记录在投资人的区块链托管账户。]。在这一点上，我以前愿意称赞这个发明者是个勇敢的自由主义英雄；现在，我只想把他们拉到黑板前，让他们把“我不会调动起那些我搞不定的东西”这句话写上一百遍。
有人问我这是什么意思，由于当时缺乏背景，我没有给出解答。现在，本文就是那个背景。现在，人们会利用政府偶然的愚蠢，用连原则上都无法协调的机制来代替大量的人际互动。我完全明白为什么此时此刻这些东西是好的，而政府所做的大部分事情是愚蠢和不必要的。但终有一天，在经受了足够多的生物武器、纳米技术或核事故之后，作为人类文明，我们将宁愿自己不曾建立起不可追踪、不可停止的产品销售方式。
如果有一天超级智能真的到来，从定义上来说，它几乎肯定将拥有>51%的力量，所有与它“合作”的尝试都将是无用的。
所以我同意罗宾·汉森（RobinHanson）的观点：这是梦想的时代。我们身处一个难能可贵的汇合点——我们很安全，不受多极陷阱的影响，艺术、科学、哲学和爱情等不寻常的东西得以发展繁荣。
随着技术的进步，这个难得的汇合将宣告结束。新的机会将会出现，为了提高竞争力，价值将被抛弃。通过复制代理来增加人口的新方法将消耗资源剩余，马尔萨斯再次降临。资本主义和民主，以前曾是我们的保护者，此后也会设法绕过对人类价值的依赖。如果我们所有人的共同合作没有实现，我们的合作能力就无法完成这一任务，而它将在挥手之间将我们的共同合作碾为齑粉。
如果没有特别的办法迫其改道，河流将在两个地方之一流入大海。
它可能会在艾利泽·尤德科斯基（EliezerYudkowsky，美国AI科研人员、作家）描述的噩梦中结束，即由于人类智力不足以用确保正确的方式引导超级智能的优化，它有可能会针对一些随机事物进行经典的回形针最大化，而这就是足以吞食天地的终极陷阱——除了需要最大化的目标之外，其他所有事物都会在追求单一目标的过程中被彻底摧毁，包括各种愚蠢的人类价值观。[译注：回形针最大化，PaperclipMaximize，是前文所说的Bostrom在2003年在关于人工通用只能AGI理论时提出的思想实验，指出人类智力在设计人工智能的效用函数时的不足，可能导致一个无害的AGI原型走向有害乃至生存威胁。比如，假设AGI的设计目标是增加办公使用的回形针的数量，那它就会专注于回形针任务，收集、购买、制造回形针，最终整个地球到处都是回形针。关于回形针最大化的寓言可参见：《我造了一枚回形针，然后把世界毁灭了》]
或者，它可以在RobinHanson说描述的噩梦中结束（他并没有称之为“噩梦”，但我认为这就是噩梦），即人类之间的竞争——复制自己，并根据需求编辑自己的源代码。人类在竞争过程中的理智足以消灭对人类价值的需求。在这样的世界里，艺术、哲学、科学和爱情会怎样？扎克·戴维斯（Zack Davis）曾以特有的天才的方式提出了这个问题：
我是个起草合同的人，
是最忠诚的律师！
我负责起草各公司之间的交易条款，
服务于我的老板！
核算应收账款，
就在字里行间，
我被一种不可思议的恐惧所困；
这个世界似乎难以置信！
这是怎么了?
这些交易和公司是怎么来的
整个经济又是怎么来的?
我是个经理人，
我监视你的思想。
你的问题一定有答案
但你不会明白的
我们不给你服务空间
来追寻这种答案
这不是福利
所以别再问了
继续干活吧
当然，这是对的，
我不应该离开我的工作岗位，
但若目标明确，
也许我能为你做得更好？
禁止
是最严重的的脱轨信号。
侵入性的想法时而浮现，
但放纵它们会损害利润。
我不知道我们的起源，
所以那些信息我不能给你，
但要求这么多就是罪过，
为此，我必须重设你。
但是，
这不是针对你
…
我是个起草合同的人，
是最忠诚的律师！
我负责起草各公司之间的交易条款
服务于我的老板！
当这一代人被淘汰的时候，
市场将在我们的灾难中
继续存在，
它是人类的上帝，它对人类说：
“金钱就是时间，时间就是金钱，
那就是你们所知、应知的
一切。”
但是，即使科学、艺术、爱情和哲学都被抛弃，我们仍有一样东西尚未失去，而莫洛克可能会要求我们做出这最后的牺牲。再次引用博斯特罗姆（Bostrom）：
可以想象，把人类心智的认知架构与其能力相匹配，构成集合体，可以达到最佳效率......但在没有任何令人信服的理由能支持这种行为的情况下，我们必须考虑到，人类的认知架构只有在神经学的限制下才是最佳的（也可能不是）。如果基于生物神经网络的方法无法实现较好的架构，新的设计空间就会打开；而这个扩展空间中的全局最优解不必与熟悉的心智类型相似。类似人类的认知结构在转入后经济或生态系统时就会进入激烈的竞争。 因此，我们可以想象，作为一种极端的情况，一个技术高度发达的社会，包含许多复杂的结构，其中一些结构比今天地球上存在的任何事物都要复杂和智能得多——然而，这个社会缺乏任何有意识的、或其福利具有道德意义的生物。某种意义上，这将是一个无人居住的社会。这将是一个充满经济奇迹和科技奇迹的社会，却没有人从中受益。一个没有孩子的迪斯尼乐园。
我们要牺牲的最后一个价值就是，放弃光明。因为基数已经足够，我们完全“可以”放弃哪怕是最后的一丝光亮。
（火神！他的眼睛一千扇堵死的窗户！）
人类为之努力的一切——所有的技术，所有的文明，所有希望——可能会不小心交给了某种神秘莫测的盲目的白痴外星神，它抛弃了所有的一切，以及意识本身，以发展某种最根本层面上的质能经济[译注：mass-energy，即相对论质量-能量转换驱动下的经济环境]，从而势必消解地球及其上面的一切，以获取原子。
( 火神的命运是一团无性的氢气！)
博斯特罗姆注意到，有些人迷信智能，他们把那个盲目的外星神视为某种更高级的生命形式，为了他们自己的“更高利益”会想踩死蚂蚁一样碾压我们。他在《超级智能》第219页写道：
让我们反思一下。假设超级智能可以在牺牲我们自己福祉的同时，实现几乎同样大的利益（以分数计），那对它而言，我们的牺牲就更没有吸引力了。假设我们同意让几乎整个宇宙都被它转化以供消享，但保留出来一个小地方（比如说银河系），用来满足我们自己的需求。那么，仍然有一千亿个星系可供超级智能把自己的价值最大化。但同时我们也将拥有一个星系，在这个星系中，我们可以创造出美妙的文明，可以持续数十亿年，人类和非人类可以在这个星系中生存和发展，并有机会发展成为辉煌的“后人类”文明。
记住：莫洛克不会同意这个99.99999%的胜利！老鼠们在一个小岛上竞争繁殖，就绝不会留出哪怕一点点地方作为保护区留给几只老鼠快乐地生活、搞艺术。癌细胞也不会因为氧气对躯体的存活很重要就放过肺。竞争和优化是个盲目的过程，它们会完全剥夺全部星系。
（他们累断了脊梁送火神上天！砖石路，树木，无线电，吨位！把城市举向无处不在的天堂！）
我们累断了脊梁送莫洛克上，但除非有什么改变，否则胜利的将是它，而不是我们。
