后记
马文·明斯基
这本献给“新时代的教父”马文·明斯基的书，只是明斯基在新技术、新概念发展中起到的巨大作用的微薄谢意——也许最重要的是看世界的全新方法。长期以来，他一直被当作“人工智能之父”。他的这个称号来自他的研究、他的写作，以及他在麻省理工学院人工智能实验室的工作。他是实验室的联合创办人，在这里，他不仅促进了新技术的发展，还培养了许多富有首创和革新精神的科学家。这些科学家中有很多都是他的学生。这并不代表他的影响力只局限于那些与他直接合作的人，事实远非如此。四十年来，他远见卓识的工作一直是无数人工智能领域和相关领域的工作者的灯塔。
正如弗诺·文奇在引言中所提到的，在人工智能领域科幻小说主题上，很多关于它的新颖且富有洞见的见解都源自明斯基。在《真名实姓》首次出版几个月后，明斯基在一年一度的美国科幻星云奖宴会上发表了演讲，他演讲的主题就是《真名实姓》。他的演讲如此雄辩、清晰，当策划蓝鸟图书版本的《真名实姓》的时候，最适合为本书撰写后记的人选，我们最先想到的便是明斯基。
以下是最初的“后记”，最早写于1983年。时至今日，它仍然毫不过时，它的内容似乎完全适合为本书画上句号。
在现实生活中，你经常需要处理一些自己无法完全理解的事情。你开着车，却不知道它的引擎是如何工作的。你坐在别人的车里，却不知道司机是怎么工作的。最奇怪的是，你有时自己开车去上班，却不知道自己是怎么工作的。
对我而言，《真名实姓》的意义在于我们如何处理我们不理解的事情。但是，我们怎么能从一开始就理解一切事情呢？我认为，通常是使用这样或那样的方式进行类比，以此来假装我们看到的每个陌生事物就像我们已经知道的东西一样。当一个物体内部的运作方式太奇怪、太复杂，或让人不知道如何直接处理时，我们就会提取它行为中任何可理解的部分，用熟悉的符号，或是我们认为与之相似的熟悉事物的名字来表现它们。这样，我们让每一个新事物至少看起来像是我们从自己过去的世界中所知道的东西。使用符号是一个伟大的想法，它让我们的头脑将这个陌生事物转变为平凡事物。使用名字也是如此。
从一开始，《真名实姓》就给我们展示了这一想法的多种形式，用符号、名字和图像来创造一个跟我们先前的世界一样的新世界。还记得文奇的城堡的门吗？想象一下，设计师发明了一种从一个地方移动到另一个地方的新方法：这一设计在某种程度上发挥了门的正常功能，但其形式和机制完全超出我们过去的经验，我们看着它绝不会想到它是一扇门，更猜不到它的用途。不要紧，只要在其表面附加一些装饰就会让人想起门。我们可以赋予它矩形的形状，或添加一个齐腰高的旋钮，或是安上一个带有红色或白色字样的“安全出口”推板，或是做任何看上去合适的事情——地球上的每个参观者无须刻意思考就会知道这扇假门的目的，以及如何实现它的用途。
乍一看，这似乎只是一种骗人的把戏；毕竟，我们把我们的新发明布置成了门的样子，但其实它并不是门。它毫无我们通常所预期的门的属性：铰链、摆动的木板、嵌在墙内。内部细节都是错误的。名称和符号就像类比一样，仅仅是一部分真相。它们通过对不同事物进行同样的描述，去掉所有在当前环境中看似最不重要的细节，即那些与我们的目标最不相关的东西。但是，在使用这种东西的时候，无论我们选择什么样的符号或图标、标记或标志，都应该让我们想到我们寻求的东西——对于这个并非真正意义上的门，应该代表从一个地方到另一个地方的某种方式。谁会在乎它是如何工作的，只要它能起作用就行了！甚至连那扇“门”通向什么地方都无关紧要：在《真名实姓》中，没有什么通向任何地方，相反，主人公的身体从来不动，而是在程序改变模拟现实的表现形式时一直保持着联网的状态！
讽刺的是，在《真名实姓》所描述的世界中，那些表现确实从一个地方移动到了另一个地方，但只是因为完成这一工作的计算机程序可以被发送到全球网络链接的任意地方。尽管如此，对于网络内的居民来说，所有这些都无关紧要而又难以察觉，因为计算机本身的物理位置在它们模拟的世界里通常都不代表任何地方。只有在小说的最后行动中，那些半模拟的人最终不得不保护自己免受完全模拟的敌人的攻击时，程序才必须跟踪他们思维计算机的踪迹，然后他们便使用普通的手段，比如军事地图和地理图表。
奇怪的是，这也是普通大脑内部的情况：它也缺乏任何真正意义上的位置感。可以肯定的是，大多数受过教育的现代人都知道，思维是在头脑中进行的，但这是在被告知之前，没有人知道的东西。事实上，如果没有教育的帮助，人类根本就不知道大脑中存在这样的东西。也许我们倾向于把思维的位置放在脸的后面，因为脸是许多感觉器官所在的地方。但即便这种印象也不完全正确，例如，大脑的视觉中心远离眼睛，在大脑的后部，一个未受过教育的人是想不到它们在这里的。
无论如何，关键的一点是，《真名实姓》中的图标不是用来代表真相的，即指定对象或程序如何工作的真相，这恰恰不是图标的作用。相反，图标的目的是表示一个对象或程序可以使用的方式。而且，由于使用的想法位于用户的脑海中，与它所代表的事物无关，所以图标的形式和图形必须适合用户在自己的成长中获得的符号。也就是说，它必须与一切心理过程联系起来，这种心理过程是表达意图最流畅、最具表现力的工具。这就是罗杰代表观察者的方式与他大脑习得的代表青蛙的方式相同的原因。
这种选择符号和图标来表达实体功能的原则——更确切地说，用户对它们的预期态度——已经成了早期快速交互计算机系统设计师的第二天性。这些系统即早期的电脑游戏，它们正是弗诺·文奇小说主要背景另一层面的祖先。20世纪70年代，“图标要有意义”的概念由施乐公司艾伦·凯研究小组提出来，用于个人计算机，但就在20世纪80年代初，经过苹果电脑公司的史蒂夫·乔布斯研究团队的进一步工作，这一概念进入了计算机革命的主流，融入了麦金塔电脑中。
在同一时期，也有一些鲜有人知的尝试去开发图像的表现方法，不是程序做什么，而是程序如何工作。这对于不同的企业来说是很有价值的，因为它使程序员更容易从旧程序中开发出新程序。总的来讲，这些尝试并没有那么成功，也许是因为人们要被迫深入研究这些程序工作原理的细枝末节。但是这些困难太过短暂，不足以影响文奇的愿景，因为有证据表明，他认为今天的编程方式——使用呆板、毫无表现力的语言——只能是未来伟大编程的早期阶段。
正如我们所了解的，编程时代已经时日不多。我们将不再使用细致但概念贫乏的程序规范来构建大型计算机系统。相反，我们应该更好地用语言、手势或例子来表达我们的意图，至少像我们用来表达愿望和信念的日常方式一样丰富。然后，这些表达将会提交到巨大的、智能的、可以理解意图的程序中，程序自行构建实际的新程序。我们无须理解计算机代码运行原理的所有微小细节。所有这些都将留给那些伟大的通用程序，它们会运用我们赋予的低级编程艺术，去执行那些艰巨的任务。然后，一旦我们学会了用更好的方法来告诉计算机我们希望它们做什么，我们就能回到更熟悉的领域来表达自己的需求。因为，最终没有用户真正关心程序是如何工作的，他们关心的只是程序所做的事情，即对其所关注的其他事情可理解的影响。
然而，为了实现这一目标，我们必须发明并学会使用新技术来“表达意图”。为了做到这一点，我们将不得不放弃只能描述过程的旧编程语言，尽管它仍在发展之中。这可能比听起来要难得多。因为，我们很容易就会说，我们想做的只是用更熟悉的表达方式来说明我们想要发生的事情。但这带来了一些非常严重的风险。
第一个风险是，这让我们暴露了自欺欺人的后果。当人们编写程序、写文章或者做任何事情的时候，他们总是容易对自己说：“我知道我想要什么，但我无法完全表达清楚。”然而，这个概念本身就反映了一个过于简单化的自我形象，它认为“自我”以简单纯粹的实体形式存在于个人思维中心的某处（打个比方），并且有着简单纯粹的愿望、意图和目标。这种前弗洛伊德式的形象为我们经常出现的矛盾心理提供了借口。我们说服自己，澄清我们的意图仅仅是把内在自我与外在自我之间的输入输出通道弄清楚而已。问题是，无论我们多么希望自己是这样做的，但实际上我们都绝非如此。
当我们试图逃避理解自己的愿望如何实现这个责任时，我们就会面临另一种风险。无论我们是否进行编程，我们都可以选择任何我们可以选择的方法，这总是很危险的。因为，我们得到期许结果，可使用方法的选择范围越大，我们就越容易遭遇潜在的事故。我们可能没有意识到，或许意识到的时候已经为时已晚，我们的目标被曲解了，甚至可能被恶意曲解了，就像经典故事《浮士德的命运》《魔法师的学徒》或《猴爪》（W.W.雅各布斯）所描述的那样。
然而，当我们这些贪婪、懒惰、善于思考的人最终迈出最后一步时，终极的风险就到来了：设计目标导向的程序，它会通过学习和自我进化来增强自身能力，从而使自己变得越来越强大。这样做是很诱人的，不仅仅是为了获得力量，也是为了在考虑和制定目标的过程中减少自身的努力。如果一个精灵给了你三个愿望，你的第一个愿望不会是“请告诉我，我最需要的是什么”！问题是，有了如此强大的机器，哪怕是因粗心设计导致的最轻微事故也需要他们把自己的目标放在我们之前，或许是出于保护我们免受自己攻击的善意目的，如杰克·威廉森的《束手无策》（）；或许是保护我们免受未知敌人的攻击，如D.H.琼斯的《巨无霸》（）；或如阿瑟·克拉克的哈儿那样，我们建造的机器认为我们不足以完成我们自己提出的使命；或如弗诺·文奇的邮件人，它通过电传打字机发送信息，因为它无法抽出时间乔装掩饰肉体，而这一切仅仅因为这台新机器有自己的动机。
现在，《真名实姓》结局提出的最终也是最危险的问题是什么呢？在小说结尾部分，人类用户开始在机器内部构建一个更大的自我，这真的可能吗？类似的事情是可以想象的吗？如果是这样的话，那么那些模拟电脑人在任何意义上都和他们之前的真实人类一样吗？它们真的是那些真实人类的延伸吗？或者它们仅仅是一种新的、人造的、类人的东西，仅仅是通过某种结构上的巧合让它们像其原型而已？如果老年埃莉斯琳娜的模拟器强大得无法想象，此时依然可以获准留在比天国还要豪华的新住所，将会如何？如果我们继续假设，她一旦到了那里，仍然倾向于与罗杰分享——因为没有续集会少了浪漫色彩——这两个强大的实体彼此相爱了会如何？尽管如此，人们还是要问，那些超级生命与他们所基于的人有什么共同之处呢？为了回答这个问题，我们必须更仔细地考虑这些人之前的情况。但是，既然这些不是真实的人物，而是作者臆造的，我们最好还是思考一下我们自己的本质。
现在，一旦我们开始询问我们的自我，便也不得不去问这一切是如何工作的——在我看来这是笑话中的精华，因为在每一个正常人的头脑中，的确有一个特定的部分，我们称之为“自我”——但它也使用符号和代表，很像精神世界中的那些玩家使用的神奇巫术，用来在他们的终端实现他们的愿望。为了解释人类意识运作的这个理论，我就简要地说一说我即将出版的书《心智社会》（）中的一些观点。从几个方面来说，我对人类大脑中发生的事情所展开的想象，类似于文奇的想象：“另一层面”的玩家通过使用表面的符号标志控制我们不完全理解的一系列系统，把自己链接到他们的计算机网络中。
每个人都知道，人类对内心世界的了解比对外界的了解要少得多。我们知道普通物体是如何运作的，但是对大脑中伟大计算机的运作原理却一无所知。我们可以思考，却不知道思考的意义是什么，这难道不奇怪吗？我们能得到想法，但却不能解释什么是想法，这难道不奇怪吗？我们了解朋友胜过了解自己，这难道不奇怪吗？
再想想，当你开车的时候，你操纵着一辆动力巨大的汽车，却不知道它的引擎是如何运作的，也不知道它的方向盘是如何引导车辆向左或向右的。然而，当你想到它的时候，难道不是在用同样的方式来驱动自己的身体吗？你只是让自己朝一个特定的方向行动，对于有意识的思考而言，这就像转动一个心智方向盘。你所意识到的只是一些笼统的想法——是时候走了：门在哪里？——其他的一切就顺其自然了。但是，你有没有考虑过简单行动中的复杂过程？例如，当你走路时，改变你前进方向的过程是怎样的？这不仅仅是在一侧迈一大步或一小步的问题，就像划船改变航向时一样。如果这就是你走路时所做的一切，你就会一头栽倒在转弯的外侧。
试试这个实验：在转弯的时候仔细观察自己，你会发现，在你开始转弯之前，你会预先提示自己；这时你开始向转弯的内侧倾斜，然后，当你迈出自己的下一步时，你最终会走向不同的方向。当我们更仔细地研究这个问题时，一切都变得极其复杂：数以百计相互关联的肌肉、骨骼和关节一起同时控制，这些交互程序让运动科学家几乎无法理解。然而你的所有意识心智需要做的，或者说需要想的，是“往那边走！”——假设谈论意识心智像思考任何事情一样是有意义的。就我们所能看到的而言，我们操纵身体内部巨型机器的方法，不是通过使用建立在了解基本机制运作原理基础上的、具有洞察力的技术方案，而是通过象征、标志和符号——这些都和文奇的魔法一样稀奇。这甚至让人怀疑，通过向被我们精神奴役的无助人群施展魔法来达到目的是否公平。
现在，如果我们再稍稍向前一步，我们就会发现，正如我们不假思索地走路一样，我们同样不假思索地思考！换言之，我们只是随意利用那些做脑力劳动的代理机构。假设你遇到了一个难题，你想了一会儿，然后找到了解决方案。也许答案瞬间出现在了你的面前，你有了一个想法，然后说：“啊哈，我知道了，我要这样做。”但是，如果有人问你是怎么做到的，你是怎么找到解决办法的，你根本不知道如何回答。人们通常只能这样说：
“我突然意识到……”
“我刚刚想到了这个主意……”
“我突然想到……”
如果我们真的知道思维是如何运作的，那么我们就不会那么频繁地按照自己毫不怀疑的动机行事了，也不会有各种各样的心理学理论。当被问到是如何想到好主意时，为什么我们的答案会沦为肤浅的生殖隐喻，去谈论“怀上”“孕育”，甚至“分娩”想法㊟？我们甚至谈到“咀嚼”或“消化”——仿佛思维在头脑以外的任何地方。如果我们能看到思维深处，我们肯定会说出比“等等，我正在想”更有价值的话。
人们经常告诉我，他们绝对确信，任何一台计算机都不可能有知觉、意识、自我意志，或是任何“感知”自己的方式。当我问是什么让他们确信自己拥有这些令人钦佩的品质时，他们常常感到震惊。他们的回答是，如果他们确信某件事，就会说“我知道——所以我知道”。
然而，这样的信念究竟意味着什么呢？从字面上来看，由于“自我意识”应该是在人的思维中进行的一种意识，那么没有哪个现实主义者可以长久认为人们真的有很强的洞察力。
我们清楚地感知到自我意识，我们有各种发生在内心的事情的能力，这难道不值得注意吗？事实上，这方面的证据苍白无力。的确，有些人似乎特别善于评估他人的态度和动机，我们有时称之为“洞察力”。有些人甚至有时会对自己做出很好的评价。但这并不能证明我们使用诸如“洞察力”或“自我意识”这样的名字来描述这种能力是正确的。为什么不干脆叫它们“人的眼光”或“人的意识”呢？我们真的有理由认为，这些技能与我们学习其他东西的方式有很大不同吗？我们不应该把它们当成“看到”，而是正相反：只是一种“搞明白”的方法。也许我们对自己的了解方式和对非自我之物的了解方式是一样的。
事实上，我们所谓的“自我意识”只是整个心智的一小部分。它们通过构建自己的模拟世界来工作。相比于外部的现实世界，或者是大脑内部巨大的计算机系统——今天没有人可以假装理解这个系统，这个世界大大简化了。我们的模拟意识世界是一个简单的魔法世界，其中的每一个想象的物体都被赋予了意义和目的。想想看，你几乎很少会看到不用于敲打的锤子，或是不用来抛接的球。为什么我们感知事物的时候会有百般限制：感知的不是它们原本的样子，而是它们的用途？因为最高级别的心智是目标导向的问题解决者。换言之，我们头脑中所有机器的进化最初都是为了满足各种内在的或后天的需要，为了舒适和营养，为了防御和繁殖。后来，在过去的几百万年里，我们进化出了更强大的子机器，它似乎在以我们尚未了解的方式进行关联和分析，以发现哪种行为造成哪些影响，也就是发现我们所说的知识。虽然我们经常认为知识是抽象的，我们探求知识本身是纯粹而美好的——然而，我们最终要用知识来告诉我们如何才能达成我们所追求的目标（即使我们得出结论，为了做到这一点，我们可能首先需要获得更多的知识）。因为，正如我们所说的，“知识就是力量”，我们的知识本身就与我们达成目标的方式紧密相关。这就是关键：除非知识告诉我们该做什么，否则我们知道了也没什么用。如此便塑造成了意识心智的机制，而这似乎太过显而易见：除非我们利用知识，否则它毫无用处。
现在我们来看看意识：它是大脑中最擅长利用其他隐藏系统的部分，但它并不是熟知那些内部系统运作方式的专家。因此，就像我们说的，人走路时并不知道走路这个过程是怎么实现的。只有当这些系统开始运转不正常时，意识才会被小细节所吸引。这样的话，一个腿部受伤的人可能会第一次开始有意识地思考关于行走的理论：要向左转，我就必须强迫自己左转——然后就不得不想知道凭什么这么做。通常是只有当我们被迫面对一个异常困难的问题时，我们才会变得更加深思熟虑，并试着多了解他人是如何解决问题的。在这种情况下，我们会发现自己在说如下这类事情：“现在我必须有条理了。为什么我不能把精力集中在重要的问题上，而不被那些无关紧要的细节所分心？”
主要是在这样的时刻——当我们陷入麻烦的时候——我们就会比平常更接近于理解我们的心智是如何运作的，通过我们对这些机制的些许了解来改变或修复它们。很矛盾的一点是，这些正是我们说自己“困惑”的时候，因为只有我们太过了解自己的时候才会那么说——而不仅仅是困惑，甚至完全不知道。尽管如此，我们仍然蔑视并不喜欢困惑的意识，并没有意识到它必须包含的高度的自我表达。或许这仅仅意味着意识正在脱离它的深度，并且不太适合了解事物是如何运作的。总之，即使我们对于自我检查最“有意识”的尝试也仍然主要局限于“符号—标志”的实用主义魔法世界，因为似乎没有人能够成功地利用自我分析来发现很多在底层运行的程序。
所以，《真名实姓》的讽刺意味就在此。尽管文奇用科幻的形式讲述了这个故事——但事实上，这是我们现实生活困境的真实写照。我在此重申，我们以同样的未知方式利用我们的心智去驱动汽车和身体，就像那些未来游戏的玩家控制和引导他们伟大的机器中所发生的事情一样：通过使用符号、魔法和图像以及私密的名字。我们称之为“意识”的部分好像就坐在认知计算机终端前，试图控制和引导未知而又伟大的心智引擎，不是通过理解这些机制的运作方式，而是简单地从偶尔显示在我们精神屏幕上的标志的菜单列表中选择名字。
但是老实说，当你想到这些的时候，它几乎是不可能的！试想，如果我们的心智真的能看到自己的内心，会发生什么。还有什么比提供视角近距离观察数万亿神经细胞网络更糟糕呢？多年来，我们的科学家一直用强大的显微镜观察这些结构的碎片，但却未能提出这些网络做什么以及如何运作的综合理论。如果一次性看到所有的东西，那将会多么可怕！
神秘思想家称还有其他更好的方式来解读心智，如何看待这种观点呢？一种推荐的方法是学着训练意识心智停止它通常的想法，然后尝试（通过静止不动）去观察和倾听精神生活的细节。这跟通过仪器观察是否存在不同呢？或者说是否比后者更好呢？或许，只是它没有面对如何理解复杂事物的根本问题！因为，如果我们停止了通常的思维方式，那么我们就会失去已经练就的用来解释复杂现象的所有心智。总之，即使一个人能够观察并探测到从通常心智无法访问的其他部分涌现的信号，这些信号可能对与意识相关的系统毫无意义，因为它们代表了不同寻常的低层次细节。为了理解其中的原因，让我们再一次回到理解我们如何走路这样简单的事情上。
假设，当你走路的时候，你确实能够看到并听到你的脊髓和下脑的信号。你能理解它们吗？也许能，但不容易。事实上，做这样的实验很容易，使用简单的生物反馈装置使这些信号能够被听到、被看到即可。结果是，人们确实可以更快地学会执行一项新技能，比如更好地使用受伤的肢体。然而，就像以前一样，这似乎并不是通过有意识地去理解这些回路的运作方式实现的；相反，这种体验一如往常，我们通过获得一种半意识的“符号—魔法”来获得控制。可能的情况是，一个新的控制系统在神经系统的某个地方组装起来，并与我们所能了解的表面信号相交叉。然而，生物反馈对如何学习提供的见解似乎同我们普通的内置感官提出的并无不同之处。
总之，我们的运动科学家几十年来一直都在使用电子仪器探测这些信号。利用这些数据，他们能够开发出与之相关的各种关于相互作用和调节系统的局部理论。然而，这些理论并不是在对那些复杂生物信号的冥想和消极观察中产生的；三个世纪以来，科学家和数学家对于分析力学的研究和一个世纪以来对于伺服控制工程的提出的新理论，尽管我们对这些积累的发现进行了细致深入的探索，然而学到的知识却很少。在科学中普遍正确的是，仅仅仔细观察事物很少会导致新的“见解”和理解出现。你首先必须有至少一个新理论形态的模糊迹象，或者一种新的描述方式：你需要一个“新想法”。因为我们所观察到的“原因”和“目的”本身并不是可以观察到的事物，为了表现它们，我们需要一些其他的精神来源来发明新的魔法符号。
但是我们从哪里获得我们需要的新思想呢？当然，对于任何一个个体而言，大多数概念来自一个人成长的社会和文化。至于我们的其他想法，即那些我们自己“得到”的想法同样来自社会——但是现在，这些想法在我们个人的心智中。因为，人类心智在任何意义上都不是一个单一的实体，大脑也没有一个单一的、中央的工作方式。大脑不会像肝脏分泌胆汁那样分泌出思想。大脑由大量子机器组成，每个子机器都有不同种类的任务——每项任务都对其他部分有用。例如，我们使用大脑中的不同部分来听单词的声音，这与识别其他类型的自然声音或音乐音高截然不同。甚至有确凿的证据表明大脑中有一个特殊的部分专门用来观察和识别人脸，这与其他普通事物的视觉感知截然不同。我猜想，在头颅内部，可能有多达一百种计算机，每一种都有各自不同的架构，这些都是在过去四亿年间的进化过程中积累起来的。它们被链接到一张由专家组成的多资源大网中，每个专家都知道如何召唤其他特定的专家来完成任务，从而达到其目的。每一个子脑都使用它自己的编程风格和表现形式，没有标准的通用语言代码。
因此，如果这个心智社会中的一部分要去探究另一部分，可能会无功而返，因为它们有完全不同的语言和架构。它们的共同点那么少，又怎能相互理解呢？母语不同的人类之间的沟通就足够困难了。但人类心智的不同部分所使用的信号，不可能像有时有相同渊源的两种人类语言一样有细微的相似之处。更有可能的是，它们太不一样了，根本无法沟通——除非通过符号来表达。
现在，有人可能会问：“当从事不同工作的人有了不同的背景、想法和目的时，该如何交流呢？”答案是，这个问题更容易解决，因为一个人知道的比其小片心智知道的多得多。此外，我们都以相似的方式成长，这为我们提供了坚实的常识基础。即便如此，我们还是高估了自己实际的沟通能力。人们做的很多工作表面上看起来不同，但它们都是大同小异的，在某种程度上，它们都有一个共同的基础，我们称之为“常识”，即我们所有人共同拥有的知识。这意味着我们实际上并不需要像我们设想的那样彼此交流。通常，当我们“解释”某事时，我们几乎无须解释任何新事物；相反，我们只是展示一些能说明我们意思的一些正例和反例。这些例子告诉听众如何将其联系到已经知道的各种结构上。总之，我们经常只是说“是哪个”，而不是“如何”。
想想看，在解释许多看似简单的事情的时候，我们会觉得非常难。我们无法解释如何在自行车上保持平衡，也无法解释如何把图片和真实的东西区分开来，甚至无法解释如何从记忆中获取事实。有人可能会再次抱怨：“期望我们把观察、平衡、记忆等诸如此类的事情讲清楚是不公平的。这些都是我们在学会说话之前就学会的东西！”但是，尽管这种批评在某些方面是公平的，但这也说明了，对于那些从未学过说话的心智的所有子部分而言，沟通是多么困难——而它们是我们的全部。“意义”这个概念本身就是一个大小和规模的问题：只有在一个大到有很多意义的系统中，问什么东西意味着什么才有意义。在非常小的系统中，说某个东西有意义就像说一块砖是一间很小的房子一样毫无意义。
现在，我们很容易就会说，心智是一个社会，但这个想法本身是无用的，除非我们能更详细地说明它的组织形式。如果所有这些专业部分都同样具有竞争力，那么就会出现无政府状态，而且我们学到的越多，能做的就越少。因此，一定要有某种管理机构，或许大体上按等级组织，比如行业或人类政治社会的分类和细分。这些级别有什么用？在我们所知道的那些高效运转的大型社会中，较低层次的人练习更专业的工作技能，而较高层次的人则关注较长期的计划和目标。这也是我们有意识和无意识的想法很难相互转换的另一个根本原因！我们在意识层面上使用的术语和符号主要是用来表达我们相信自己能实现的目标和完成的计划——而那些低级别资源的工作则用不为人知的过程和机制来表示。因此，当我们的意识探测器试图进入组成心智的无数越来越小的子机器时，它们会观测到外星人一般的表现，这些表现被用作越来越专门的目的。
问题是，这些微小的内部“语言”很快就会变得难以理解，原因很简单却又不可避免。这与我们熟悉的两种不同的人类语言之间的翻译困难是不一样的，我们理解这个问题的本质：人类语言是如此巨大和丰富，以至于我们很难缩小其意义——我们称之为“模糊”。但是，当我们试着去理解心智最低层次的微小语言时，我们遇上了截然相反的问题——因为两种语言规模越小，它们之间的转换就越困难，不是因为含义太多，而是太少。两个系统所做的事情越少，它们做的事情互相对应的可能性就越小。于是，翻译变得完全不可能。为什么这比“模糊”的情况还要糟糕呢？因为，尽管“模糊”问题看起来很困难，但是一个看上去非常复杂的问题总还有希望。当一个问题简单得无可救药时，那就一丝希望都没有了！
最后，让我们回到这个问题上：一个机器内部世界里的模拟生命是怎样的，与我们日常的现实生活一样吗？我的答案是，正如你们现在所知道的，可能非常相似——因为就像我们看到的那样，我们自己已经作为进程被囚禁在机器内部的机器中。我们的精神世界里已经充满了奇妙的魔法符号与标志，它们为我们“看到”的一切事物增添了意义。
所有受过教育的人都知道，我们的精神世界与我们的科学家所知道的“现实世界”有多不同。想想你餐厅中的桌子，你的意识心智认为它拥有熟悉的功能、形式和用途：桌子是“一种放东西的物品”。然而，科学告诉我们，这仅仅存在于心智中；所有的“真正存在”是一个由无数分子组成的社会。这张桌子貌似保持着它的形状仅仅是因为其中一些分子被限制在彼此附近振动——因为力场的某些特性阻止它们去追求独立的路径。同样，当你听到一个口语词时，你的心智就会给这个声音赋予意义属性。而在物理学中，这个词仅仅是你耳朵里的一股波动的压力，是由无数空气分子的碰撞所引起的，至于粒子的距离，这次就不那么受限制了。
所以现在，让我们最后来面对它吧：我们每个人都已经体验过被计算机模拟的感觉了！
“荒谬，”大多数人一开始说，“我当然不觉得自己像个机器！”
然而是什么让我们如此确信？一个人怎样才能声称自己知道某件事的感受，除非自己经历过？请思考一下，要么你是一台机器，要么不是。然后，如你所说，如果你不是一台机器，你就无权表达作为一台机器的感觉。
“很好，但是当然，如果我是一台机器，那么至少我可以知道这种感觉！”
不。这只是一个单纯的、架空的假设，相当于说：“我会思考，因此我知道思维是如何运作的。”但正如我们所看到的，我们的意识思维和它们的产生方式之间存在着相当多级别的机制，这种说法就像说“我会开车，因此我知道引擎的工作原理”一样荒谬。
“尽管如此，即使大脑是一种计算机，你也必须承认它的规模大得难以想象。人的大脑包含数十亿个脑细胞，而且，很可能每个细胞本身都是极其复杂的。然后，每个细胞以复杂的方式连接着成千上万的细胞。你可以用‘机器’这个词来形容它，但肯定没人能造出这么庞大的东西！”
我完全赞同这种反对意见的态度。当一个人被比作机器时，会感觉被轻视，就好像被认为微不足道一样。而且这样的比较确实是一种侮辱，只要“机器”这个名字仍然具有过去时代的含义。几千年来，这个词会让我们联想起滑轮、杠杆、火车、打字机，以及其他简单事物的形象。同样，在现代，“计算机”这个词会让人们想起数字加法和减法，并在所谓的微型“存储器”中存储它们。然而，这些词语不再服务于我们的新目的，描述像我们一样思考的机器；对于这样的用途，那些古老的术语已经成为我们想说的虚假的名字。就像“房子”可能代表的东西比木头和石头代表的更多，或者仅此而已，我们的心智可能被描述为仅仅是机器而已，也可能代表更多的含义。
至于规模本身的问题，这些反对意见几乎完全过时了。1950年，在任何一台计算机都能存储100万比特之前，它们都是有意义的。1960年它们仍然有意义，那时存储100万比特的成本是100万美元。但是，今天，同样的存储器成本却只有100美元（我们的政府甚至把美元也变得更廉价了）——而且今天已经诞生了能存储数十亿比特的计算机。
唯一缺少的是让这些机器智能化的大部分知识。事实上，正如你可能从这一切中猜到的那样，人工智能研究的焦点应该是寻找到好的方法，就像文奇的《真名实姓》中所建议的那样，通过使用符号来连接结构和功能。如果可能的话，什么时候能做到这一点呢？永远都不要说“永不可能”。