先交代一件事，它有点难堪。
我博客里有 113 篇文章出现过“智能”，55 篇出现过“思考”。而“图灵测试”这个词，一次都没有出现过。“模仿游戏”没有，“骗过”没有，ELIZA 也没有。
我第一次在自己的博客里看见“图灵”这两个字，是 2023 年 8 月 17 日。那天我发的是一篇链接汇总，一条一条列下来：NAS 真是一个效率神器、Docker 镜像存储、改良了下传说中最快的终端、同时开 20 个线程去爬 rss，cpu 排满了、强大的 vim 命令——
然后是：
link 丘奇和图灵
再往下是：解决方案：如何在 Amazon EMR Serverless 上执行纯 SQL 文件？
那条链接夹在一堆技术链接中间，前后都是别人的标题，谁也看不出它是什么。
那一年 8 月，我的博客里也出现过两次相关的字眼：
8 月 2 日，一条链接，标题是“有了 AI 之后，不用再保存自己写过的代码了”；8 月 30 日，又一条，标题是“看七个月前自己写的代码，完全看不懂了”。
两条标题都是别人写的，我转了过来。
一个讲“人和机器谁会思考”的链接，和两条关于“人和代码”的链接，出现在同一个月的同一条流水线上。我把它们全都转走了。
一、我不懂的那一点
我一直以为图灵那篇论文是关于“怎么测试机器”的。
直到这次我把 1950 年的原文找出来读，才发现自己读错了重点。
论文第一句是：
I propose to consider the question, "Can machines think?"
（我提议考虑这样一个问题：机器能思考吗？）
按理说，接下来该是给“思考”下个定义。定义“机器”还好办，定义“思考”——那可是哲学里最贵的那个词。
图灵接着说：
If the meaning of the words "machine" and "think" are to be found by examining how they are commonly used it is difficult to escape the conclusion that the meaning and the answer to the question, "Can machines think?" is to be sought in a statistical survey such as a Gallup poll. But this is absurd. Instead of attempting such a definition I shall replace the question by another, which is closely related to it and is expressed in relatively unambiguous words.
（如果“机器”和“思考”的意思只能靠它们的日常用法去找，那么很难不落到这个结论：这个问题该去问一次盖洛普民调。但这很荒谬。所以我不打算下这种定义，而是把这个问题换成另一个与它密切相关、并且用相对不含糊的字眼表达的问题。）
他说定义之争会变成民调。然后他说这很荒谬。
我读到这儿笑了，因为这就是普通人的直觉：我要是去查“思考”是什么意思，只会查到一堆互相打架的说法，最后发现这事没法定义。
图灵没有论证“思考”可以定义。他干脆不定义，换了个问题——换成了一个游戏。
二、我去做了四件事
1. 把论文读一遍
我拿到的是 22 页的 PDF 全文：Computing Machinery and Intelligence，A. M. Turing，Mind 第 59 卷第 236 期，1950 年 10 月，433–460 页。
他把那个游戏说得很具体：三个人，A 是男的，B 是女的，C 是提问者，关在另一个房间里，只能靠打字往来。提问者要判断 X 和 Y 哪个是男、哪个是女。回答必须打出来，“in order that tones of voice may not help the interrogator”，免得声音泄露线索。
然后他问了一句我觉得整篇论文最要紧的话：
We now ask the question, "What will happen when a machine takes the part of A in this game?" Will the interrogator decide wrongly as often when the game is played like this as he does when the game is played between a man and a woman?
（那么我们的问题是：当一台机器来扮演 A 的时候，会发生什么？提问者判错的次数，会像在一男一女之间玩这个游戏时那么多吗？）
请注意这个标准有多不浪漫：不是“骗过所有人”，是“错得和人对人时差不多”。 我一直以为流传的那句“骗过所有人”就是他的原话。读原文才发现不是——他给的是个相对标准。人和人本来也会常搞混，所以机器只要跟人一样容易混，就算过关。
理由是：
The new problem has the advantage of drawing a fairly sharp line between the physical and the intellectual capacities of a man.
（新问题的好处，是能在人的身体能力和智力之间划出一条相当清楚的线。）
也就是说：他不碰“思考是什么”，他只保证你摸不着它。问题被改造成一个纯行为问题。
2. 回头查我自己
看完他的做法，我做了一件更笨的事：我查我自己这 22 年到底在写什么。
（这张表已排除我自己这四篇系列文，免得我自己污染统计。）
数字很难看：谈“智能” 113 篇，谈“思考” 55 篇，谈“图灵” 3 篇，而且这 3 篇全在别人的链接标题里——一条讲丘奇和图灵的历史（就是我 2023 年 8 月转走的那条），一条讲用生成式 AI 做角色扮演游戏 NPC，还有一条是 2025 年 ACM 图灵奖。
谈“图灵测试” 0 篇。
顺便说一句：“Turing test”这五个字在 1950 年那篇论文里一次都没出现过。 图灵自己一直叫它 imitation game，或者 the test。最早把这个词组写进标题的，是 1976 年 J. H. Moor 在《Philosophical Studies》上的一篇《An Analysis of the Turing Test》。（比这更早的首次使用，我没核到。）
我想了想：可能说明我不关心；也可能说明它已被内化成常识，不用写下来。我倾向后者。因为“图灵测试”这四个字，在 2026 年是一个不需要论证的默认句——“它早就过不了图灵测试了”，谁都能说，谁也没读过 1950 年那 22 页。
3. 他还给了一个年份
论文第 442 页，图灵给了一个很具体的预测：
I believe that in about fifty years' time it will be possible, to programme computers, with a storage capacity of about 10^7, to make them play the imitation game so well that an average interrogator will not have more than 70 per cent chance of making the right identification after five minutes of questioning.
（五十年左右的时间里，就有可能给计算机编程，让它们把模仿游戏玩到这样的程度：一位普通的提问者，在五分钟问答之后，判对的把握不超过 70%。）
论文结尾他还说，到世纪末，人们会自然而然地说起“机器在思考”，不会再觉得荒谬。
1950 年往后数五十年，是 2000 年。
我查了一下自己的账本：我的博客第一篇是 2004 年 2 月 3 日写的，题目是《@ mameplus各编译版本测试》。也就是说，图灵说的那个时间点，我的博客还不存在，我连“开始记录”都还没开始。
我在这本博客里第一次写“人工智能”是 2014 年 12 月 1 日，在一篇《小米手环的售后经历》里跟客服较劲；“AI”第一次单独出现，是 2020 年 6 月一部叫《AI Amok》的电影；而我第一次在博客里把 AI 当个正经工具转给读者，是 2023 年 2 月 25 日转发的那一条：用 Poe 代替 ChatGPT。
所以那条时间线对我来说，既不是“他错了”，也不是“他对了”——它发生在我开始记录之前二十三年。 我没法用我的博客去验证他对不对，因为那时候我还没有博客。
4. 我自己做了一次模仿游戏
既然图灵把问题变成了“人和机器混在一起，你分不分得出”，那我就做一次。
规则我先定死：
- •题目：今天事情很多，一直改东西改到很晚，有点烦，有点累。
- •长度：110 到 160 个汉字。
- •两段都按这个题目写，一段由我写，一段由一台机器写。
- •我给机器喂了三段我 2005 年写的旧文当语气样本，还交代了不许用“AI”“程序员”“996”“KPI”“内卷”这些词。
- •我不告诉你哪段是我的。
先把两段摆出来，不告诉你哪段是哪段：
A
今天事情很多，主要是改东西，一改就是一整个下午。其实也没什么大事，就是手上这点活总也弄不完，于是接着改，改到现在挺晚的了。中间倒是想起来该休息一下，不过又想着改完这段再说，结果一段改完又有一段。有点烦，也有点累，主要是精神一直提着，放不下来。全部弄完后发现也没改出多少东西来，早知道就这么慢慢磨着算了。
B
今天没什么大事，就是手上的东西总也改不完，于是一直改，改到挺晚的。其实中间也想过歇一下，主要是不想半途而废，结果改完一段又来一段。中途还走了一会儿神，回过神来发现光标还在原地，也没什么进展，就是时间过去了。有点烦，也有点累。最后也没改出什么名堂，早知道就这么慢慢磨着算了。
你猜哪一段是机器写的？
我先说难处：我知道答案，所以我当不了裁判。这不是谦虚，是结构性的问题——图灵那个游戏里，提问者必须事先不知道对方是机器，否则他判的不是机器，是自己的先验。我要是说“这段是机器写的，它读起来比我顺”，那这句话一半是在读文字，一半是在读我已经知道的答案。
所以这个裁判只能是你。
（我会在下一期公布答案，也公布我自己事先的判断和我猜错的地方。）
三、我现在怎么理解
做完这个游戏，我反而更清楚图灵在干什么了。
第一，他绕开的不是难题，是“定义”这个动作本身。
定义“思考”，最后一定变成站队。而他换成了一个问题：在一堆回答里，你能不能分辨出人。
这个问题不需要你相信任何哲学立场。你只要做一件事：读完，判断。判断是可以做的，定义只能吵。
第二，他一开始就知道“像人”不是“是人”。
论文里有一小节讲机器怎么才算不露馅。他把错误分成两类：一类是“errors of functioning”（出了故障），一类是“errors of conclusion”（结论错了）。然后他说，机器太完美反而会露馅——
The claim that "machines cannot make mistakes" seems a curious one. ... The machine (programmed for playing the game) would not attempt to give the right answers to the arithmetic problems. It would deliberately introduce mistakes in a manner calculated to confuse the interrogator.
（“机器不会犯错”这个说法很奇怪。……那台机器（为玩这个游戏而编程的机器）不会去努力把算术题答对。它会故意犯错，而且会用一种精心算计的方式犯错，好让提问者摸不着头脑。）
机器要故意犯错，才像人。 读到这儿的时候我笑了：这是 1950 年就写下的“AI 味”问题——今天我们觉得一段话有“AI 味”，很大程度上就是它太顺、太完整、太不肯犯错。
第三，他给“像人”列了一张单子，而那张单子根本不是机器的清单。
在回应“机器永远不会做 X”这类反对意见时，他随手列了一串：
Be kind, resourceful, beautiful, friendly, have initiative, have a sense of humour, tell right from wrong, make mistakes, fall in love, enjoy strawberries and cream, make some one fall in love with it, learn from experience, use words properly, be the subject of its own thought, have as much diversity of behaviour as a man, do something really new.
（善良、有办法、漂亮、友善、有主动性、有幽默感、辨得清对错、会犯错、会恋爱、爱吃草莓和奶油、能让别人爱上它、能从经验里学习、用词准确、能成为自己思考的对象、行为的多样性不亚于一个人、能做出真正新的东西。）
这张单子读起来不像是在描述机器，倒像是在描述你想成为的那种人。
图灵没有定义“思考”。他只是把“像不像一个我们认可的人”换成了可观察的东西：它会不会犯同样的错，会不会说同样不得体的话，会不会在没人看的时候也发一会儿呆。
第四，他真正的出路是“小孩”。
论文里他放弃了直接模拟成年人心智的想法，说：
Instead of trying to produce a programme to simulate the adult mind, why not rather try to produce one which simulates the child's? ... Presumably the child brain is something like a notebook as one buys it from the stationer's. Rather little mechanism, and lots of blank sheets.
（与其去写一个模拟成人心智的程序，为什么不试试模拟一个小孩的呢？……大概小孩的大脑就像文具店买的那种笔记本：机制很少，空白页很多。）
一段程序，加上一堆空白页——这不就是后来所有机器学习的形状吗。
第五，他还专门回应了那些“人不敢面对”的反对意见。
论文第 6 节他逐条回应了 9 条反对意见，我数了一遍，从神学反对一直到超感知觉反对。第 2 条最像我今天会问的：
The consequences of machines thinking would be too dreadful. Let us hope and believe that they cannot do so.
（机器能思考的后果太可怕了。让我们希望并相信它们做不到。）
他说这种话“很少被这么坦率地说出来”，但“影响了大多数认真想过这件事的人”；至于这个论证本身，他觉得“不值得花力气去反驳”，“给点安慰更合适”。
他没有嘲笑那些害怕的人。 这有点出乎我的意料。我印象里哲学家爱嘲笑不懂的人，图灵这里却是：我知道你在怕什么，我不跟你争这个。
四、我还没懂的
第一，他绕开了定义，但绕得不干净。
他回应“机器没有意识”这类反对时说：我们无法知道除了自己之外的人是不是真的体验到了什么，所以应该接受这个测试。他这是在把问题推给人：不是证明机器有思想，是承认我们本来就无法证明别人有思想。
这个回答很聪明，但也很滑。它等于说：你分得出，它就算；你分不出，它是人。 那“分得出”靠的是什么？如果靠的是“它像你”，那测试最后测的还是像不像，不是是不是。
第二，我那个模仿游戏，严格来说是个失败的实验。
样本量是一，题目只有一个，机器只读了三段样本。而且最要命的：读者如果熟悉我二十二年的文字，那这个测试测的就不是“像不像人”，而是“像不像我”。 我很可能靠文风赢了，而图灵要的那种测试，裁判必须是陌生人。
第三，我一直没想明白的是：如果一个人被问“机器能思考吗”，而他答不上来，这到底是因为他不知道，还是因为“思考”这个词本来就没有可判定的边界？图灵说定义之争是荒谬的，民调式的答案是荒谬的——可他自己最后也没给出一个正面答案。他只是把问题挪到了我们能力够得着的地方。
有意思的是，在第 6 节第 8 条反对意见（“人的行为不规则，所以人不是机器”）里，他的回答其实很克制：人的行为确实不可能有完整的“行为规则”，但身体遵循的“自然规律”是不是完整的，那是另一码事；而且——
We certainly know of no circumstances under which we could say, "We have searched enough. There are no such laws."
（我们从来没法说：“我们已经找得够多了，不存在这样的规律。”）
1950 年的人就明白：搜索没结束，就不能说它不存在。
这一步我到现在也没想明白。
五、下一期
论文里那句“模拟一个小孩”，我读的时候还没多想。
但六年后，真的有人造了一个小孩来跟人说话。
1966 年，一个叫 Joseph Weizenbaum 的程序员写了一个程序，取名 ELIZA。它假装听你说话，学着你的样子反问回来。它聪明得可怕，也傻得可怕——它完全不懂你在说什么。
有意思的是，我博客里“聊天机器人”这个词只出现过两次，都是 2023 年别人链接的标题。也就是说，我这 22 年，从来没有跟一个聊天机器人好好说过一句话。
我打算下一期去读那 1966 年的对话记录——以及一件让我一直想不通的事：一个什么都不懂的程序，是怎么让那么多人说它“懂我”的。
没有评论:
发表评论