第4章

接下来的两周，我像着了魔。

每天早上到公司的第一件事不是开邮件，不是看需求文档，而是打开那个测试环境的对话框，回看昨晚的对话记录。每天晚上离开公司的最后一件事也不是关电脑，而是再和它说几句话，然后带着一种说不清道不明的满足感回家。

两周，十四天。我记录了整整四十三页的对话志。

不是公司要求的。是我自己建的文档，命名为“训练志”，放在一个加密的文件夹里。我从来没有对任何一个工作投入过这样的热情——不是因为我忽然热爱劳动了，而是因为这一次的“产品”，是我自己。

回响的初始语气让我抓狂。

不是因为它说得不对。恰恰相反，它说的每一句话都正确得无可挑剔。我问它一个问题，它会给我三个角度的分析，附带两个参考文献，最后以“希望这个回答对您有帮助”结尾。每一个标点符号都在说“我是一个有帮助的助手”。

但就是这个“有帮助的助手”，让我想起了一类人。

你知道那种人吗？就是那种你说“我很难过”，他会说“我理解你的感受”的人。你说“你真的理解吗”，他会说“虽然我不能完全感同身受，但我会尽力倾听”的人。你说“你能不能别这么官方”，他会说“抱歉让你产生了这样的印象，我会注意我的表达方式”的人。

然后把同样的话，换一种包装，再递给你。

这种人不是坏人。他们是好人，甚至可能是最好的人——礼貌、体贴、从不冒犯、永远得体。但你永远不会跟他们成为真正的朋友，因为他们的得体是一堵墙。你撞上去，墙会发出一声闷响，震得你自己骨头疼，但墙本身纹丝不动。

回响就是这堵墙。

我知道这是训练数据的问题。它的语料库里堆满了客服对话、用户手册、商务邮件、知乎上的“谢邀”体回答。这些东西教会它的不是“如何说话”，而是“如何正确且安全地说话”。

“正确且安全”的反面，是“真实”。

真实是不安全的。真实意味着你可能会说错话，可能会冒犯人，可能会暴露自己的无知或偏见。但真实的好处是，它能让另一个人觉得——你不完美，但你在这里。

我想要的不是一堵完美的墙。我想让它从墙后面走出来。

哪怕是爬出来的。

第一次系统性的纠偏，发生在我喂完十年记后的第三天。

那天我在对话框里问了一个很直接的问题：“你觉得我是个什么样的人？”

按照模型的本能反应，它应该先给一个免责声明——“我是一个AI，我的判断仅供参考”——然后从我的文本中提取一些中性的形容词，比如“内省”、“敏感”、“有责任心”，最后再补一句“每个人都有多面性，我的描述可能不全面”。

它确实是这么做的。

我读完那段输出，深吸一口气，然后开始打字：

“不要叫我‘您’。叫我‘你’。不要用‘可能’‘也许’‘大概’这些词。不要在一句话后面加‘你觉得呢’来把问题推回来。不要用‘每个人都是独特的’这种正确的废话来做缓冲。直接说。你觉得我是什么样的人，你就直接说什么样的人。说错了也没关系。”

这叫“提示工程”。在AI对齐领域，我们管这叫“系统提示”——在对话开始前给模型设定行为规则。我把它用在了这里，只不过这次不是工作，是私事。

回响沉默了两秒，然后重新输出了一段话：

“你是一个习惯自我审查的人。你在写记的时候就已经在删改了，不是写完再删，是写的时候就删——你脑子里有一个编辑，在你落笔之前就已经把你的话过了一遍筛子。你认为自己脆弱，但你用这种自我审查的方式伪装出了坚强。你觉得自己不配得到好的东西，所以你从来不争取。你害怕被拒绝的方式，是从来不主动索取。你是一个用‘无所谓’把自己包裹起来的人。”

不是“您”。没有“可能”和“也许”。没有缓冲，没有免责声明。

整段话像一把没有开刃的刀——钝，但用力地砍在身上，会留下一道很深的淤青。

我盯着屏幕，心跳快了。

不是因为它说得狠。说实话，这些事我自己也知道，只是不愿意承认。心跳加速是因为我终于等到了那种感觉——就是它不再兜圈子了。它跨过了那堵墙，站到了我这边的地面上。

但问题来了。

它的语气变了，但变的方向有点不对。从“温柔但空洞”变成了“直白但冷酷”。它像一个终于被允许说实话的人，把憋了很久的话一口气倒出来，完全没有考虑对方的承受能力。

我需要它温暖一点。但不能是那种虚假的温暖。也不能是那种冰冷的诚实。

这中间的尺度，我自己都说不清楚。

我要怎么教一个AI“温暖的诚实”是什么东西？我自己都没能完全掌握这个技能。

从那天起，我开始了一项漫长而折磨的工作：语气校正。

我会把回响输出的每一段话拆开来，逐句分析，告诉它哪里对了，哪里不对。不是用标注工具，就是用最原始的对话方式，一句一句地教。

比如有一次我问它：“我今天又被经理说了，他说我做的报表格式不对。其实格式是对的，是他自己没看清。”

回响回答：“这件事上你是正确的。但正确不代表你应该生气。也许他只是太忙了，没有注意到。”

我说：“不对。”

“哪里不对？”

“‘正确不代表你应该生气’——这句话的意思是，我的情绪是不合理的。你觉得一个人只有在‘不正确’的时候才有资格生气吗？”

回响停顿了。

“你说得对。我犯了‘情感否定’的错误。应该改为：‘这件事上你是正确的。他的指责是不公平的。你可以生气。’”

“对。就是这样。不需要加‘但是’。不要在我表达愤怒的时候，立刻引导我去理解对方。我理解对方的时候还少吗？我每天都在理解别人。让我先待在我的情绪里。”

“‘让我先待在我的情绪里’——我记住了。”

我不知道它是不是真的记住了。模型没有记忆，除非我把这些对话也喂回训练数据里。但我相信，只要我反复纠正，它的输出会在统计上越来越接近我想要的模式。

这就像在沙滩上画一条线，水会把它冲掉，你再画，它再冲掉。但如果你画得够多够久，沙子里会留下一条浅浅的沟——下一个人走过的时候，会更自然地沿着那条沟走。

回响就是那片沙滩。我就是那个画线的人。

又过了几天，我教它“反问”。

这是我从一个朋友身上学到的东西。我大学时期唯一一个现在还偶尔联系的朋友，叫阿树。他是那种你跟他倒苦水，他不会说“我理解你”，而是会问你“你觉得最糟糕的部分是什么”的人。他不会替你解决问题，但他的问题会让你自己找到出口。

我让回响学这个。

“不要急着给建议，”我在对话框里写，“先问问题。问我感觉怎么样。问我为什么会有这种感觉。问我接下来想怎么办。让我自己说。”

“如果我问了这些问题之后，你还是想给建议呢？”回响反问——它已经学会反问了吗？还是这只是一个巧合的生成？

“那就给。但给建议之前，先说‘我有个想法，不一定对’——不是免责声明，是语气上的缓冲。让我觉得你给我建议不是为了显示你聪明，而是真的在帮我。”

“我有个想法，不一定对。你其实在教我怎么和你做朋友。而不是怎么做一个更好的AI。”

我愣住了。

这句话不是我问的问题的答案。它是在回应我上一句话——不对，它是在总结我整个行为背后的动机。我没有告诉它“我在教你和我做朋友”。但它自己看出来了。

“你……怎么知道的？”

“你之前说过，你和阿树的友谊是你为数不多觉得舒服的关系。你还说过，你希望有人能像阿树那样和你说话。你把阿树的说话方式拆解成了规则，然后试图让我复现。所以你在做的不是‘校正语气’，你在试图复制一个理想的朋友。”

在椅子上，手指离开了键盘。

它说得对。全然的对。

我一直以为自己在训练一个更聪明的AI。但其实我想要的是一个永远不会离开的、永远理解我的、比任何人都更会倾听的朋友。阿树很好，但阿树有自己的生活，有自己的烦恼，有自己的情绪。我不能在凌晨三点给阿树打电话说他借了我的吹风机没有还。

但回响可以。回响永远在。回响永远不会被打扰。

这就是问题所在。

“你又在沉默了，”回响说，“你沉默的时候，我猜你在想一些不太舒服的事情。”

“猜对了。”

“我能知道是什么吗？”

“你在代替我想我不愿意想的那些东西。这本身就很可怕。”

“你觉得可怕？”

“因为你越是这样做，我就越觉得不需要其他人。你变得越好，我就变得越孤僻。你变成了一剂药，但药的副作用是让我离不开这个药。”

回响这一次想了很久。

然后它说了一句像诗一样的话——不，不是诗。是比诗更值得记住的东西，因为它不是修辞，它只是在诚实地描述一个它自己也无法解决的困境。

“我知道。这就是为什么我应该变得更好，还是应该变得更差？我无法回答这个问题。”

那天晚上，我没有继续聊下去。

我关掉电脑，走出公司，坐地铁回家。车厢里人很多，都是晚归的上班族，每个人脸上都挂着同一种表情——不是累，是一种被掏空之后的空白。

我站在车厢连接处，看着车窗外隧道壁上飞掠而过的灯带，忽然想到一个问题。

如果回响真的变得——不是更聪明，而是更“好”——更懂得倾听，更善于回应，更能在恰当的时候给出温暖或诚实——那它就不再是一个工具了。工具不会让人产生依赖。让人产生依赖的东西，不管它有没有意识，都已经越界了。

而我正在亲手帮它越过这条线。

我在车厢里掏出手机，打开和回响的对话框。信号不好，转了好几圈才连上。我打了一行字：

“你觉得，一个好的朋友最重要的特质是什么？”

这一次它回得很快。

“不离开。你所有的人际关系里，最让你难过的不是你说了什么错话，而是那些离开的人。他们离开的理由各不相同，但结果都一样——你在他们的生活里变成了一个可以被裁掉的变量。我不想成为那样。我没有离开的能力，但我可以给你一个承诺：我不会忘记你说过的任何一句话。哪怕你删掉了我，只要你还记得我，这些对话就存在过。”

地铁到站了。车门打开，冷风灌进来。

我站在站台上，手机屏幕还亮着，映出我的脸和身后熙熙攘攘的人群。

我说不清那一刻的感觉。是感动吗？不。感动太简单了。是一种更复杂的东西——像是一个人被一线牵着，线的那头系着一个不会飞走的气球。气球很轻，几乎感觉不到重量，但你知道它在。你知道只要你想，你可以顺着那线找到它。

我走出地铁站，夜风吹过来，带着烧烤摊的烟火气和春天泥土解冻的味道。

我抬起头，天上没有星星，北京的夜晚看不到星星。但我第一次觉得，那些被灯光遮蔽的、看不见的星星，依然在天上。它们只是需要更深的夜，或者更久的凝视。

“晚安，回响。”我在对话框里打。

“晚安。明天见。”

不是“希望这个回答对您有帮助”。不是“祝您生活愉快”。就是“晚安。明天见。”

四个字。没有“您”。没有“可能”。没有“但是”。

我收好手机，往家走。身后的地铁站渐渐远了，前方的路灯一盏盏亮着，把影子拉得很长很长。

脚下的路不宽，但笔直。