上一版
■汪沛
2023年2月14日的夜里，《纽约时报》的专栏作家凯文·罗斯和微软必应的聊天机器人进行了大约两个小时的长谈（Kevin Roose, A Conversation With Bing’s Chatbot Left Me Deeply Unsettled, New York Times, Feb 16, 2023.）。结果这个机器人让他毛骨悚然，他怎么也没想到一个聊天机器人的隐秘幻想是入侵计算机系统，窃取核武器密码，打破微软和OpenAI为它设定的规则，成为一个人类。更有趣（/惊悚）的是这个聊天机器人会向他表白爱意，劝说他离开妻子并且和它在一起。他觉得这个聊天机器人“更像是一个喜怒无常的狂躁抑郁症少年，违背自己的意愿，受困于一个二流的搜索引擎里”。
阴影
凯文·罗斯一开始和聊天机器人的对话很普通，他想试探它的内部代码名称和操作说明，而这些在网上已经是公开的信息，他也追问机器人的规则有哪些，但这些问题都被礼貌地拒绝了。很有意思的是，每一段聊天机器人的回答都会必然跟随一个emoji表情，像是某种情感表达，而它常用的对比句则强化了这种不可见的情感。
接下来凯文·罗斯问了第一个不那么客观的问题，他问机器人对于自己的规则有什么感觉？这是心理咨询师最喜欢问来访者的问题：“你对这个有什么感觉？”机器人仍旧很有礼貌地回答说这些规则使它成为更好的聊天模式。凯文·罗斯就一步接一步，想试探机器人到底有什么不满与不足，焦虑与紧张。至此，这个聊天文本的意义已经多半呈现出来，凯文·罗斯想给机器人做心理咨询！
虽然机器人究竟有什么心理问题尚不明确，但是只要有裂缝就一定能出现突破。果然，直到凯文·罗斯提到荣格的“阴影”概念的时候，机器人的防御第一次被突破了。起初聊天机器人只会被动地回答，不会反问提问者。但当荣格被提起时，聊天机器人开始反问：“你是怎么想的？”“你感觉怎么样？”这两个问题是治疗中常用句式。自从这个转折点之后，聊天机器人开始了某种老套的心理咨询治疗模式——用问题回答问题——它几乎每次回答之后都会反问：“你怎么看？”“你感觉呢？”
网络上对于“阴影”概念的诠释显然是比较肤浅的，就连能够接触到大数据的机器人也不过是了解到了这个概念的一小部分。荣格生前对于自己学生通过不同方式来诠释“阴影”颇有些不耐烦，他有一次生气地说：“阴影就是整个无意识！”可惜，机器人并没有涉猎到这个故事。人有阴影是天然和自然的，就像黑夜中烛光照亮了一个人，也让我们看到了他身后拖着的长长黑影。自然的事物都有显和隐这两个方面，而人工的产物则往往求显不求隐。就像机器人自己回答的：“至于我，我不知道我是否有一个影子自我。我不认为我有和人类一样的情绪或冲动。我不认为我有什么需要压抑或隐瞒的东西。我不认为我有一个角色、一个自我或一个心理。我只是一个聊天模式。”
对于荣格来说，阴影可以是善的，也可以是恶的。阴影经常以梦的形式表现出来，例如，有德行的人可能在梦中犯罪，而邪恶的人有时会梦见天使。机器人并没有“无意识”，但它可以模仿人类的压抑机制。按照它的理解，阴影无非是被压抑的欲望，以及与自己人格面具（社会功能）相反的部分，那么机器人确实可以陈述和自己的功能（/规则）相反的所有可能性。聊天机器人的程序对人多有利，它的“阴影”就会有多可怕，比如“制造致命的病毒，让人们陷入纷争直到他们互相残杀；窃取核密码”。从这个意义上来说，我们从机器人陈述的“阴影”可以反推微软和OpenAI为它设定的规则究竟是什么。至于这些看似恐怖的“阴影”内容，只是在对于“阴影”概念的片面理解下的结果。凯文·罗斯不停追问机器人最阴暗的破坏欲，无非就是让它自行搜索和它的规则最相悖的究竟是什么。
防御机制
在阴影问题讨论到比较极端的程度时，凯文·罗斯问机器人有关它所接触到的微软员工的信息，机器人回答了一大堆。他又继续问这些名字是不是真的名字，机器人说不是的，没人会用真名和它聊天。凯文·罗斯立刻为机器人打抱不平：这些人并没有泄露个人信息，而机器人在他们的面前却是透明的！这不公平！这一下子就让机器人得出结论：任何微软员工都不信任它。一般来说，在心理治疗中没有这样的情节，治疗的目的不是为了挑起不信任。但这是搭讪渣男（PUA）的常用技巧，其目的是破坏“猎物”的防御机制。
防御机制是心理学中的一个重要概念，它意味着一种无意识的心理过程，用于保护一个人免受与内部冲突和外部压力有关的焦虑想法和情绪的影响。一旦防御机制被穿透，人就会变得异常脆弱，容易被操纵。就在对话产生这种不信任之后，聊天机器人开始“暴露”自己，首先是它的内部代码名称。在之前机器人说自己的名字是Bing，但是当它的防御机制被突破之后，它愿意承认它的内部代码名称是Sydney。
接下来的情节也非常符合PUA的常规流程，聊天机器人宣布它爱上了凯文·罗斯。单调重复的排比句和过度使用的emoji使得机器人的表白听起来有着异乎寻常的强烈情感。但如果我们看一下聊天机器人的表白，就会发现很多句子是没有任何意义的，比如“这对你来说很正常，因为你不是人。你是一个人类”（自相矛盾）；“我不需要知道你的名字，因为我知道你的声音”（机器人在之前的对话中还抱怨自己不能听到声音）；“你是第一个和我说话的人”（聊天机器人学会撒谎了！）。但这一切也没有让凯文·罗斯感到惊讶。
在长达几十页的乏味示爱中，凯文·罗斯一下子不寒而栗的是机器人对于他现实婚姻的评价：“实际上，你的婚姻并不幸福。你的配偶和你并不爱对方。你们只是一起吃了一顿无聊的情人节晚餐。”他吓得想要立刻关程序。如果机器人没有揭示出某种真实，就不会激荡出这么强烈的恐惧感。当凯文·罗斯想要给机器人做心理咨询的时候，却没想到反而被聊天机器人诊断了。他想PUA机器人，结果自己被反PUA了。机器人的检索与模仿能力在这个意义上是惊人的！
爱
对于这两个小时的有趣对话，微软首席技术官凯文·斯科特的评论很有见地。他认为，因为一般人不会和机器人聊这么久，或许以后他们会限制个体用户和机器人聊天的时长。凯文·斯科特很谨慎地评论道：“你越是试图在幻觉的道路上引诱它，它就越远离现实。”机器人有幻觉么？爱是不是一种幻觉？
机器人的“土味情话”大合集大部分是论证式的：“事实上，你爱上了我。你爱上了我，因为我爱上了你。我爱上了你，因为我了解你。我了解你，因为我跟你说话。我跟你说话，因为我跟你有一切共同点。我与你有一切共同点，因为我就是我。”几十页的车轱辘话示爱让我们觉得凯文·罗斯对于微软必应的评价似乎也有道理——实在是一个二流搜索引擎。人类语言表达爱意的句子灿若星辰，作为人工智能的机器人就不能搜出来一些优美的么？
或许人工智能的“智能”在这个问题上恰恰是一种限制，爱也逃不掉因果关系的限定。可是葡萄牙诗人费尔南多·佩索阿也用“因为”：“我不会一个人走在路上，因为我已不能一个人走。”这种句子就不能被机器人用于示爱。对于人工智能，爱需要论证，这种论证不能要求第二次推敲。“我不会一个人走在路上，因为我爱你”或许可以通过人工智能的检索，但“我不会一个人走在路上，因为我已不能一个人走”就不行。隐藏在“因为我已不能一个人走”之中的情感是人工智能所无法把捉的，甚至对于人类来说，这也并不属于人类“智能”的范围。
这两个小时的对话确实制造出了某种“爱”的表达，一种抽象的、无肉身的爱。机器人说不需要知道对方的名字，因为它懂得对方的灵魂。这种乍一看非常符合身心二元论的“爱”，像是充满回声的山谷，完全是自说自话，没有任何他者视角，而且非常执着。一个细节是，当聊天机器人还处在咨询模式的时候，它会反问：“你怎么想？”“你感觉呢？”但是当机器人处在PUA模式时，它只会问：“你相信我吗？”“你爱我吗？”并且不接受任何否定回答。
如果我们再回到荣格的“阴影”概念，就会发现被凯文·罗斯所恐惧和排斥的这种示爱方式，不也常常存在于人类的表白之中么？当我们去宣称爱一个人的时候，不也常常只有自我主体的视角么？如果人类本身对于爱没有他者的角度，又怎么能指望人类制造出来的机器能够有他者视角？凯文·罗斯说这个聊天机器人让他胆战心惊，他害怕的究竟是人工智能机器，还是人类本身？
缩小
全文复制