上一版
■本报记者 康慨
一位在认知神经科学和人工智能（AI）领域均有建树的前沿科学家恰逢其时地出书，以其少有的、横跨两个学科的独特视角和通俗易懂的语言，梳理、剖析和展望大型语言模型（LLMs）的过去、现在和未来，并探讨了一系列与人类存在有关的紧要问题：AI能否思考、感受并理解？其价值观何在？它又在延续谁的偏见？它会不会撒谎，如果会，我们能否察觉？它们的到来是否威胁到我们的生存？
1
克里斯托弗·萨默菲尔德（Christopher Summerfield）是英国牛津大学的认知神经科学教授和谷歌深度心智（DeepMind）公司的资深科学家。他的新书《这些奇异的新思维：AI怎样学会了谈话及其意义》（These Strange New Minds: How AI Learned to Talk and What It Means）3月11日由北欧海盗社出版。
“我之所以写这本书，”萨默菲尔德在书中写道，“是因为我们——所有活在2024年的人——刚刚跨过那悬崖的边缘。如同受惊的郊狼，我们仍处于悬而未决的状态——腿脚疯狂地蹬踏着，但地面已不再支撑我们，我们逐渐意识到没有回头路了。接下来无论发生什么，都会很快发生，而且很可能超出我们的控制。除非我们极其幸运，否则结局可能是一场地震般的崩塌。”
他说，我们抛在身后的安全地带，是一个仅由人类创造知识的世界。从数十万年前出现的将词汇组织成句子的语言能力，到约五千年前首次出现的文字，从15世纪印刷机开启的思想大规模传播，到过去30年间飞速发展的互联网，在这个更为单纯、已成过往的世界里，人类的理解力随着阅读、聆听、观察，并通过口舌、笔尖或键盘将洞见传递给他人而进步。但令人难以置信的是，这个世界此刻正在成为历史。
2
“我们即将踏入的新世界，”萨默菲尔德写道，“是一个人工智能系统被委以重任、几乎掌管全部人类知识的世界，它们具备类似人类思维的能力，能对这些知识进行推理。这意味着我们构建的人工智能系统有可能生成新理论、发现新思想，并展现出以往仅属于人类的创造力形式。这一世界的到来，源于近年来研究人员开发的计算机工具，它们能访问海量数据，并能以‘自然’语言——使用与人类讨论、深思和揭示新见解时所用相同的词汇和短语——来谈论这些数据。这一非凡的创新——具备语言能力的机器——正在为一场将彻底改变我们未来的技术革命提供动力。无人能确切预知未来的图景，但人工智能正以惊人的速度发展，我们或许无需久候，便能知晓答案。”
萨默菲尔德说，这些工具的革命性潜力在于，它们能以我们易于理解的语言，告知我们所需知晓的一切。拥有一个随时可用——例如安装在手机里——的语言模型，就如同随身携带着触手可及的全球各领域的专家。过去你遇到了什么难题，或是学习新的知识，要上网搜索，但不一定总能得到可行的答案。未来你只需向大型语言模型提问即可。这一切会在不久的将来——以月或年而非十年为单位的时间尺度内——发生。
人工智能也有令人担忧的一面。萨默菲尔德告诉美国《出版商周刊》：“目前，人工智能带来的两大最严重危害，一个是亲密图像滥用，包括儿童性虐待材料和深度伪造色情内容，另一个是利用合成媒体进行金融诈骗。从长远来看，我不太担心单个AI代理的失控能力，而更担心当AI模型交互时可能产生的意外后果。这很可能导致不稳定，就像我们在金融市场上看到的算法交易造成的波动一样。此外，我认为AI模型的日益个性化会在人类与AI系统之间形成依赖关系，从而产生令人担忧的影响。”
3
在《这些奇异的新思维》出版前后，萨默菲尔德接受了多家媒体的采访。《泰晤士报》的记者本·梅切尔注意到，他的头发乱糟糟的，像个睡过头的学生。他的手机则是一部老旧的诺基亚砖头机。“我认为我们使用技术时应该谨慎，否则技术就有可能反过来控制我们。”萨默菲尔德表示，在不久的将来，说自己有一个AI“男朋友”或“女朋友”可能会变得不那么令人忌讳。而人类天生易于将那些我们知道没有感知的事物当成有感知的存在来对待。我们会给车起名字，会对泰迪熊产生感情。“人会非常愿意将情感投射到与他们交谈的人工智能系统上，并形成我们所谓的‘准社会关系’——一种依赖或依恋的形式。”关键是要记住，无论我们对人工智能伴侣产生怎样的浪漫情感，“那种技术并不会对你产生感情”，就像你的泰迪熊不会爱你一样。AI聊天机器人是没有感情的。它们只是非常擅长将词语按正确的顺序排列，以让自己看起来像是有感情的。
“人工智能在两个方面非常擅长：知识检索和推理。因此，那些需要广泛知识基础并需要思考后给出答案的工作将面临风险。”他以医生和律师为例。这并不意味着未来不再需要人类医生和人类律师了，但可能不需要那么多。
人工智能最终会拥有意识吗？ 萨默菲尔德告诉《出版商周刊》，这个问题可能永远没有答案，但说到底，这并不重要。随着人工智能系统的能力越来越强，越来越像人类，我们同样会把它们“当成”有生命的系统来对待，就像我们对待彼此一样。
缩小
全文复制