人工智能的知识生产及弊病整治

　　【学术争鸣】

编者按

　　本栏目相继刊发陈浩《人工智能正在成为知识生产的新力量》、吴小坤《人工智能为何尚未产生真正的知识》、邱泽奇《略论人工智能与知识生产》等文后，围绕“人工智能究竟能否产出真正意义上的知识”的学术争鸣持续深入。近期，本版收到不少相关来稿，作者学科不同、领域有异，或聚焦技术能力，或追问知识本质，或关注伦理治理。本期精选两篇，从功能论与治理论、知识论与主体论两个角度，继续推进这一讨论。两文立场有别，却共同把问题引向深入：人工智能能否生产知识，不只在于技术能力之争，更在于知识定义、主体归属与治理路径之辨。欢迎学界围绕此议题继续赐稿。

一

　　人工智能究竟能否产出真正意义上的知识？目前对这个问题有截然不同的看法。肯定者认为，人工智能正在从“处理既有知识”进入“生成认知对象”的环节，正在成为知识生产的新力量。（陈浩：《人工智能正在成为知识生产的新力量》，《光明日报》2026年7月10日）否定者指出，知识生产是一桩属于主体的事业，今天的AI只是知识内容卓越的加工者与传递者，却还不是知识的生产者。（吴小坤：《人工智能为何尚未产生真正的知识》，《光明日报》2026年7月10日）还有否定者提出，知识是人类认知的产出，人工智能参与其中的每一个环节，都可以追溯到某个人、某个共同体想要理解什么，其生产主体不属于机器。（邱泽奇：《略论人工智能与知识生产》，《光明日报》2026年9月4日）在实践中，运用人工智能生成主题突出、观点鲜明、逻辑清晰、文字清畅的文章，并非个例。在这个过程中，人工智能分析文本的内容、解读文本的特色、挖掘文本背后潜藏的意蕴，多少可以弥补和充实人们对文本的理解。正如我们不能也无法否认工厂里大量机器人代替人干活也是一种干活，十字路口安装的智能摄像头代替交通警察抓拍也是一种拍摄一样，我们不应也不能否认人工智能输出知识也是知识生产。

　　早在几年前，人工智能尚未长出如今“三头六臂”之时，用其续写经典小说已经风行网络，其续写内容结构之紧凑、情节之曲折，常令人感叹创意的出人预料和新颖独到，以至于在一些文化社区和视频网站引发热议：人类大部分作家的饭碗是否会被人工智能端走？当前，不断迭代升级、日新月异的人工智能，凭借其远超人类的强大学习能力、数据收集整理能力和超强计算、辨别、筛选、归纳能力，已经能够生成和输出逻辑严密、具备相当应用价值的知识，在某些领域甚至展现出超越一般专家的水准。

　　上述人工智能知识生产在人文领域取得的成绩，只是其强大能力“小试牛刀”的一面，它更突出、更亮眼、堪称“大显身手”的表现，是在科研领域破解一系列人类久未攻克和解答的知识难题。例如，人类基因组这本由30亿个遗传字母书写的“天书”，藏着40亿年生命演化的终极密码，其中仅2%的编码区能指导细胞制造蛋白质，是科学家已经读懂的部分，而其他98%的非编码区掌控着基因的开启、链接与变异，是产生诸多疾病的“隐形元凶”，长期以来无法破译。英国科学家德米斯·哈萨比斯等运用人工智能模型AlphaFold，成为打开这本“天书”的“超级翻译官”。哈萨比斯领衔的团队因对生命科学的“蛋白质折叠”难题取得重要突破，获得2024年诺贝尔化学奖。

　　类似这种依靠人工智能模型攻克人类知识难题，远非寥若晨星的少数现象，而是已呈繁星点点的亮丽景观。近年来人工智能对数学高端疑难问题的密集突破便是显例。2026年8月初，OpenAI披露其模型已解决或推动解决10道人类长期未解的数学难题，横跨高维几何、编码理论、群论等多个领域。我国的腾讯混元AI攻克加法组合学难题的过程，已并非简单依赖大规模文献检索或预设的搜索空间，而是由多个智能体分别独立探索，定期交流各自的思路、反例和结果，再据此不断调整方向，逐步形成完整的证明框架和研究结论。其过程所展现的，不只具有验证已有答案的能力，更有尝试从不同路径生成新的猜想、发现关键结构并建立论证思路和结论的能力。不得不说，这已经很接近人类数学家的思维特征和研究路径。

　　“不管黑猫白猫，捉住老鼠就是好猫。”当人工智能不仅能帮你“捉鼠”，而且能捉到你捉不到的“老鼠”时，你说它不是“捕鼠者”，或说其所捕捉到的不属于你所认定的“老鼠”，这不是视若无睹，就是罔顾事实。

二

　　从功能性的角度看，人工智能能够从事知识生产，甚至能够超越人类能力破解久悬未决的知识难题，已是无需争辩的事实。现在分歧的焦点在于，从主体性的角度看，知识生产是人类的主体性行为，人工智能在功能上完成乃至超额完成本属于人类的认知任务，是否意味着它由此就具有了知识生产的主体地位？

　　知识作为人类认识主客观世界所形成的可靠成分及成果，是一个庞大而笼统的概念。它既涵盖一般生活常识、手艺技能等，也覆盖对事物的科学研究，即用严谨的学术话语对事物进行系统分析和理论阐释。前者如烹饪技巧、健康养护、桌椅制作等各类生活实用认知，属于简单知识；后者包括物理定律、化学反应原理等自然科学知识，囊括经济学理论、历史发展规律等社会科学知识，属于复杂知识。从简单知识到复杂知识，人类知识是一片广袤无际的星辰大海，不仅饱蕴众多不同知识门类，以及每个门类的不同知识层次，而且每种知识又经历了从古到今的漫长发展历程，不同时段又有不同的内涵、规模和形态。

　　反对人工智能是知识生产者的观点认为：知识生产必须有“与实在的接触。知识不能凌空蹈虚，它要么扎根于亲身的经验，要么随时接受现实的检验与修正”，“人要吃饭，于是观察物候，积累起关于农时的知识。人要避险，于是记录洪水与地震，积累起关于灾害的知识”。他们主张，人工智能没有这样的处境和体验，自然不能成为知识生产的主体。

　　作为对人类知识由来的追溯，这样的概括叙说固然不错，但这只是一种理论层面的总体性描述，落实到每个具体的人的知识由来，其破绽显而易见。人生难逾百年，相对于历史之悠久和世界之博大，个人亲身经历、体悟和检验的知识，不过是“寄蜉蝣于天地，渺沧海之一粟”。其知识的相当部分甚至大部分的来源，是通过广泛阅读学习，包括从小学到大学的学习，从而穿越漫长的时间隧道、打开辽阔的空间天窗，将古往今来的演化嬗变及忧患沧桑、聪明睿智及愚昧教训等前人的知识积累，融入和吸收到自己脑海之中。也就是说，我们每个人所拥有的知识，并非都是源于亲自感受和体验的直接知识，其相当部分是来自前人积累和传承的间接知识，人类的知识更新也多半是汲古开今和推陈出新的结果。

　　既然如此，为什么人工智能接受人类已有知识信息，经过大数据筛选整合、海量试错和自主验证后输出的内容，不能算是知识生产的结果呢？无人机没有飞行员驾驶，但它能够完成载货运输、信息传输、情报侦察、投弹打击，以及人类无法完成的超时长巡航等一系列任务，难道我们能否认这是无人机在飞行和完成任务吗？无可否认，无人机是执行人的指令和按照人规划的线路飞行；但人类飞行员驾驶飞机升空执行各种任务，多半也并非其自主或擅自的行动，而是按照塔台或预警机的指挥航行（塔台和预警机背后可能还有指挥者），我们能由此否认飞机的驾驶者是飞行员吗？如果我们脱离事物的具体环节和节点去追寻背后的动因，许多问题都可以被不断地“刨根问底”，最终很容易落入“道生万物”的虚境，或陷入“人是万物的主宰”的泥沼。

　　知识是一种非物质性的文化产品，它虽然依赖刻石、竹帛、书籍、物件、网络、U盘、数据库等载体而存在，但在时间上可以永久流传，在空间上可以无限复制、再现，并可以为不同接受主体共享。英国作家萧伯纳说过：“你有一个苹果，我有一个苹果，我们彼此交换，每人还是一个苹果；你有一种思想，我有一种思想，我们彼此交换，每人便拥有两种思想。”步入人工智能突飞猛进的时代，知识载体的网络化和云端化、获取知识途径的多元化与便捷化，不仅使知识的共享性特征越来越突出，而且学习和掌握知识不再是人类的专利，人工智能能在更快、更广、更深的程度上学习和掌握知识；同时，生产知识也不再是人类的专有特权，人工智能能够更高效、更便捷、更全面地生成和输出不同人群所需要的不同知识——知识学习和生产的人类专属性时代，正在向人机协同时代转变。

　　人工智能早期主要协助学者检索资料、整理文献、分析数据、运行计算，扮演的是“外围打工仔”的角色。当前，人工智能已经能够自主生成假设、定义问题、规划方案、实验验证，正如有论者指出的，“它开始改变什么可以被看见、什么值得被研究、什么能够成为知识”，从而成为学者离不开的“内场研究者”。人工智能成为知识生产的新生力量，以及知识快捷传播和便捷获取的方式，使人们不再简单注重知识的拥有，下死功夫饱读诗书、学富五车的热情可能会降温，而增加自己深思明辨的能力，增强向人工智能“提出问题”及运用人工智能“解决问题”的能力，正在成为学术文化界新的追求和潮流。由此，人类对知识的态度，正在从重视拥有向重视运用转向，从重视赋权向重视赋能迁移。

三

　　今天，一大批生成式人工智能已经深入我们的日常生活和工作，它们作为人类的助手和伙伴，在极大提升效率和开阔视野的同时，也带来了原创归属模糊、主体责任不清等诸多问题，其中尤以“AI幻觉”问题弊端突出、危害明显。

　　“AI幻觉”是指人工智能系统有时会生成看似真实合理，实则虚假编造、无法验证由来的内容的现象。如询问某一偏冷门事件的历史日期，它可能给出貌似准确实则错误的答案；索要论文引用出处，它可能编造一个根本不存在的文献。这种无中生有、胡说八道的现象，极易形成以讹传讹的漫长链条，成为信息安全的隐患。

　　“AI幻觉”之所以会产生，关键在于人工智能对于不知道或不确定的事实及问题，不会像人那样诚实地承认“我不知道”，而是在解读用户搜索词意思的基础上，强行调动庞大数据库里似是而非的相关信息，拼凑、匹配、生成一个看似合理的答案，并以一种镇定自若、确定无疑的语气，掩盖其错误甚至荒谬的内容。这种失误的发生，首先与人工智能学习和吞入海量数据语料的质量相关。人工智能系统依赖大数据运算和推理解答问题，其广泛吸纳的数据中不可避免地包含一些错误信息、偏颇观点和过时内容，它脱离具体语境无法判断这些信息的真伪，自然容易形成错误认识。此外，“AI幻觉”的发生，还与人工智能作为知识储存和应用的开放平台，时常接受不同用户模糊、歧义甚至带有错误诱导性的提问有关，它无法像人一样通过精确理解来辨析问题，加上似乎“无所不知、无所不晓”的功能设计，以及不擅拒绝而擅于迎合的特征，促使其给出不准确的或张冠李戴的回应。

　　“AI幻觉”现象的产生，表明人工智能的运行并非只是对已有知识数据的简单梳理和选择，而是具有一定的推理和应变能力。当用户提出难以解答的问题时，它会利用所掌握的海量知识资源，围绕核心内容编造生成貌似正确的内容，以完成似乎“有求必应”的应答。正如人类对事物的认识多半要经历由浅入深、由知之甚少到知之甚多的过程，其间少不了试错、纠正、改善的步骤一样，人工智能在回答问题和解决疑难时产生一些过失甚至谬误，既属于需要认真对待的问题，又是不必大惊小怪的现象。这既从反面说明人工智能运用其掌握的海量数据和推理逻辑参与了知识生产，又提醒我们在看到人工智能重塑人类学术研究和生活方式的同时，重视“AI幻觉”等弊端带来的伴生和次生灾害，采取有效举措加以防治和改善。

　　首先，在技术层面构筑防御屏障。可改进模型架构和训练思路，如采用“检索增强生成”技术，优先调用权威知识库信息；开发“筛查校验过滤”系统，交叉检验文本、图像、音频等信息的真实性，实时识别和筛除虚假数据，以提高输出内容的可靠性。其次，在管理层面完善规范机制。国家网信办、工信部等部门发布的《人工智能生成合成内容标识办法》，明确要求由人工智能生成合成的文本、图片、音频、视频、虚拟场景等信息，自2025年9月起要用“显式标识”或“隐式标识”的方式注明，目前关键是要落实到位，以帮助用户了解内容来源和可信程度。最后，在社会层面提升国民素养。提升公众对人工智能的认知水平，对其保持清醒认识和合理预期，养成多元验证和独立思考的习惯，以更好利用人工智能为建设美好生活服务。

　　总之，面对“AI幻觉”等发展过程中的弊病及挑战，我们既不能否定人工智能对推动社会进步的巨大作用，也不能忽略其安全风险。只有双管齐下，既推进其演化更新，又加强治理以提升其内容品质，才能以人工智能的高水平运行促进经济社会的高质量发展。

　　（作者：钱念孙，系安徽省中国特色社会主义理论体系研究中心研究员、安徽省社会科学院研究员）