人工智能在知识生产中的作用与边界
【学术争鸣】
人工智能究竟能否生产知识，光明日报理论版近期刊发的系列文章给出了不同回答。无论肯定还是否定，相关讨论多把“知识”视为一个整体并作出总体判断，较少区分不同知识活动在创新要求与确证方式上的差异。本文认为，人工智能已经参与知识生产，但其作用与边界因知识类型而异；生成内容要成为知识，须经过相应的社会确证。从知识社会学视角考察不同知识活动对情境判断、实践经验和社会确证的要求，有助于解释人工智能为何在这些活动中发挥不同作用，并为讨论人机分工、责任归属和日常使用中的内容核验提供依据。
知识生产需要分类考察
知识的创新、传播与应用彼此关联，却承担不同的认知任务。把已有道理向更多人讲清楚，可以扩大知识的社会影响；提出此前尚未形成的科学解释，则可能改变人们对世界的认识。评判人工智能在知识生产中的作用，应区分知识传递的效率与知识创新的增量，并考察其在不同知识活动中承担的任务。
不同知识活动之间的差异，可以从创新要求与确证方式两个维度辨析。一个维度是创新要求，据此可区分事实性知识与创新性知识。事实性知识是指已经确立、可供传播和应用的存量知识，其整理与复用重在准确和完整；创新性知识是指突破既有认知边界、推动认识更新的增量知识，其提出与确证重在原创和可靠。另一个维度是确证方式，由此可区分日常知识与专业知识。日常知识主要在生活实践和经验交流中形成，其有效性通过实际运用、他人反馈与社群评价得到检验；专业知识则更多依照专门的方法与规范形成，结论应按本领域的标准接受检验和同行评议。
将上述两个维度交叉，可得到四种知识的理想类型：事实性日常知识、事实性专业知识、创新性日常知识与创新性专业知识。生活中长期积累并得到社群认可的经验，如料理家务技巧，属于事实性日常知识；经过专业检验得到共同体确认的既有成果，如牛顿运动定律，属于事实性专业知识；日常实践中形成并经检验的新经验办法，如居民在社区治理中形成的新议事办法，属于创新性日常知识；通过专业研究形成并经检验的新发现新方法新解释，如新材料特性的发现，属于创新性专业知识。
知识类型不同，人工智能的参与方式与评价标准也有所区别。就事实性知识而言，人工智能主要承担既有知识的复用工作。解释生活常识时，可以快速整合信息，但要看生成内容是否准确、是否适合具体情境；整理专业成果时，可以提高资料梳理效率，但应准确呈现原有结论及其适用条件。就创新性知识而言，人工智能提出的新内容尚需检验。面对日常生活中的新问题时，可以提出可供参考的思路，其成效如何要在实践中检验；参与专业研究时，可以提出假设、辅助论证，但结论是否可靠，必须接受专业检验。
能力边界要到知识实践中寻找
知识类型的区分表明，生成新内容与形成新知识间存在距离。理解这一距离，需比较内容生成与知识确立的不同逻辑。生成式人工智能依据从海量语料中习得的关联与模式组织和生成内容，体现的是“算法拟合”的技术逻辑。知识的确立则有赖于实践与互动中的证据检验与共同体认可，体现“社会建构”的社会逻辑。二者的差别在于，前者主要依循统计关联生成内容，后者要求知识主张具备可靠的证据与充分的论证，并能在具体情境中成立。
生成依据与确证要求的差异，能够解释人工智能在复用已有知识与探索新知识时的不同表现。语料中沉淀着大量已经获得确证的知识成果，复用这些既有知识时，人工智能可以借助已有的确证基础，从而较易在资料整合与内容解释中发挥效率优势。提出新的认识，则需要为新的知识主张提供证据与论证；将既有知识用于新的情境，也需要重新检验其适用性。这些要求难以仅凭语料中的统计关联来满足。
算法拟合与社会建构虽然逻辑不同，在实际的知识活动中却相互交织。算法的训练材料、评价标准与使用目的受到社会条件影响，人工智能也能够承担社会建构中的部分工作。因此，考察其能力边界，需要具体分析它能参与哪些环节，又能在多大程度上满足各环节的要求。鉴于专业知识的确证程序较为制度化，下文以此为例，从问题选择、证据形成与结论确立三个环节，分析这两种逻辑的相互作用。
首先，研究问题的形成包含对认知价值的判断。库恩指出，常规科学在范式框架内解谜，范式为科学共同体的问题选择与成果评价提供共同标准。一个问题是否值得研究，与社会需求、资源配置以及研究者的处境相关联。人工智能可以发现研究线索、提出候选问题，但选取何种问题、赋予何种意义，还需要结合现实需要与学术积累作出判断。
其次，证据形成与解释依赖具体实践。例如，社会科学田野访谈中的沉默究竟意味着认同、顾虑还是其他，要放回互动关系中判断；自然科学实验中的异常究竟意味着操作失误还是值得追踪的新发现，要结合操作条件辨析。人工智能能帮助识别模式和比较不同解释，但文本中留下的记录未必包含作出判断所需的全部信息。调查、实验与经验交流的作用，就在于不断补充情境信息、检验解释，并使研究方向随新证据调整。
最后，结论确立需要与主张相适应的证据和论证。人工智能可以帮助组织论证、核查材料，甚至预判可能的反驳，在知识确证中承担部分任务，但论述完整尚不足以确立知识主张。例如，OpenAI最近公布一批由人工智能生成的数学研究文稿，并为其中部分证明提供可由计算机验证的形式化版本。即便如此，人工智能所证明的命题是否准确对应原问题，仍需数学专家进一步评议。
可见，人工智能能参与知识生产的多个环节，但问题价值的取舍、具体情境的判断与结论的确立，还有赖于实践参与和共同体审查。
知识供给的扩大须与核验能力相匹配
评价人工智能在知识生产中的作用，还应将视野从科学前沿拓展到广泛的日常知识活动。人工智能在重新组织分散的日常经验与信息的同时，通过通俗问答将专业知识带入日常生活，改变了常识获取、经验传递和问题解释方式，知识供给由此扩大，获取门槛降低。但知识供给扩大后，相应的核验条件与能力未必跟得上。即使是经过确证的专业知识，在人工智能问答中也要结合具体情境检验其适用性。例如，使用者通过智能体应用询问身体不适等问题时，可能会想当然地采纳建议，忽略其前提条件。此时，若将核验责任过多交给使用者，可能造成责任与能力的错位，使不同群体在核验能力与资源上的差距转化为新的知识不平等。
核验条件与能力的不足，会放大人工智能介入知识生产的风险。一种风险是未经确证的内容被当作知识传播。这类内容一旦进入公共空间，又未经甄别即被纳入新的训练语料，错误便可能反复传播、累积。另一种风险是长尾知识的隐没。地方性知识、少数群体经验与小语种知识资源，如果缺少数字记录或在训练语料中覆盖不足，就更难在生成内容中得到充分呈现。当训练与评价更多围绕主流语言和常见情境展开时，模型给出的通用答案便可能忽略特定地方的生活经验与实际条件，知识与表达的多样性也随之受到影响。
因此，对人工智能参与知识生产的治理，应着眼于使知识供给与核验能力相匹配，并按知识类型与使用后果明确核验要求。标明内容由人工智能生成，只能提示其生成方式，不能代替对真实性与适用性的判断。对于日常知识，重在来源核对与适用性判断；对于涉及健康、农业、法律等专业知识的问答，要提示适用条件、标明依据，并提供专业咨询与转介渠道；对于创新性专业知识，则须接受证据审查、逻辑检验与同行评价。核验要落到实处，还需明确相应的责任归属。由谁核验、谁决定采用、谁承担责任，应当与各方实际的核验能力及决策权限相称。其中，平台与应用机构应承担相应的质量保障、风险提示和纠错责任，为使用者核对信息、寻求专业支持提供便利。
总之，回答人工智能能否生产知识，不宜停留于“能”或“不能”的总体判断，而应区分知识类型，考察其在知识生产中的作用与边界。在既有知识的整理、解释与传播中，它已显示出明显的效率优势；在新知识形成中，它可以在部分环节作出贡献，但生成内容须经相应的确证才能成为知识。人机分工与责任安排，应以具体知识活动的创新要求与确证方式为依据。人工智能越善于生成，社会越需要分清哪些内容已有确证可用，哪些内容的确证尚待完成。
（作者：杨江华，系西安交通大学人文社会科学学院教授、数字社会研究中心主任）