《Frontiers in Genetics》:From prohibition to integration: LLMs in scientific publishing
编辑推荐:
摘要专业翻译
大语言模型(Large Language Models, LLMs)在科学写作中的日益广泛使用,加剧了关于作者身份(authorship)、原创性(originality)与研究诚信(research integrity)的争论。批评者常认为,L
摘要专业翻译
大语言模型(Large Language Models, LLMs)在科学写作中的日益广泛使用,加剧了关于作者身份(authorship)、原创性(originality)与研究诚信(research integrity)的争论。批评者常认为,LLM生成的文本因源自既有文献而缺乏原创性。本观点文章(Perspective)对这一假设提出质疑,主张科学知识无论由人类还是机器产生,本质上均具有累积性。研究人员认为,研究者和LLM系统均在既有科学知识体系内运作,因此智力领导力(intellectual leadership)而非文本产出应成为作者身份的定义性标准。当研究者提出研究问题、发展核心思想并在写作过程中对LLM进行批判性指导时,其仍为合法作者。在作者身份之外,研究人员指出,科学出版日益奖励程序合规(procedural compliance)而非认识论质量(epistemic quality),使得形式化的引用实践得以替代概念连贯性。LLM非但不会削弱研究诚信,反而为重新强调推理与批判性评估提供了契机。最后,研究人员提议将标准化的基于LLM的验证直接整合至期刊投稿系统中。对参考文献、事实一致性以及科学与技术完整性的自动化验证应置于同行评审(peer review)之前,从而使评审者专注于原创性、科学意义与概念评估。在适当治理下,LLM不仅可成为写作助手,还可成为科学质量保障的制度性组成部分。
论文解读
一、研究背景与问题提出
科学出版领域正面临双重危机。一方面,大语言模型(Large Language Models, LLMs)的迅猛发展深刻改变了科学写作的方式,围绕作者身份、原创性与研究诚信的争论日趋激烈。批评者普遍认为,LLM生成的文本源自既有文献的统计重组,本质上缺乏原创性,不应被视为真正的科学贡献。另一方面,科学出版体系本身正经历信任危机:一项针对93篇基于功能磁共振成像(fMRI)的统计学论文的研究显示,仅15.1%的结果可在现有代码和数据条件下被复现;《自然》(Nature)国际调查中超过半数受访者表示难以复现自身工作;2023年全球撤稿论文超过一万篇,创历史新高,论文工厂(paper mills)与受损害的出版实践对此贡献显著。与此同时,科研评价日益依赖发文量、被引指标与期刊等级等本非为衡量科学质量而设计的量化指标。
在此背景下,LLM既被视为威胁也被视为机遇。研究表明,LLM在医学问题回答中生成的参考文献有69%为捏造,这引发了对其可能损害科学记录完整性的担忧。然而,这些担忧是否具有根本性新意?科学从来都是在前人知识基础上累积推进的,LLM从既有文献中生成文本与人类研究者继承学科传统进行创新,在认识论位置上是否真的存在本质差异?这正是本研究试图回答的核心问题。
二、研究内容与核心主张
本研究以观点文章(Perspective)的形式,系统论证了以下核心命题:科学作者身份应由智力领导力而非文本产出加以定义。研究者提出研究问题、形成假设、设计研究方案、确定数据收集策略、选择适当方法、解读证据并承担结论责任——这些环节构成科学作者身份的本质,而文字撰写仅是这一过程的最终呈现阶段。LLM可以辅助沟通科学决策,但既不做决策也不承担决策责任。在此基础上,研究人员进一步指出,当代出版体系日益以程序合规取代概念质量,形式化的引用实践逐渐替代了真正的批判性评估。LLM的出现恰恰为扭转这一失衡提供了契机:通过降低技术性写作的负担,LLM使研究者得以将更多精力投入科学推理与概念发展;同时,将标准化的LLM验证机制嵌入期刊投稿系统,可实现投稿阶段对参考文献、事实一致性与科学技术完整性的自动化核查,使同行评审者专注于原创性、科学意义与概念评估。
三、主要技术方法
本研究为观点论述型论文,未涉及实验数据采集或实证研究。其论证方法主要包括:对既有文献的系统梳理与批判性分析,涵盖科学认识论、出版伦理、引用实践及LLM能力评估等多领域证据;对LLM生成内容特征(如创造性输出的同质性)的已有实证研究结果的引用与整合;以及对现行出版流程中自动化质量保障工具(如剽窃检测、图像完整性筛查、参考文献验证)的现状分析。在此基础上,研究人员提出了将基于LLM的标准化验证整合至期刊投稿系统的制度性方案,并以工作流程对比图形式呈现了传统出版流程与AI增强出版流程的差异。
四、研究结果与核心论点
1. 科学中的智力继承(Intellectual inheritance in science)
科学从未通过孤立的创造行为取得进步。每项科学贡献都建立在既有概念、方法与观察之上,反映科学知识的累积性本质。科学原创性不在于从无到有(ex nihilo)地创造知识,而在于通过新问题、新解释、新方法或新经验证据扩展既有知识。人类研究与LLM在认识论位置上具有相似性:两者均依赖累积的科学知识,区别不在于知识来源而在于能动性(agency)——研究者定义科学问题、评估竞争性解释并承担结论责任。研究同时承认,近期实证研究发现LLM生成的创造性输出比人类输出更具同质性,可能较难产生真正非常规的概念突破,但关键问题不在于LLM是否超越既有知识,而在于其能否帮助研究者提出更好的问题、更有效地解读证据、更清晰地沟通科学思想。
2. 对常见反对意见的驳斥(Rebutting the common objections)
针对LLM辅助科学写作的三个主要关切——作者身份与问责、LLM生成内容的原创性、科学沟通中信任与透明度的侵蚀——研究人员逐一进行了回应。剽窃论点假设原创性要求完全新颖的表达,但科学写作从未达到这一标准:每篇手稿都建立在前人研究之上,使用既定的科学术语,并在既有知识体系中定位自身贡献。创造力方面,LLM重组既有知识,但科学家同样如此——新想法很少来自独立发明,更多源于以意外方式连接熟悉概念。关于科学记录完整性的最强关切,研究人员指出伪造出版物、论文工厂、图像操纵与数据造假均远早于LLM而存在,问题不在于LLM本身而在于验证不足。适当回应不是拒绝LLM,而是对其适用与对待任何科学仪器相同的问责标准。
3. 引用拜物教与认识论诚信(Citation fetishism and epistemic integrity)
引用是科学沟通不可或缺的组成部分,但日益从文献记录功能异化为科学合法性的代理指标。在许多情境中,科学主张首先依据是否附有已发表参考文献而非逻辑连贯性或经验合理性被评估,形式化归属逐渐取代批判性评估。不断增长的撤稿数量、欺诈性出版物与商业论文工厂正说明这一模式的局限。正确引用至关重要,但无法确立科学有效性——参考文献标示思想来源,并不决定这些思想是否正确。悖论性地,LLM提供了恢复这一区分的契机:通过减少制作技术合规手稿所需投入,LLM使研究者能将更多注意力转向科学推理、解释与概念发展。
4. LLM作为矫正力量(LLMs as a corrective force)
LLM的快速普及不仅反映技术进步,更暴露了科学出版中的结构性失衡。研究者花费越来越多时间满足对科学发现贡献甚微的编辑要求。通过自动化常规任务,LLM使研究者能够将注意力重新导向研究的智识核心。科学价值应取决于所提问题的原创性、所呈证据的质量与所发展论证的连贯性,而非制作技术完美手稿所投入的精力。LLM还可能拓宽科学参与:资源匮乏环境中的研究者或使用第二语言写作的研究者,可更便捷地满足国际期刊的形式要求,从而降低长期限制学术沟通参与度的壁垒。这并不削弱人类责任——LLM改变的是科学的沟通方式,而非问责主体。
5. LLM辅助作者身份的规范性指南(Normative guidelines for LLM-assisted authorship)
LLM辅助作者身份应遵循四项原则:透明度(transparency)、责任(responsibility)、验证(verification)与目的(purpose)。LLM的使用应在其实质性地参与手稿准备时予以披露;人类作者对每项陈述与结论承担完全责任;参考文献、事实主张、图表与数值结果必须在发表前经过验证;LLM应改善科学沟通而非弥补薄弱推理或虚增发表产出。这些原则不应完全依赖个人自觉——科学出版已依赖自动化剽窃检测、书目验证与图像完整性筛查,LLM辅助作者身份应遵循同样的制度逻辑。研究人员提议将标准化LLM验证直接整合至期刊投稿系统:在同行评审之前,手稿应接受对参考文献、事实主张、内部一致性、图表及科学技术完整性的自动化验证。此类系统不评判原创性或科学价值,其角色是提供对每份投稿平等适用的一致化第一层质量保障。这弥补了当前流程的重要缺陷:检测捏造参考文献、无据主张或技术不一致目前主要依赖个别评审者的专业水平、可用时间与主观判断。自动化验证无法替代同行评审,但可确保每份手稿在到达人类专家之前接受相同的初步审查。LLM验证本身应保持透明、版本受控并接受持续的人类监督。
五、讨论与结论
围绕LLM辅助作者身份的争论常被框定为“机器能否撰写科学论文”的问题。研究人员认为这是错误的问题——科学进步从不主要依赖文本产出,而依赖提出重要问题、批判性评估证据与发展有说服力的解释。手稿是科学探究的产物,而非探究本身。LLM不重新定义科学作者身份:科学工作始于识别问题,历经研究设计、数据收集、分析、解释与批判性判断,写作仅是这一过程的最后阶段。作者身份由智力领导力而非书写行为决定。
同样的逻辑适用于科学出版。若LLM协助研究者准备手稿,也应协助期刊评估其科学技术完整性。标准化LLM验证应成为编辑评估的第一阶段,使同行评审者聚焦于原创性、科学意义与概念质量。LLM的广泛采用提供了重新平衡程序要求与科学推理之间关系的契机——将常规验证从研究者和评审者转移至标准化计算系统。
科学从不因某人写出更好的句子而进步。科学进步是因为更好的问题产生更好的证据与更好的解释。核心伦理关切并非使用LLM辅助写作,而是以自动化推理取代人类智力领导力。科学手稿的价值源于所处理问题的原创性、方法论的适当性、解释的有效性与结论的重要性,而非个别句子的生成过程。若作者将这些核心智力责任委托给LLM,无论语言质量如何,成果都不再代表真正的科学作者身份。相反,当LLM仅用于改善沟通而科学推理仍处于人类指导之下时,作者身份不面临根本性挑战。判断手稿是否包含真正的智力贡献而非仅技术合格的文章,本质上是人类任务,也是同行评审的核心所在。自动化验证可评估科学技术完整性,但只有专家评审者才能评估科学原创性、概念深度及工作对知识进步的贡献。