《Futures》:Autonomous alternative reality manufacturing machines (AARMM): A futures concept for anticipatory governance of AI-mediated information ecosystems
编辑推荐:
•AARMM阐述了大型语言模型(LLM)和平台如何大规模制造个性化现实。•五种驱动因素和机制将弱信号映射为三种治理情景。•面向2028–2035年的平台化、个性化和监管化AARMM路径。•预见性治理杠杆:溯源、审计、访问、公民能力。•回弹动态和具体先兆为每种情景提供了基于20
- •
AARMM阐述了大型语言模型(LLM)和平台如何大规模制造个性化现实。
- •
五种驱动因素和机制将弱信号映射为三种治理情景。
- •
面向2028–2035年的平台化、个性化和监管化AARMM路径。
- •
预见性治理杠杆:溯源、审计、访问、公民能力。
- •
回弹动态和具体先兆为每种情景提供了基于2024年证据的实证基础。
引言
颠覆性技术的出现一再重新定义社会规范和政治实践。在这些技术中,大型语言模型(LLMs)作为变革性力量崛起,融入社会技术组合体并重塑权力结构。早期的争论,如温纳提出的"人造物是否具有政治性?"(1980)这一著名问题,强调了技术的固有政治属性,认为人造物承载权力与权威。行动者网络理论(ANT)对此进行了拓展,提出人类与非人类实体共同构成网络,塑造社会结果(Latour, 1987, Latour, 1999)。LLMs的快速演进为这些网络引入了前所未有的复杂性,挑战了既有的治理框架,改变了公共话语。LLMs被集成到个人助手和社交媒体等平台中,放大了其影响力——创造出与政治目标相契合的定制现实,重塑个体认知,侵蚀社会凝聚力。这些发展引发了关于自由民主制的根本性问题,包括公众信任的瓦解、虚假信息的泛滥以及集体世界观的解构。
本文提出"自主替代现实制造机"(Autonomous Alternative Reality Manufacturing Machines, AARMM)作为分析上述发展的新概念框架。AARMM是一种社会技术构型——无论由国家、平台还是个人运营——它将大型语言模型、多模态内容生成器(文本、图像、视频)和平台分发能力相结合,大规模制造个性化认知环境。与早期的虚假信息工具不同,AARMM具有自适应特征:它利用行为反馈回路持续为个体用户定制输出内容,构建连贯、沉浸式的替代现实,而非仅仅传播孤立的虚假陈述。本文引入该概念作为原创的分析工具,而非描述一种已以这种形式完全实现的现有技术。其目的是预见性的:提供概念抓手,在社会技术锁定发生之前,使AI介导的现实生产的治理利害关系变得可辨识。AARMM概念拓展了现有社会技术想象(Hendricks et al., 2025, Jasanoff, 2004)和预见性治理(Guston, 2014, Stilgoe et al., 2013)框架,通过阐明相互竞争的信息、真理和民主审议想象如何在物质层面得以实施的具体运作机制。
本文是一项关于预见性治理的概念性未来研究。作者将多模态LLMs和平台治理中的弱信号地平线扫描与驱动因素–机制映射以及三种情景草图(2028–2035)相结合,揭示在不同治理制度下的分化轨迹。作者利用这一预见性框架推导政策杠杆和研究优先级,在社会技术锁定发生之前将AARMM概念从诊断标签转化为面向未来的分析透镜。
从历史上看,技术始终是一把双刃剑,既为社会进步提供机遇,也带来深刻破坏的风险。LLMs的普及及其分析、生成和传播海量信息的能力正是这一二元性的典型体现。尽管LLMs在提升生产力和实现知识获取民主化方面的效用不可否认,但其 unintended后果——如操纵公众舆论和制造替代现实——同样意义重大。这些发展不仅改变了政治传播的肌理,还引入了新的合法性中心,这些中心往往运行在传统民主治理的边界之外。
本文探讨LLMs、平台动态与社会变革的交汇点,重点关注其对政治文化和民主治理的影响。通过分析LLMs的理论基础和新兴应用,作者试图提供关于其构建替代现实和挑战自由民主原则的潜在能力的见解。在此过程中,作者强调培养平衡方法的重要性——在利用LLMs优势的同时缓解其风险,确保这些技术推动而非侵蚀民主理想。
秉承《未来学》杂志探索预见与治理的传统,本研究将AARMM置于AI社会技术想象(Hendricks et al., 2025, Hoff, 2023)和预见性治理(Guston, 2014, Stilgoe et al., 2013)的更广泛对话之中。因此,本研究不仅为政治传播和科学技术研究(STS)领域的辩论做出贡献,也为社会如何想象、预测和治理AI未来的方法论对话提供了贡献。
本文结构如下。第2节阐述理论背景。主要分析框架为社会技术想象和预见性治理,贯穿全文的结构化分析承诺;行动者网络理论和平台研究作为辅助资源,用于追踪人类与非人类行动者如何在AARMM构型中结合,以及平台能力如何塑造这种结合。第3节描述研究方法和路径,包括对分析选择的反思。第4节呈现三种AARMM情景路径,作为后续讨论的结构锚点。第5节将这些路径建立在使AARMM构型在当今可行的技术发展基础之上。第6节考察AARMMs挑战民主治理的政治和认知机制。第7节得出研究结论并制定预见性治理议程。
章节摘要
理论背景
关于技术对政治实践的影响,长期以来一直存在争论。自温纳那篇关于人造物是否具有政治性的著名论文(1980)起,技术不能以政治中立的人造物形式存在这一论断引发了广泛讨论,该争论已延伸至多个分支领域。温纳的核心论点是,所有人造物作为技术产品都体现了特定的权力形式及相关权威,以有意或隐含的设计形式表现出来。
预见路径与方法
本研究采用了一种紧凑的未来学设计,将地平线扫描、驱动因素–机制映射和情景草图相结合,以预见AARMM的社会轨迹。该方法为定性和理论整合型方法:不旨在产生定量预测,而旨在探索可能的未来及其治理含义。目标是实现预见性对齐——在社会技术锁定发生之前,使从早期信号到治理选择的关联变得可见。
三种AARMM路径(2028–2035)
以下情景草图将地平线扫描信号和驱动因素–机制映射扩展为2028–2035年可能的构型,说明不同的治理制度如何引导AARMM的发展。这些草图并非预测,而是探索性未来图景,旨在突出不同社会技术想象下的替代路径和政策杠杆。它们作为第5节"识别新兴技术结构"和第6节讨论的分析锚点。
识别新兴技术结构
上述三种路径勾勒出了分化的治理未来;本节将这些路径建立在使AARMM构型在当今可行的技术发展基础之上。虚假信息自大众化新闻出版诞生以来就已存在。当前数字AI时代的新意在于:第一,操纵工具的可获得性范围扩大,更多类型的行动者都能使用;第二,社交媒体的使用既使任何人都能发布内容,又创造了结构性激励,推动情感化内容的传播。
AARMM制造现实与自由秩序的解构
第4节的情景路径将这些赋能条件向前投射到不同治理制度下。本节考察AARMM挑战民主治理的政治和认知机制,结合情景和实证文献发展核心论点。
结论与预见性治理议程
本文引入了"自主替代现实制造机"(AARMM)作为未来学概念,用于分析生成式AI系统、平台治理与民主公共领域的协同演进。通过应用地平线扫描、驱动因素–机制映射和情景草图,本研究追踪了当今可观察到的弱信号如何巩固为社会技术轨迹,重新定义真理的生产与中介方式。这种预见性框架表明——
CRediT作者贡献声明
Nikola Schmidt:撰写——原始草稿,监督,方法学,调查,正式分析,概念化。
资金
本研究由欧洲地平线(Horizon Europe)资助。资助协议编号:101061330。
Nikola Schmidt