10的威力:数字世界的新规则

《Communications of the ACM》:The Power of 10: New Rules for the Digital World

【字体: 大 中 小 】 时间:2026年07月05日 来源:Communications of the ACM 7.1

编辑推荐:

  如今,科技公司几乎每周都会宣布在人工智能领域取得突破,这已变得司空见惯。这些声明大多宣称我们正逐渐接近所谓的人工通用智能——那种能够超越当前各种人工智能聊天机器人的能力限制,拥有“超人类能力”的机器(例如Kokotajlo等人的研究)。与这种说法相呼应的是,科技公司在为产品和服务

  如今,科技公司几乎每周都会宣布在人工智能领域取得突破,这已变得司空见惯。这些声明大多宣称我们正逐渐接近所谓的人工通用智能——那种能够超越当前各种人工智能聊天机器人的能力限制,拥有“超人类能力”的机器(例如Kokotajlo等人的研究)。与这种说法相呼应的是,科技公司在为产品和服务命名时常常以人类能力为核心:机器被称作“智能的”(而非仅能学习概率分类器),能“思考”(而非仅仅处理信息),会展现“情感”(而非仅能统计分析与人类情绪相关的数据模式),还有“聪明的”(而非仅依靠传感器提供情境感知或简单连接互联网)。难怪许多工程师、管理者、政客以及普通民众都热衷于将我们的未来描绘成一种数字化转型的固定叙事,认为技术会让我们的生活更安全、更舒适、更高效、更快乐。

与此同时,信息技术在社会中的不断普及也带来了代价:越来越多的公民监控和数据保护问题涌现出来,这些现象源于Zuboff所说的“影子经济”。强大的垄断平台催生了无休止的零工经济,不仅削弱了人们的潜力与合理的工作条件,还引发了心理健康问题和抑郁情绪。近年来,随着成年人和青少年越来越沉迷于社交媒体,他们的社交能力和民主素养也在下降。事实上,过度使用数字技术已被证明会加剧注意力缺陷症状、损害情感与社交智力、导致技术成瘾、社交孤立、大脑发育受阻以及睡眠紊乱。与数字化转型相关的问题似乎无穷无尽,就在硅谷的倡导者们越来越幻想通过脑机接口“提升”人类能力、探讨超级智能的同时,越来越多的民众和组织实际上正在遭受技术故障带来的困扰。

面对这些发展态势,似乎有必要形成一种普遍的准则,指导人们如何更谨慎地做出日常工程决策和系统使用决策。所谓准则,指的是一种简短、全面、易于记忆、具有广泛解释空间、或许还能在全球范围内应用的日常行为指南,它不仅适用于特定的群体(如工程师)、特定地区(如欧盟)、特定技术(如人工智能)或特定问题领域(如《数字服务法》),也涵盖所有个人在个体层面及社群层面的角色。这样的准则——类似于《圣经》中的十诫——将帮助我们在任何时间、任何地点更审慎地构建和使用技术,同时警惕那些可能让我们面临意外问题与不良发展的风险点。那么,这样的准则真的可行吗?

**新准则的制定**

2024年秋季,一群来自欧洲的知名学者与专业人士携手,为当今的数字社会制定了这样一套准则,名为“数字世界的10条规则”。该团队的所有成员都长期致力于探索如何更好地将人类、社会与环境方面的问题融入当前的技术与经济创新之中。他们的背景涵盖了当今人工智能技术的整个“科幻发展历程”,包括第一代、第二代和第三代人工智能系统,以及机器人技术和神经增强技术。除了计算机科学之外,他们的专业领域还涉及加速数字化转型背景下诸多相关学科,如医学、技术评估研究、法律、军事技术、神经科学与仿生学、心理治疗、心理学、社会学、政治学、社会经济学、哲学以及神学。

在八个月的时间里,该团队通过七个阶段最终形成了由10条规则构成的准则。起初是为期两天的研讨会,在此期间,来自12位不同专家视角的IT与人工智能相关挑战被收集起来。这些问题的汇总促使他们意识到,或许需要类似《圣经》十诫那样的准则来应对数字世界所带来的巨大社会与民主挑战。于是,他们从这一框架中汲取灵感——这一框架源自中东地区和平共处的实际需求,从一开始就被视为普遍最低伦理共识的体现。事实上,《圣经》中的十诫在《古兰经》中也有所体现,穆斯林将其视为人类共同伦理遗产的一部分。与儒家思想以及美德伦理学等非亚伯拉罕传统类似,这些传统注重人格塑造,而非像功利主义和义务论等现代伦理学方法那样试图用统一规则来规定人的自愿行为。

在此背景下,三名团队成员在一位旧约研究专家的指导下,拟定了一个阐述十诫扩展含义的框架,作为后续两天研讨会的准备指导,用于起草首批规则。之后的整理阶段则着眼于如何在已识别的问题、拟定的规则与十诫之间建立有意义的关联,同时避免将“数字世界的10条规则”与特定宗教传统绑定。经过进一步简化,最终形成了目前的10条规则。对于那些倾向于将这10条规则与《圣经》十诫紧密联系起来的成员,以及那些仅依据民主理念、《联合国人权公约》和《欧洲基本权利宪章》所规定的基本权利,或是社会正义原则的成员,彼此之间并未出现反对意见。

为保障我们的数字未来而提出的这10条规则总结在附表中(更完整的版本连同序言可访问:https://www.thefuturefoundation.eu)。每一条规则都从《圣经》十诫的角度出发,反映了一个关键的技术问题,随后还给出了两种示例性解读:一种是普通最终用户的视角,另一种则是专业人士的视角。使用“解读”一词,是为了表明在个人具体情境下,对一条规则存在无数种理解方式。

**带来改变**

近年来,关于伦理人工智能的讨论、日益增强的环境可持续意识,以及对社交网络和人工智能在民主与社会层面被滥用问题的担忧,都使得这些规则所涵盖的主题成为公众热议的焦点。如今,人们已经普遍意识到不受监管的数字世界会给社会带来何种威胁,许多监管机构也开始采取行动,着手解决规则中所涉及的一些问题(例如欧盟的《人工智能法案》)。那么,我们的规则与其他已有举措相比有何不同,又有哪些互补之处呢?

首先,这10条规则鼓励人们在往往被忽视的领域采取行动,尤其是前三条。虽然有些人认真探讨计算机走向超级智能的可能性,但很少有人公开批评用僵化、官僚化的系统取代鲜活、动态系统的趋势。同样,尽管很多人非正式地批评过科学和技术营销中语言不够精准、不够诚实的做法,但真正重视这一问题的却寥寥无几。虽然学校和工作场所开始关注重新思考系统“始终在线”设计的问题,但这一理念尚未得到更广泛的应用。前三条规则涉及到关于何为人类以及技术应如何服务于人类的更深层次问题,因此,围绕这些话题展开开放讨论并形成明确观点,对于明智地塑造我们的未来至关重要。此外,以十诫作为结构工具,还帮助人们认识到忽视技术局限性和破坏自然也是需要解决的问题。

其次,以往的努力更多集中在组织层面、技术层面或法律层面。在计算机伦理、价值敏感设计、基于价值的工程、负责任的创新以及参与式设计等学术领域,已经发展出了许多关于如何以更负责任的方式设计技术的思路。许多政府机构也设立了所谓的ELSA/ELSI计划(即伦理、法律和社会方面的考量),例如在基因组研究领域。目前已有80多家机构发布了人工智能设计的原则清单,其中包括AI4People研究所提出的“良好人工智能社会”框架。然而,这些重要的努力并未为个人和社区层面提供太多直接指导,而这正是我们的规则所做的——帮助任何角色的人明白什么是对的,什么是错的。附表中的两列内容便很好地体现了这一点,分别展示了个人在私人生活角色以及技术设计者角色下的示例性解读。例如,那些最初决定设备实时响应和始终处于待机状态的标准化机构,很可能从未想过他们的决定会导致人类如今缺乏进行现实面对面交流的时间和空间。使用技术监控孩子的父母可能没有意识到,这种监视可能会影响孩子对自由的认知。而那些利用人工智能工具创作艺术或撰写文本的人,则可能没有考虑到相关的能源成本,或是长期依赖这些工具会对自身创造力产生的影响。

| 规则 | 需要讨论与拓展的问题 | 给最终用户的示例性结论 | 给专业人士的示例性结论 |
|------|----------------------|------------------------|--------------------------|
| 1. 不要将数字技术本身视为终极目标。 | 技术的意识形态化,忽视存在层级,认为数字应服务于模拟而非反之;过度迷恋自己的创造物,推崇“超级智能”的观念。 | 不要期望用技术解决所有问题,避免试图将一切事物数字化。 | —— |
| 2. 不要错误地将人性赋予机器。 | 使用不准确、类似人类的名称来描述机器功能(拟人化),或以混淆技术能力与人类特质的方式来构建或描绘机器。 | 避免与人工智能机器人建立私人关系,不要在对话中模拟第一人称视角。 | —— |
| 3. 为休息时间和现实互动留出空间。 | 系统被设置为永久且无差别地保持连接和可访问状态,加上计算技术无处不在,这使得效率被置于休闲与福祉等更高价值之上。 | 建立定期的数字排毒习惯,为自己创造远离屏幕的时间和空间。 | 设计包含休闲时间与非连接空间的系统。 |
| 4. 尊重社会与民主能力。 | 用成千上万的弱联系(如社交媒体上的“朋友”)取代有意义的社会与家庭关系,同时在不同的意识形态或社交“圈层”中缺乏尊重与民主的对话。 | 保持礼貌且健康的线上行为,促进和支持线上与线下的礼貌健康社区。 | —— |
| 5. 不要为技术进步而破坏生命与自然。 | 认识到过度使用信息技术(尤其是人工智能)会对人类和环境造成危害。信息技术耗资源且碳排放量大,因此需要平衡其使用,以维护全球生态健康。 | 将人工智能视为宝贵且有限的资源,开发能耗最低的信息技术解决方案。 | —— |
| 6. 不要把人当作单纯的数据对象。 | 数字孪生体与其对应的人类之间存在混淆的可能,因此必须忠实于用户背后真实的人。此外,还需要关注亲密现实活动数据的共享问题,注重数据最小化与数据质量。 | 不要只相信互联网上关于他人的信息,要寻求更深入的了解,重视个人的独特性而非单纯的计算评分。 | —— |
| 7. 不要剥夺自己和他人的真正人类潜能。 | 人类的注意力与创造力是最宝贵的资源,需要通过设计加以保护。这包括精心规划用户访问权限,避免默认的、干扰性的、实时的、无处不在的访问。 | 运用数字工具来支持而非替代自身的创造力与知识,确保人类首先提出创意,再由人工智能加以改进。 | —— |
| 8. —— | —— | —— | —— |重视真相,不要忽视技术的局限性。我们必须清醒地认识到技术能力的种种局限,包括其易出错、存在安全漏洞以及带来的复杂性。这还意味着要在机器出现错误时保护用户权利,同时确保真相得到维护与监督。要自信地审视机器生成的答案与决策,诚恳地承认并处理机器错误,并密切关注可能的错误迹象。9. 不要以技术手段侵犯他人的自由。滥用技术限制他人自由的风险不容忽视,比如技术家长制以及在私人生活中的相互监视所带来的危害。在监控子女或伴侣与尊重他们的自由权之间需谨慎权衡。避免创造那些具有物理约束性且无法被取消的装置(如机器人)。10. 防止权力集中,保障公众参与。避免技术力量或知识被垄断或过度私有化,也要防止共享资源(如水、能源、地球、太空等)被过度使用且缺乏民主层面的正当性。通过为私有计算资源付费来支持可靠的本地服务提供商。倡导并支持开源、可互操作、模块化且可控的信息技术系统。

数字世界的10条准则

第三,法律、法规、行业标准及组织规章都受限于其所属国家或组织的边界,而技术却在全球范围内运行,往往超越这些规则的管辖范围。一种共同的全球价值观可作为积极的引导力量,帮助我们更清晰地思考如何在日常生活中使用和设计技术。第四,此处提出的10条准则简短易记,它们借鉴了古老的“记忆术”,这与《圣经》中的十诫有相似之处。尽管一些学者最近开始主张以基督教视角来构建人机交互设计的伦理框架,但制定这些准则的人对任何特定的宗教体系都持保留态度。不过,本文作者仍认为十诫为这里所提出的全球数字价值观提供了强大的灵感来源。最后,或许也是最重要的一点,这10条准则具有可解释性。它们并不规定在特定情境、特定行业或特定地区,针对某种具体技术人们应该或不应该做什么,而是提供一般性的指导与方向,帮助人们做出更好的选择。

需要进一步讨论

我们所提出的这些准则是由技术研究领域的知名专家经过精心协作制定的,他们共同拥有超过320年的专业经验。然而,鉴于构建全球价值观是一项艰巨的任务,这当然只是一个初步的建议。虽然我们认为已经明确了数字未来面临的关键问题,但仍有许多其他问题有待未来的研究与探讨。例如:这些准则是否涵盖了最需要关注的重要问题?是否需要更深入、更详细地阐述这些准则?此外,这些准则能否在全球不同文化中普遍适用,还是不同地区需要自行解读?这些都是值得认真讨论的问题。本文作者以及未来基金会的成员正在地方层面(如学校、国家电视台等)以及国际层面积极推广和讨论这10条准则。在国际层面上,他们通过研究和演讲与学术界及国际组织展开交流。

Sarah Spiekermann Hoff(sarah.spiekermann-hoff@wu.ac.at)是奥地利维也纳经济大学信息系统与社会研究所的终身教授兼所长。
Marc Langheinrich(langheinrich@acm.org)是瑞士卢加诺瑞士意大利大学计算机科学教授。
Johannes Hoff(Johannes.Hoff@uibk.ac.at)是奥地利因斯布鲁克大学神学教义学教授,同时也是英国剑桥大学范休格尔研究所的高级研究员。
Christiane Wendehorst(christiane.wendehorst@univie.ac.at)是奥地利维也纳大学民法教授。
Jürgen Pfeffer(juergen.pfeffer@tum.de)是德国慕尼黑工业大学社会科学和技术学院计算社会科学教授。
Thomas Fuchs(Thomas.Fuchs@urz.uni-heidelberg.de)是德国海德堡精神病大学诊所的卡尔·雅斯贝尔斯哲学与精神病学教授。
Armin Grunwald(armin.grunwald@kit.edu)是德国卡尔斯鲁厄工业大学的教授,同时担任该大学技术评估与系统分析研究所的所长。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号