C.Blog

C.Blog

接着作者强调了现代 AI 的优劣势，其中劣势包括巨额费用以及过度个人主义（技术并非中立，这个观点我已经说过很多次了）： ... today’s large language models are powered by data and statistics. Though some rules still shape them, their outputs are driven by changing data, not fixed protocols. ... In this sense, ChatGPT…

#translate #ai #eolithism

由于这篇文章对我的影响太过深远（Imagine 项目），故严肃进行全文翻译。

《人工智能的应许之地》

作为一种看似凭空出现的技术，生成式人工智能在短短两年内惊人崛起。难以置信 ChatGPT（至今仍是此革命之代表）直到 2022 年 11 月 30 日才广为人知。虽炒作甚多且只会更多，但即使有人云泡沫即将破裂亦无法降低其热度分毫。叫卖者倒也有理。生成式人工智能正在颠覆众多行业，且多数人以为它无比强大且有用。

于我而言，人工智能重塑了我处理日常与专业任务的方式，在语言学习上这一转变尤甚。即使对代码一窍不通，我还是拼凑出了一个应用，调用三种人工智能服务生成带有母语发音的定制短篇故事。这些故事充斥针对我学习盲点量身定制的难词和惯用语。当我为 Vergesslichkeit 此类单词头疼时，它们会三番五次出现，附带其他数十个我正努力掌握的词汇。

在超过二十年的语言学习中，我从未使用过如此强大的工具。它不仅提升了我的生产力，还重新定义了效率本身。其规模和速度令人印象深刻：还有什么办法能在短短十五分钟内获得六十个个性化故事外加六种语言的数小时音频，且在此期间你还能随意浏览其他网页？整个应用静静运行在我的笔记本电脑上，在 ChatGPT 的帮助下用了不到一个下午便构建完成。

但生成式人工智能不仅带来了令人振奋的技术体验，同时也带来了新的痛点。比如在教育领域：如果 ChatGPT 有望实现个性化辅导，它同样可能导致大规模舞弊。降低恶作剧之成本必然引发道德恐慌。因此公众对此技术可能产生的（或已感受到的）负面影响的担忧日益增长。从政府和企业机构的自动决策到其在监视、刑事司法乃至战争中的角色，人工智能的影响深深渗透到社会和政治生活中。它可能会加剧偏见、扩大财富不平等，并在高风险流程中掩盖问责难题。

这些担忧指向一个更大的结构性问题：该技术之控制权集中在少数公司手中。放任大型科技公司管理云计算、文字处理甚至搜索尚可接受，这些领域的潜在危害似乎较小，但生成式人工智能风险更大，于是关于技术和民主更广泛关系的争论再次甚嚣尘上。

普遍观点认为人工智能更需要民主，尽管对其具体内涵仍争执不休。一些人认为民主化人工智能意味着模型和数据集需要更高的透明度；另一些人则主张采用开源替代方案以挑战像 OpenAI 或 Anthropic 此类科技巨头。然而这些方案大多局限在实施阶段弥补民主赤字，侧重于对已有系统进行调整。持此观点之人（现实主义者）认为人工智能将长期存在，其价值取决于我们如何使用它，且至少应受严肃的政治监督。

与此同时，一小群新兴学者和活动家正针对更深层次的基础性、系统性问题展开批判，尤其是起源于冷战时期的计算技术。于他们而言，人工智能不只是有缺陷的技术，它是一个殖民主义、沙文主义、种族主义甚至优生学的项目，其腐烂深入骨髓，将其民主化宛如试图将英国绅士俱乐部改造成无产阶级图书馆：表面改革远远不够。

就此而言，人工智能研究人员声称他们拥有巨大的独立性，正如在一篇广受讨论的论文（1997）中所写：「如果那几十年里人工智能是军方的仆人，那么它就拥有一个极其放纵的主人。」若情况属实，为何颠覆性的激进创新如此之少？保守主义和军工复合体的纠缠是否从一开始就根植于人工智能的研究议程中？反体制人工智能可能存在吗？会是何等模样？更重要的是，这一切问题在今天是否仍有意义？或者我们应该接受现实并将重点放在民主化之上？

对人工智能批评的轮廓随着时间不停演变。比如反对者曾经包括一大批「虚无主义者」，他们乐于剖析人工智能永远不可能成功的诸多理由。随着生成式人工智能发展这一立场摇摇欲坠，因其运作原理与他们所攻击的截然不同。迄今尚存的虚无主义者将矛头对准杀手机器人幽灵及尚未实现的通用人工智能（科技界未来愿景的核心标志）。

当然还有其他立场，以上概述并非全部，但我们必须面对这一事实：两大阵营（现实主义者和反对者）最终都将人工智能具象化，前者将其视为唯一或几乎唯一可行的人工智能形式，后者则将其贬低为军工复合体或科技行业自利幻想无可救药的产物。人们很少思考其他可能：人工智能作为研究议程、政治方案、技术，或是更好 —— 三者合一？

为弥合这一鸿沟，我想提供另一种关于人工智能和民主的思考方式。与其站在现实主义者或反对者一边，不如提出一个激进的乌托邦式的问题：如果时光倒流，计算机科学家免受冷战的腐蚀性影响，会出现何种更民主、更具公共精神且不太军事化的技术议程？这一另类愿景，无论称之为「人工智能」或其他，旨在提供一个有意义的视角，用于衡量当今智能发展中的承诺与风险。

---

要了解我们可能走过的道路，必须回到人工智能诞生之初。它的起源可追溯到二十世纪五十年代中期 —— 就在 ENIAC（第一台数字计算机）在宾夕法尼亚大学建成仅十年之后 —— 当时研究界毫不避讳他们试图创造的机器智能是一种目的论的智能：面向实现特定目标，或曰「telos」。_【译者注】：Telos（希腊语：τέλος）是古希腊哲学中的核心概念，意为「目的」、「终极目标」或「最终归宿」。为英文单词 teleological（目的论的）的词根来源。_

拿 General Problem Solver 来说（这是 1957 年 RAND Corporation 开发的软件程序），其作者 Herbert A. Simon、Allen Newell 和 J. C. Shaw 使用一种称为「means-ends analysis」的技术创建了所谓「通用」问题求解器，但实际上软件能处理的问题必须高度形式化。它在目标明确、求解环境稳定（即自始确定过程规则）以及允许多次迭代尝试各种手段以实现期望结果的情况下表现良好。

当然，这种「基于规则」的人工智能研究范式最终败给了神经网络，它是所有现代机器学习算法的基础，包括驱动 ChatGPT 等系统的大语言模型。即便如此，初代神经网络方法仍基于问题构建。感知机（一种用于模式识别的早期神经网络）设想的应用之一便是军事：筛选卫星图像以检测敌方目标。神经网络需要一个明确定义的目标并通过训练模型来实现该任务。如果没有具体目标或明确历史尝试记录，它们就无法工作。

我认为早期人工智能工具和在推动研究的政府、企业、军队等机构中的文职和行政工作者的工具理性如此相似并非巧合。他们的时间与注意力有限，错误代价高昂。通过机器自动化其任务既合乎逻辑也可高效降低错误和成本。这种目标导向的部分原因可归结于资金需求，毕竟早期人工智能必须证明其实际应用价值，但更深层次的原因在于其智慧继承自控制论，这是一门塑造其早期议程的学科，但在人工智能试图确立自身的独立领域时被边缘化。

控制论先驱们对反馈驱动的技术 —— 从导弹到恒温器 —— 能够在无意识下表现出目标导向行为充满兴趣。他们将这些系统与人工智能的目的论面向进行类比（比如举起玻璃杯或转动门把手），这种反馈控制使之能实现目标。在这种控制论框架下，人工智能将这一隐喻进一步推向极致。如果恒温器可以追求目标温度，为什么数字计算机不能追求目标呢？

不过他们之间有个重要区别。早期控制论学者结合机器工程与生物科学，将类比视为理解大脑和神经系统实际运作方式的方法并在必要时修正其基础模型，有时甚至通过设计新装置来更好地反映（或用他们的话说，体现）现实。换言之，他们将模型视为「实际存在智能的模型」。相反，人工智能先驱大多是数学家和逻辑学家，缺乏生物学或神经科学根基，于是智能被定义为能够在数字计算机上复制的任何事物 —— 这通常意味着在受生物启发的神经网络下追求目标或解决问题。

讽刺的是，这种对目标驱动问题解决的执着没有受到人工智能最早、最具影响力的哲学批评者们，尤其是伯克利哲学教授，闻名遐迩的《What Computers Can’t Do》（1972）作者 Hubert Dreyfus 的批判。Dreyfus 借鉴了海德格尔在《存在与时间》中对敲钉子的思考，强调了将人类传统和文化中的隐性知识形式化的困难。Dreyfus 主张即便是最日常的任务也必定深受文化语境的影响，我们并不遵循可以形式化为明确、普遍指南的固定规则。_【译者注】：这是海德格尔一个很经典的隐喻，用于区分事物向我们显现的两种基本方式，一是上手（Zuhandenheit）一是现成在手（Vorhandenheit）。在「上手」状态中工具隐退在使用之后，此时锤子本身不是我们注意的对象，关注点是钉钉子这个动作。此时锤子消失在使用中，成为身体和实践的延伸。工具「断裂」之后实践活动被打断（比如锤子某个部位坏了），锤子方从「上手」转变为「现成在手」，此时我们开始审视这个对象。海德格尔的核心论点是：上手状态是一种更根本的状态。我们对世界的原初体认并非理论性观察而是实践性操劳，科学式对象化的认知是一种派生模式，只有在实际行动断裂时才浮现。Dreyfus 借此论证人类智能奠基于不可形式化的具身默会技能，传统智能试图用规则编码一切恰恰错失了智能之本质。_

这个论点表明我们不能指望教会机器像我们一样行动，但它未能针对人工智能之目的论精神本身进行批判。考虑到海德格尔本人也提供了该批评的变体，这一点就更加令人困惑。他并不执着于生产力，也没有将以目标为导向的行动视为人类生活的本质特征。相反，他指出并非只有锤子断裂时我们才会注意到世界的运作方式，当我们厌倦敲击时亦是如此。在这种无聊时刻我们会脱离追逐目标的紧迫感，以更敞开的姿态体验世界。这暗示了一种更广阔、流动、情境化的智能形式：不仅仅高效完成任务，也与环境进行更深层次的互动，引导我们以难以形式化的方式获得目的和意义。虽然海德格尔的世界可能略显孤寂（大多是锤子和此在），但我们彼此间的互动同样可以激发对目标的重新审视。