C.Blog
接着作者强调了现代 AI 的优劣势,其中劣势包括巨额费用以及过度个人主义(技术并非中立,这个观点我已经说过很多次了): ... today’s large language models are powered by data and statistics. Though some rules still shape them, their outputs are driven by changing data, not fixed protocols. ... In this sense, ChatGPT…
但这些对二十世纪五十年代的人工智能先驱而言根本行不通。无聊或主体间性等概念缺乏明确的目的论基础,似乎与智能无关。相反,早期人工智能致力于复制一种全情投入、受外部动机驱动且在情感上保持距离的办公室职员式智能,即用更可靠的数字复制体取代 William Whyte 所称的「组织人」。_【译者注】:Whyte 在 1956 年出版的《The Organization Man》中提出此概念,指因长期依附大型组织(如大企业)而逐渐丧失个人独特性并将自我价值与组织目标深度绑定的中产阶级白领群体。Whyte 认为该现象的背后是一种他称之为「社会伦理」的新意识形态,其建立在三个核心信念上:群体优于个人、归属感即幸福以及社会问题可被工程化。大型组织通过复杂的审核体系与多层结构构建了一个封闭、可自我延续的世界,游离于组织之外的人被视为「外围」人员。此种形态的组织由于过度依赖群体决策从而扼杀个人创造力和想象力,导致一种「常态的暴政」,并使用人格测试、科学主义等手段磨平个人棱角来换取组织内部承诺的「幸福」,代价是个体对组织的绝对顺从。_

几乎用了整整十年 Dreyfus 的海德格尔式批判才在人工智能界产生共鸣,但共鸣一旦产生便影响深远。最显著者莫过于斯坦福大学计算机科学教授 Terry Winograd 的工作。Terry Winograd 在自然语言处理领域地位甚高,其研究也获得了 Dreyfus 的认可。二十世纪八十年代 Terry Winograd 决定不再复制人类智能,转向理解人类行为和情境,设计能够增强人类智能而非模仿人类智能的工具。

该转变在 Coordinator 中具象化,该软件系统由 Winograd 与智利政治家、哲学家、创业者 Fernando Flores 合作开发。如其名所示,该软件通过让员工对电子互动进行分类(请求?承诺?还是指令?)来促进协作,从而减少回应的歧义。正确分类后信息可被追踪并得到适当处理。_【译者注】:Coordinator 的设计哲学和传统信息处理范式完全不同。它不是将电子邮件视作传递信息的容器,而是借用哲学家 John Searle 和 J.L. Austin 的言语行为理论(Speech Act Theory)以及海德格尔的现象学理论,认为语言本身就是一种行动,说话即做事。也就是说,组织是「通过基于请求和承诺的对话进行行动协调」的结构。因此,组织协作软件应当支持面向行动的对话(conversation for action)而非单纯的文件传输。由此出发,Coordinator 将协作建模为一个有限状态机式的对话过程,参与者间透过一系列言语行为从「未决状态」走向「已决状态」。在整个过程中,系统强制用户将发出的每一封消息归类为某种言语行为类型,例如 Request(请求对方完成某事)、Offer / Counter-Offer(讨价还价)、Promise(承诺完成某个请求)、Decline(拒绝)等,系统的对话状态解释器会根据对话历史和当前状态动态显示合理的下一步选项,比如一旦应答方已经「Promise」则「Decline」选项自动从菜单中消失。除了核心的对话管理器之外,Coordinator 还包括内置的文字处理模块、日历以及通讯模块。该软件被广泛视为最早的群件(groupware)和计算机支持的协同工作系统(CSCW)之一,其背后的语言-行动框架成为 CSCW 领域的重要流派,并直接催生了后来的 Action Workflow 工作流管理方法与技术。_

通过以人与计算机交互以及交互设计原则为基础,该方法设定了新的智识议程:与其努力在机器中复制人类智能,不如利用机器来增强人类智能,使人们能够更高效地实现目标。随着对传统智能的信任减弱,Winograd 的愿景获得了巨大关注并吸引了未来科技巨头如 Larry Page、Reid Hoffman 和 Peter Thiel 等,他们曾经上过他的课程。

Coordinator 同样面临批评。一些人指责它加强了官僚组织中抑制创造力的层级控制。正如前文提到的感知机一般,该论点认为 Coordinator 最终服务于称之为 Efficiency Lobby 的公司和政府部门的议程。它帮助简化了沟通但往往符合管理层的目标,巩固权力而非分散权力。但这并非不可避免,想象在社会运动中(在这种运动中沟通的模糊性随处可见)使用该软件。(它可能更适合拥有集中结构和明确目标的运动,例如 civil rights movement,而不太适合像 Occupy Wall Street 或 Zapatistas 这样的去中心化运动。)_【译者注】:Efficiency Lobby 中译「效率游说团」,可理解为追求精简运营、提高生产力、加强层级控制的组织。但个人倾向保留使用英文原词。_

更深层的问题在于 Winograd 和 Flores 试图促进的社会协同概念本身。虽然他们已将自己从人工领域中疏离开来,但其方法仍位于目的论的思维方式中。它仍然关于解决问题、实现既定目标,没有完全摆脱他们希望抛弃的人工智能工具理性框架。

---

Winograd 值得称道的是他比人工智能社群中的绝大多数人都更具自反精神。1987 年的一次演讲中他指出符号人工智能(当时主要由规则驱动的程序构成,试图复制医生、律师等专业人士的判断)与韦伯式官僚制之间的惊人相似之处。他说「人工智能的技术之于心智如同官僚制之于人类社会互动」,二者都在缺乏歧义、情感和情境的环境中蓬勃发展,而这些正是常被视为官僚思维对立面的特质。他并未考察产生这种类比的历史力量,但最新历史记载表明人工智能研究自诞生之初就可能吸引了那些已经在研究或优化官僚系统的人群。技术史学家 Jonnie Penn 指出 Herbert A. Simon 即是典型案例:他在 1940 年代致力于建立「公共行政科学」之后,1950 年代中期随即成为构建「情报科学」的关键人物。这两项事业尽管承认理性局限却赞颂同一价值:提高实现目标的效率。简而言之,这些项目旨在完善工具理性理想。

这倒也不足为奇,从企业到政府资助机构再到军方的 Efficiency Lobby 官僚体系都被吸引向人工智能。早在常被视为人工智能起点的 1956 年达特茅斯研讨会之前这些机构就已经在追求类似目标。冷战因素在此显得尤为重要。当时的地缘政治紧张局势催生了对技术、监视和防御快速进步的需求,迫使机构开发能够处理海量信息、提升决策水平并在与苏联竞争中保持优势的工具。学术界对人工智能的推动恰好与这些机构已有的自动化议程相吻合:加强规则遵循、简化生产流程、处理情报、作战数据。将决策机械化、最大化效率长期以来一直是它们的核心愿景。

在此我们应当后退一步:如果没有冷战压力可能会怎样?为什么计算的世界历史承诺必须局限于复制官僚理性?为何机构之外的所有人会接受如此狭窄的视野,关于有前景的新技术 —— 数字计算机 —— 在人的生活中可能扮演的角色?难道这就是机器所能提供的极限吗?科学不应该被引导去探索计算机如何服务于公民、民间社会以及广阔的公共领域吗?不仅是通过自动化流程,而是通过模拟可能性、建模可替代的未来。谁(如果有人的话)在为这些更广泛的利益发声呢?

在一个科学领域拥有表面民主监督的社会中我们本可期待这些问题激发严肃探索和研究。但这并非上世纪五十年代中期的美国。相反,John McCarthy,这位创造了「人工智能」一词并与达特茅斯研讨会关联最为紧密的科学家按照他和最亲近盟友的意愿定义了该领域。他们与 IBM 等企业巨头结盟并获得了军方资助,完全绕开了更广泛的科学共同体。后来 McCarthy 还公开赞扬其非民主起源,声称「如果我们必须说服顾问委员会上大多数物理学家、数学家、生物学家、心理学家或电气工程师才允许将大量 NSF 经费分配给人工智能研究,那么人工智能在美国的发展将会更为缓慢...... 人工智能是计算机科学领域之一...... DARPA 认为与国防部问题相关。科学界几乎没有,甚至根本没有被咨询。」_【译者注】:NSF 全称 U.S. National Science Foundation,美国国家科学基金会。DARPA 全称 Defense Advanced Research Projects Agency,美国国防高级研究计划局,为美国国防部下属独立研究与开发机构,专注于为军事用途开发新兴前沿技术。_

人工智能在回顾性反思中常常对其他学科的无知感到愤懑,然其早期从业者亦有盲点:他们无法概念化「无聊」这类主题。这并非孤立疏漏,而是反映出他们根本未能考虑非目的论的智能形式。通过将所有智能归结为目的论事务,他们忽视了另一些路径,那些探索计算机技术如何放大、增强或转化为其他形式的智能之路径,或者技术自身需如何演化以适应和培育此类智能之路径。

从客观角度看,他们没有提出这些问题也并不惊讶。Efficiency Lobby 清楚自己的需求,而新兴的人工智能范式承诺了所有甚至更多。与此同时,公民或社会运动没有成组织的反对声音,或曰无 Humanity Lobby 来倡导替代方案。如果当时有,这条道路会是怎样?_【译者注】:Humanity Lobby 正是 Efficiency Lobby 的对立面,可视为「人本主义」的组织。_

---
 
 
Back to Top