C.Blog
接着作者强调了现代 AI 的优劣势,其中劣势包括巨额费用以及过度个人主义(技术并非中立,这个观点我已经说过很多次了): ... today’s large language models are powered by data and statistics. Though some rules still shape them, their outputs are driven by changing data, not fixed protocols. ... In this sense, ChatGPT…
同样,早在 1970 年代,Seymour Papert(Nicholas Negroponte 的同事,另一位人工智能先驱者)就已经认识到对效率和工具理性的执着会对整个计算机文化产生不利影响,更糟的是这种执着使许多年轻学习者对理性的具象化 —— 计算机产生了疏离感。虽然 Papert(Winograd 的论文导师)并未完全放弃人工智能,但他愈发将重心转至教育,倡导一种 eolithic 方法。(他曾与 Piaget 合作,也熟悉教育哲学家 David Hawkins 的工作,后者发表了 Storm 的文章。)然后,像上述两个实验室一样,Papert 的解决方案最终仍然倾向于技术修补,并提出了「每个孩子一台笔记本」这一注定失败的倡议。剥离政治因素后,eolithism 很容易演变成 「solutionism」。_【译者注】:Jean Piaget 是瑞士心理学家和认识论学家,提出了「发生认识论」和认知发展阶段理论,主张人类是主动意义建构者,通过「建构」而非「接收」来获取知识并将儿童认知发展划分成四个阶段。Papert 曾在日内瓦与 Piaget 合作共事五年,深入研究儿童认知发展。他将 Piaget 的「建构主义」进一步发展为「建构 / 制作主义」,区别在于 Piaget 关注内在的认知过程而 Papert 强调学习者透过创造有形的实物和作品(比如编写计算机程序)来学习。「每个孩子一台笔记本」(OLPC)是 Papert 提出的非营利项目,目标是为发展中国家的儿童设计并分发一台仅 100 美元的低成本、耐用的笔记本电脑,以此变革全球教育。Papert 希望儿童通过「创造某些东西」主动构建知识。从这一点上讲 Papert 倡导的是一种 eolithic 方法。这个项目如今看极具理想主义色彩,当时笔记本零售价普遍超过 1000 美元,但 OLPC 深信可通过大规模量产将笔记本成本压到 100 美元(简直天方夜谭)。倡议的失败除了经济因素外还有以下几点,核心原因是 OLPC 把 Papert 的建构主义推向了极端 —— 相信孩子们拿到电脑就能自己学会学习,因此在项目设计上系统性地边缘化了教师(在 Piaget 看来教师的角色应是学习的促进者而非直接的讲授者,应该鼓励学生主动发现和建构知识。显然在 Piaget 处教师仍在教育中占据了重要地位。)。秘鲁的大规模随机对照研究发现笔记本电脑没有改善学生的学业成绩、认知技能、升学率或教育轨迹。学生的电脑使用技能提升了,但并没有转化成认知或教育收益(因为电脑不教孩子,老师才教)。另外该项目采用一次性部署,只分发电脑但并不提供技术支持、教师培训、社区参与和后续评估,实际电脑使用率很低,且有相当比例发生机器故障。另外,笔记本的硬件和软件界面都自带西方隐喻,对非西方文化背景的儿童而言并不自然,同时家长担心互联网接入让孩子「西化」,引发对其怀疑和抵触。具体例子如乌拉圭孩子发现笔记本中的音乐创作软件无法做出符合本地音乐节奏的乐曲,于是不愿再用。当然,OLPC 并非一败涂地,乌拉圭的 Plan Ceibal 被视为相对成功的特例:每个孩子和教师都拿到了设备,教师接受了培训,在政府支持下实现了互联网接入,且内容与课程相结合,效果上佳。相比之下肯尼亚把同样的笔记本发到了没有电力以及相关支持的地区。成功失败之隔恰恰在于教师培训、基础设施和本土化上,这些都是 OLPC 忽视的东西。OLPC 出于 eolithic 初心,但最终将理想压缩成了大规模的硬件分发工程方案。「solutionism」一词出自 Evgeny Morozov,指一种将复杂的社会问题简化成技术方案解决的主张。OLPC 项目就是一个从 eolithism 滑向 solutionism 的例子,OLPC 不处理教育中的权力关系(谁决定课程?教师和社区的角色为何?本土文化和西方技术范式之间的关系为何?),而是将 eolithism 退化成一个表面自由开放但实质空洞的姿态。为了让 eolithism 落地,OLPC 不得不赋予其一个可操作的技术载体(笔记本),而一旦这个载体被大规模部署,就必然需要预设目标、衡量效果、标准化流程 —— 于是 eolithism 的反目的论内核被掏空,只剩下一个单纯的技术方案。一言以蔽之,OLPC 缺乏足够的政治反思。_

---

拉丁美洲的例子让 Global North(发达国家)秉承的「技术发展没有替代方案」这一意识形态完全站不住脚。二十世纪七十年代初,这一意识形态根植于现代化理论,如今则根植于新自由主义。结果却相同:禁止想象这些技术的替代制度或归宿。通过真实的原型和制度改革将这些工具从以市场为驱动的开发模式中解脱出来不仅是可能的,而且对民主、人类和地球都十分有益。

在实践中,这意味着将生成式人工智能的 eolithic 潜能重新导向公共、基于团结、社会化的基础设施替代方案。虽然我为我的小语言应用感觉自豪,但我知道一定有成千上万类似的半成品程序在同样的实验精神下构建而成。尽管许多科技公司通过分化个人语言学习者的解决问题能力而获利,但我们没有理由不重新整合它们,推动更少个人主义、更多集体主义的解决方案。这同样适用于许多其它领域。

同时我们不能就此止步(仅仅列举使大语言模型反新自由主义的方式),这会错误暗示统计预测工具是促进生态理性的唯一途径。显然,促进人类智慧的技术远不止我们目前设想的这么少。我们应当把生态理性转变成一种完整的研究范式,探讨技术能够为人类做些什么,前提是我们不再将技术仅仅视为恒温器或导弹。_【译者注】:此处呼应前文中讨论控制论和目的论的相关段落:「...... 控制论先驱们对反馈驱动的技术 —— 从导弹到恒温器 —— 能够在无意识下表现出目标导向行为充满兴趣。他们将这些系统与人工智能的目的论面向进行类比(比如举起玻璃杯或转动门把手),这种反馈控制使之能实现目标。在这种控制论框架下,人工智能将这一隐喻进一步推向极致。如果恒温器可以追求目标温度,为什么数字计算机不能追求目标呢?......」_

在此过程中,我们不能忘记拉美实验的核心洞见:技术的解放潜力只有通过激进的政治项目才能得到保障。若非如此,我们将难以聚集足够的资源以确保 Efficiency Lobby 不会压倒 Humanity Lobby 之议程。上述实验的悲剧性失败预示着这不会是一段轻松的旅程。

至于最初的问题 —— 人工智能和民主 —— 答案很直接。「民主人工智能」需要真正的民主,同时尊重公民的尊严、创造力和智慧。这不仅仅是让当今模型更加透明或是降低成本,也不能仅依赖政策微调或技术创新来解决。真正的挑战在于培养一种正确的、以生态理性为基础的世界观(这个应用可以漫游!)。在这方面,人工智能为现行体制进行意识形态干预的能力(无论是早期的官僚体制还是今天的市场)构成了最大威胁。

顺便一说,正是美国实用主义者的描述最接近生态理性的运作。若早期的人工智能界对 John Dewey(杜威) 及其「具身智能」研究有所关注,许多错误方向本可避免。我们只能想象如果批评者们去研究杜威而非海德格尔,人工智能及其批评会是怎样。但也许现在也并不算晚,仍有可能走上那条替代的道路。_【译者注】:「具身智能」概念系作者对 Dewey 的总结概括,Dewey 本人并没有使用过。相同思想者还有梅洛-庞蒂,他们从根本上否定了心灵与身体的二元分离,将智能视作有机体和环境持续交互中涌现之物。Dewey 原文如下:「没有习惯,只有烦躁和困惑的犹豫。仅有习惯,则是机器般的重复。当习惯之间发生冲突并释放冲动时,有意识的探索诞生 —— 这就是智能的本质功能。」_
 
 
Back to Top