不同于工具理性几乎无关情境且易于形式化,生态理性在细微差别和多样性中蓬勃发展,因此抵制自动化。不存在将它所产生的整个不断变化的意义宇宙形式化的可能性。这并非是否可行的问题,而是逻辑一致性问题:让机器发挥此类智能如同让它进行罗夏墨迹测验,它可能产生回应,尤其当模型在大量人类回应的语料库训练过时。但这些答案必然会因一个简单的原因而空洞:机器没有以一种能够使其对罗夏图像解释有意义的方式被社会化。
但不能形式化并不意味着生态理性不能以其他方式被技术化。正确的问题也许正呼应了四十年前 Winograd 提出的:与其询问人工智能是否能够体现生态理性,不如问它们能否通过人类来增强其实践。这为谨慎乐观态度提供了支撑。自上世纪八十年代 Winograd 批评以来,人工智能已发生了根本性变化。如今的人工智能允许更为多样化和开放式的使用,其通用性及无内置目标的特性使其适合各种实验。早期系统可能会默认输出生硬的「computer says no」,而现代智能则通过幻觉得到答案。这一转变源于其底层方法:不同于 Winograd 批评的韦伯式官僚制的基于规则的专家系统,如今的大语言模型由数据和统计驱动。尽管仍受规则影响,其输出由不断变化的数据驱动而非固定协议。而更重要的是,这些模型更偏向灵活的市场化而非僵化的官僚制。正如市场参与者依赖过往趋势并可能误判快速变化的情境,大语言模型基于统计模式生成输出,风险在于偶发幻觉和上下文误判。这也许并非巧合。Friedrich Hayek 的心理学工作(大脑与市场运作的等价性)影响了早期神经网络的研究(Frank Rosenblatt,感知机作者,赞同地引用了 Hayek)。
在我的语言应用小项目中,起点就像无忧无虑的 Storm 式漫游者,不专注于解决特定问题。我没有计算学习语言或寻找最高效策略的条件,反之,当我使用三种人工智能驱动服务中的一种(相当于偶然发现 Storm 的石头)时,我注意到一个功能,让我想知道是否可以将此工具与另外二者相连。我不禁在想像我这样对代码几乎一窍不通的人是否能够轻松组合这些服务?我不必凭空猜测,有了 ChatGPT,我可以立即进行测试。对此而言,ChatGPT 并不是原始的 eolith —— 它太模糊、太缥缈、太通用 —— 它更像实验工坊,漫游者将发现的石头带入,检视其真正用途。换言之,它让我们测试这块石头更适合作为矛头、玩具还是艺术品。
这里有些 eolithism 元素,但远非我们所能期待的最佳状态。首先,我使用的三项服务都收取订阅费或使用费,其中将文本转换为音频的服务每月收费高达 99 美元,且该服务极有可能受到风投资本的大力补贴且毫不考虑运行如此高能耗的生成式人工智能模型的能源成本。这就好像有人将最初发现 eolith 的石场私有化并收取高额入场费。这并不是一种最大化生态智能的方式。
在整体设定中还有些过度个人主义的东西,这是 Storm 那种不合群、原始的例子所回避的问题。当然,我可以使用各种私人服务构建个性化的语言学习应用,并且它可能非常有效,但这种模式可扩展吗?它是社会所期望的吗?能否牺牲少许效率和个性化去复用我在应用中已经生成的一些句子或者短篇故事,从而降低为每个用户重新运行这些服务所需的能源成本?
这将我们带到了当今生成式人工智能的核心问题:它不仅反映了市场的运营原则,更体现了其精神。这并不新奇,毕竟这些服务被技术巨头主导,而他们把用户视作最重要的消费者。OpenAI 或其他任何人工智能服务怎可能会鼓励我在构建应用时向他们的服务器发送更少的查询或重复使用他人已经得到的回复?这样只会削弱他们的商业模式,即使从社会或政治(毋论生态)角度来看可能更好。相反,OpenAI 的 API 会向我收费,产生相当数量的碳排放,即使只是为了告诉我伦敦是英国的首都或者一公斤等于一千克。
诸如 ChatGPT 的工具将我们的活动框定在孤立疏离的后现代消费者身份上,在更深层面上削弱了生态理性。当我们使用它们来解决问题时,我们并不对一切保持开放,而更像是在预设的、以利润为导向的格局中寻找套利机会的创业者。虽然在这些条件下也可能出现 eolithic 式的实践,但整体设置还是限制了生态理性的全部潜能和游戏性。
在此 ChatGPT 类似于上述的 Coordinator,正如后现代资本主义仍类似先前的福利-战争式现代性。Coordinator 加强了组织人对工具理性的运用,而 ChatGPT 让当今的新自由主义主体 —— 既是消费者也是创业者 —— 得以惊鸿一瞥(甚至蜻蜓点水般触及)生态理性。表面自由的增加遮掩了更深的非自由 —— 二者背后是仍掌控着的 Efficiency Lobby。是故我们通过如此强大的技术获得的解放感却仍无比受限。_【译者注】:福利-战争式现代性指二战后西方发达资本主义国家(美国尤甚)所形成的由凯恩斯主义驱动的国家形态,它将福利国家和战争国家两个面向合二为一,一方面通过公共支出维持社会保障和民众福祉,一方面通过军事支出和对外干预维持全球霸权,政府依靠这些大规模公共支出来驱动经济并透过福利、军事双重手段进行社会治理。新自由主义则主张以自由市场为核心来组织社会生活,此时资本主义不再需要大规模常备军队,转而投资「智能武器」和高科技军事手段,但国家对经济和社会生活的深层控制结构并未发生根本转变。_
尽管硅谷屡次保证,但这种被阉割的解放感始终未减,即使技术已然获得更强的问题解决能力。如果深度学习系统的主要吸引力在于它们以相对简单(即使成本高且不环保)的方式执行极其多样复杂甚至独特的任务,那么我们应当铭记我们已经拥有了这种技术:市场。如果你想把购物清单变成一首莎士比亚的十四行诗,你不必使用 ChatGPT,只要找到合适的人并愿意支付相应价钱便可完成。
新自由主义者早早意识到了这点。至少在理论上市场承诺提供一种普遍的问题解决方法,且该方法比民主政治更加高效便捷。然而现实振聋发聩:市场常常失灵,往往连问题都难以解决,甚至雪上加霜。它们经常不如基于民间智慧或公共监督的非市场体系表现。它们的有效运作需要巨大努力,难以轻易利用公民拥有的庞大的隐性或显性知识,或者至少是那种无法简化成创业思维的知识。市场只能通过殖民存在的广阔领域来动员它们。(官僚体系早在新自由主义出现前就面临类似局限,只不过它们对公民参与的漠视出于不同动机。)
这些限制众所周知,也是人们一直抵制基本服务商品化并日益呼吁扭转公共产品私有化的原因。生成式人工智能商业发展两年过后,对它的类似审视即将来临。只要人工智能仍然主要受企业限制,寄希望于这项技术来解决重大社会问题就如同将信任交给市场。
---
有何替代方案?要获得摆脱工具理性的有效进展,需要一个与 Efficiency Lobby 割裂的议程。这种割裂必须发生在远超日常、社区甚至城市层面的范围当中,需要国家乃至洲际层面转移关注重心。虽然美国从未如此做过(或许「新政」的某些元素除外,比如通过联邦艺术计划为艺术家提供支持),但其他国家的历史确实提供了一些线索。
1970 年代初,Salvador Allende(阿连德)领导的智利政府希望通过让工人成为所有者和关键行业的领导者来赋予他们权利。在最终导致政变的高度动荡的政治氛围中,阿连德政府试图利用信息技术来推动这一转型。Project Cybersyn 这一系统旨在促进工具理性和技术理性,将日常行政任务的执行与对国家、行业和全公司层面的备选方案审议相结合,担任管理职务的工人将在著名的 Operations Room 使用可视化和统计工具作出明智决策。该项目的委托人正是 Fernando Flores,阿连德的部长,也是 Winograd 未来的合作者。_【译者注】:Cybersyn 项目让智利政府把对经济的决策集中到一个作战室里,也就是上文提到的「Operations Room」,从而实现近乎实时的经济调控。系统通过约 500 台电传机(Telex)连接 150 多家国营企业并将数据汇总到作战室进行决策。作战室的设计基于格式塔原则,不设桌子,只有椅子,配备图形化数据显示面板和按钮控制台。整个项目在 1973 年军事政变推翻阿连德政府后被迫终止,从未完全投入运作,但它作为控制论社会主义的标志性实验至今仍在科技史、设计史和政治思想史中被广泛讨论。_
但不能形式化并不意味着生态理性不能以其他方式被技术化。正确的问题也许正呼应了四十年前 Winograd 提出的:与其询问人工智能是否能够体现生态理性,不如问它们能否通过人类来增强其实践。这为谨慎乐观态度提供了支撑。自上世纪八十年代 Winograd 批评以来,人工智能已发生了根本性变化。如今的人工智能允许更为多样化和开放式的使用,其通用性及无内置目标的特性使其适合各种实验。早期系统可能会默认输出生硬的「computer says no」,而现代智能则通过幻觉得到答案。这一转变源于其底层方法:不同于 Winograd 批评的韦伯式官僚制的基于规则的专家系统,如今的大语言模型由数据和统计驱动。尽管仍受规则影响,其输出由不断变化的数据驱动而非固定协议。而更重要的是,这些模型更偏向灵活的市场化而非僵化的官僚制。正如市场参与者依赖过往趋势并可能误判快速变化的情境,大语言模型基于统计模式生成输出,风险在于偶发幻觉和上下文误判。这也许并非巧合。Friedrich Hayek 的心理学工作(大脑与市场运作的等价性)影响了早期神经网络的研究(Frank Rosenblatt,感知机作者,赞同地引用了 Hayek)。
在我的语言应用小项目中,起点就像无忧无虑的 Storm 式漫游者,不专注于解决特定问题。我没有计算学习语言或寻找最高效策略的条件,反之,当我使用三种人工智能驱动服务中的一种(相当于偶然发现 Storm 的石头)时,我注意到一个功能,让我想知道是否可以将此工具与另外二者相连。我不禁在想像我这样对代码几乎一窍不通的人是否能够轻松组合这些服务?我不必凭空猜测,有了 ChatGPT,我可以立即进行测试。对此而言,ChatGPT 并不是原始的 eolith —— 它太模糊、太缥缈、太通用 —— 它更像实验工坊,漫游者将发现的石头带入,检视其真正用途。换言之,它让我们测试这块石头更适合作为矛头、玩具还是艺术品。
这里有些 eolithism 元素,但远非我们所能期待的最佳状态。首先,我使用的三项服务都收取订阅费或使用费,其中将文本转换为音频的服务每月收费高达 99 美元,且该服务极有可能受到风投资本的大力补贴且毫不考虑运行如此高能耗的生成式人工智能模型的能源成本。这就好像有人将最初发现 eolith 的石场私有化并收取高额入场费。这并不是一种最大化生态智能的方式。
在整体设定中还有些过度个人主义的东西,这是 Storm 那种不合群、原始的例子所回避的问题。当然,我可以使用各种私人服务构建个性化的语言学习应用,并且它可能非常有效,但这种模式可扩展吗?它是社会所期望的吗?能否牺牲少许效率和个性化去复用我在应用中已经生成的一些句子或者短篇故事,从而降低为每个用户重新运行这些服务所需的能源成本?
这将我们带到了当今生成式人工智能的核心问题:它不仅反映了市场的运营原则,更体现了其精神。这并不新奇,毕竟这些服务被技术巨头主导,而他们把用户视作最重要的消费者。OpenAI 或其他任何人工智能服务怎可能会鼓励我在构建应用时向他们的服务器发送更少的查询或重复使用他人已经得到的回复?这样只会削弱他们的商业模式,即使从社会或政治(毋论生态)角度来看可能更好。相反,OpenAI 的 API 会向我收费,产生相当数量的碳排放,即使只是为了告诉我伦敦是英国的首都或者一公斤等于一千克。
诸如 ChatGPT 的工具将我们的活动框定在孤立疏离的后现代消费者身份上,在更深层面上削弱了生态理性。当我们使用它们来解决问题时,我们并不对一切保持开放,而更像是在预设的、以利润为导向的格局中寻找套利机会的创业者。虽然在这些条件下也可能出现 eolithic 式的实践,但整体设置还是限制了生态理性的全部潜能和游戏性。
在此 ChatGPT 类似于上述的 Coordinator,正如后现代资本主义仍类似先前的福利-战争式现代性。Coordinator 加强了组织人对工具理性的运用,而 ChatGPT 让当今的新自由主义主体 —— 既是消费者也是创业者 —— 得以惊鸿一瞥(甚至蜻蜓点水般触及)生态理性。表面自由的增加遮掩了更深的非自由 —— 二者背后是仍掌控着的 Efficiency Lobby。是故我们通过如此强大的技术获得的解放感却仍无比受限。_【译者注】:福利-战争式现代性指二战后西方发达资本主义国家(美国尤甚)所形成的由凯恩斯主义驱动的国家形态,它将福利国家和战争国家两个面向合二为一,一方面通过公共支出维持社会保障和民众福祉,一方面通过军事支出和对外干预维持全球霸权,政府依靠这些大规模公共支出来驱动经济并透过福利、军事双重手段进行社会治理。新自由主义则主张以自由市场为核心来组织社会生活,此时资本主义不再需要大规模常备军队,转而投资「智能武器」和高科技军事手段,但国家对经济和社会生活的深层控制结构并未发生根本转变。_
尽管硅谷屡次保证,但这种被阉割的解放感始终未减,即使技术已然获得更强的问题解决能力。如果深度学习系统的主要吸引力在于它们以相对简单(即使成本高且不环保)的方式执行极其多样复杂甚至独特的任务,那么我们应当铭记我们已经拥有了这种技术:市场。如果你想把购物清单变成一首莎士比亚的十四行诗,你不必使用 ChatGPT,只要找到合适的人并愿意支付相应价钱便可完成。
新自由主义者早早意识到了这点。至少在理论上市场承诺提供一种普遍的问题解决方法,且该方法比民主政治更加高效便捷。然而现实振聋发聩:市场常常失灵,往往连问题都难以解决,甚至雪上加霜。它们经常不如基于民间智慧或公共监督的非市场体系表现。它们的有效运作需要巨大努力,难以轻易利用公民拥有的庞大的隐性或显性知识,或者至少是那种无法简化成创业思维的知识。市场只能通过殖民存在的广阔领域来动员它们。(官僚体系早在新自由主义出现前就面临类似局限,只不过它们对公民参与的漠视出于不同动机。)
这些限制众所周知,也是人们一直抵制基本服务商品化并日益呼吁扭转公共产品私有化的原因。生成式人工智能商业发展两年过后,对它的类似审视即将来临。只要人工智能仍然主要受企业限制,寄希望于这项技术来解决重大社会问题就如同将信任交给市场。
---
有何替代方案?要获得摆脱工具理性的有效进展,需要一个与 Efficiency Lobby 割裂的议程。这种割裂必须发生在远超日常、社区甚至城市层面的范围当中,需要国家乃至洲际层面转移关注重心。虽然美国从未如此做过(或许「新政」的某些元素除外,比如通过联邦艺术计划为艺术家提供支持),但其他国家的历史确实提供了一些线索。
1970 年代初,Salvador Allende(阿连德)领导的智利政府希望通过让工人成为所有者和关键行业的领导者来赋予他们权利。在最终导致政变的高度动荡的政治氛围中,阿连德政府试图利用信息技术来推动这一转型。Project Cybersyn 这一系统旨在促进工具理性和技术理性,将日常行政任务的执行与对国家、行业和全公司层面的备选方案审议相结合,担任管理职务的工人将在著名的 Operations Room 使用可视化和统计工具作出明智决策。该项目的委托人正是 Fernando Flores,阿连德的部长,也是 Winograd 未来的合作者。_【译者注】:Cybersyn 项目让智利政府把对经济的决策集中到一个作战室里,也就是上文提到的「Operations Room」,从而实现近乎实时的经济调控。系统通过约 500 台电传机(Telex)连接 150 多家国营企业并将数据汇总到作战室进行决策。作战室的设计基于格式塔原则,不设桌子,只有椅子,配备图形化数据显示面板和按钮控制台。整个项目在 1973 年军事政变推翻阿连德政府后被迫终止,从未完全投入运作,但它作为控制论社会主义的标志性实验至今仍在科技史、设计史和政治思想史中被广泛讨论。_