「自动化与去自动化」侧记

跨域创新课程
2024-08-10
文／赵铎
 

这次「自动化与去自动化」讲座，是2024年许煜访台系列讲座的第一讲。如同前几年的系列讲座，第一讲惯例是对于史蒂格勒的回应，这一次的系列讲座许煜尝试以政治经济学及慾望官能（faculty of desire）对于自动化的批判作为起点，指出其限制，并透过「笛卡尔机器」与「休谟机器」的区分，做出当代的延伸，以回应史蒂格勒在2015年出版的《自动化社会》（La Société Automatique）中所遗留下来的问题。而这次的讲座则是先从政治经济学的批判为核心。
 
传统以马克思为代表的政治经济学是否能提供给我们思考对抗人工智能的可能？许煜首先提及过去马克思如何去批判自动化。亚当斯密在《国富论》中，虚构了一位「蒸汽机男孩」透过将机器自动化而解放自己的故事：最初的蒸汽机，通常会雇用一个男孩持续根据活塞的上升与下降，来交替汽缸和锅炉之间的通道。而其中有个很爱玩的男孩，发现如果用一根绳子从打开阀门的把手系到机器的另一个部分，那这个阀门就不需要在他操作的情况之下自动开关，他就能够自由地跟朋友去玩。
 
然而历史证明事实正好相反。马克思告诉我们：机器的自动化并不会使得工人真正获得更多休閒以及可支配的时间，而是让雇主把熟练工人换成非熟练工人，并增加后备工人的数量，反而会增加工人工作的不稳定性，以及工人劳动的强度。
 
同样地，当近年随着人工智能的复兴，让我们再次想像自动化社会的可能性时，全自动化的后果是让人类解放出来？还是导致大规模的失业？面对同样的问题，过去哲学家对于机器的批评，反而已经显得陈腔滥调，因为过去的哲学，仍旧停留在「机器有没有智能」、「机器论与非机械论」的对立，而无法直面当前计算范式的技术限制，也因此我们必须进一步追问：现在的人工智能到底是什么？我们该如何与之建立适当的关系？
 
马克思所面对的自动化，已经和当代AI的自动化有所不同。马克思所面对的自动化，是一种封闭、重复，有明确限制的「自动装置」，重复着同样的动作和程序，没办法面对偶然的事件，如果某个部分断掉了，整个机器都无法操作，但是现在的机器，是开放、非线性的、递归、生成的，能面对一定范围的偶然性，并且根据输入来预判输出。
 
在十九世纪，自动化意味着，将可重复的手工操作转变成为机械化的操作，这种操作是人类肢体动作的记忆与保留。因此在二十世纪，技术和自动化被视为一种记忆，例如：文化记忆、电影记忆，或是保留在人类动作中的机械化操作，以及文字印刷品等视听物品形式所外化的记忆。二十世纪处理技术，大多从记忆来入手，这些记忆可以在不同机器中处理和传播。这种对于技术的理解，反过来解构传统的主体性哲学以及从中所建构关于人类的概念，如果没有这种外化的记忆，人类的概念无法被想像和发明。人是一种技术性的存在，没有技术就没有人。
 
然而人工记忆的概念，虽然仍然足以理解与解决我们今天的技术状况，但是在二十一世纪，我们是否能够再只用记忆来理解技术？在这里，许煜认为，必须要从史蒂格勒「第三持存」的概念中，延伸出「第三预存」。
 
所谓的「第三持存」，是史蒂格勒从对于胡赛尔内部时间意识现象学的解读中发展出来的。在胡赛尔现象学里头「第一持存／第一预存」指的是当一个音符到达时，正是现在，但是每个现在都是过去，这些过去会存在我们的记忆里。例如：当我们听到一段旋律，如果我没有把我每个现在存留下来，我将没办法理解整段旋律。就像如果你如果说话只能理解当下，你就没办法理解整个句子。这种把每个当下记忆下来的，就是第一持存。而这个保留的过程你也会预测你的下一个声音会是什么，这就是第一预存。
 
如果明天你再听到这个旋律了，他本身已经在脑中变成第一持存，然后你听一段旋律时，你已经可以预知下一段的旋律了，这就是第二持存与第二预存，可以说每个持存都有着一个预存。而第三持存，则是被外化，被理解化的人工记忆，比如说录音，所以这第一到第三持存，构成一个关于时间的循环。而且第三持存反过来决定了第一持存／预存和第二持存／预存。我们看到第三持存的工业化，反过来影响第一与第二持存／预存。如同在卓别林的《摩登时代》中所展现出来的，工人的身体服膺于机器和生产线的节奏。
 
那第三预存意味着什么？意味着机器能透过记忆，去预测未来发生事情的能力，最明显的例子，就是我们生活中每天面对的网络推荐系统。许煜以笛卡尔机器与休谟机器的分别，来说明两种不同的人工智能，以说明「第三预存」是一个更能回应当代人工智能发展的概念。
 
在1960-70年代，人工智能的发展之所以出现瓶颈，正是因为它仍是一种笛卡尔机器，它照着一个规律去运行；然而休谟机器则是一种经验主义的机器，是照着预测的规则来运行。休谟的经验主义正是质疑因果关系的必然性，所有的因果关系其实都是涉及到机率，然而经验主义对于机率判断，是根据过去经验的归纳，在贝氏分类器中，这称之为「后验」，然而今日的休谟机器，因为贝氏分类器（Naive Bayes classifier）得以完善的，他的算法的基本逻辑是：先验的概率会影响后验的概率。也就是，之前发生事情的机率会影响后面事情的机率。这呼应着许煜所提出「第三持存」与「第三预存」的对应。另一方面，在R.J. Solomonoff的资讯压缩理论，便是一套压缩文本的算法，能够将整个文本消化成可以计算的机率，而这个算法的长度比我们要压缩的文本还要小很多。资讯必须要可以从先验概率去预测后验概率才可以压缩。因此资讯的压缩与传递本质上就是由一套记忆与预期的算法构成他的技术逻辑。当今的人工智能，并不是有着默认的能力，而是预测就是他的本质。
 
在2017年，一篇名为〈Attention All You Need〉的论文中，透过递归的计算去计算每个词的注意值（Attention Value），这正是我们当前大型语言模型得以可能的基础。你输入的文字，之后他所生成的每个单词都是透过递归计算，预测出可能性最高的字。
 
这就是为什么机器总是比我们领先一步。当数据越来越多，算法就越来越强大。过去的自动化是将工人的身体和机器同步来组织工人，而是当今的自动化，是通过计算、以最佳方式路线的方式来安排工人的时间。今日的自动化，给予我们更多将人类从机器操作中解放出来的假象。许煜提及在中国，离开工厂的工人大量地去当外卖送餐员，好似拥有更多可支配的时间，然而而外卖送餐员作为一个相对于蒸汽机男孩的另一种自动化的类型，其实不过是用他的身体完成算法的预测。
 
人类如何摆脱这注定会失败的游戏？唯一的可能性就是：改变新的游戏，或是改变游戏的规则。这就是谈论艺术重要的问题。就算外卖送餐员就算打碎手机回到工厂，那也是让身体服从于另一种机器支配。人类的自由不是摧毁机器，从机器解脱，而是赋予这个机器真正的使命。因此许煜回到了两年前他在北艺大系列演讲中的第三讲「战争与机器」中，所引用的，柏格森关于「机械主义」和「神秘主义」对立的讨论。
 
回到一开始蒸汽机男孩的构想，虽然蒸汽机男孩使机器自动化，最终并没有导致工人的解放，然而马克思没有注意到在这个比喻中，同时意味着蒸汽机男孩在偶然的情况下，完成了蒸汽机工程师本身在制造蒸汽机时没有预见的自动化，而使自己得以去自动化。因此蒸汽机男孩仍然是我们的愿景，去自动化和自动化不应该是对立的，而是在自动化中找到去自动化的策略。
 
而正如同蒸汽机男孩获得解放后能够得到更多去跟朋友玩的「休閒」时间。而在马克思的政治经济学中，真正的财富，指的是：可以支配的时间更多，能够从事「更高的」劳动。这个劳动不是玩耍，而是艺术创作或是哲学思考。因此在下一讲里头，许煜将要区分劳动与工作的区别，别回到慾望官能的批判，针对理性在当年面对自动化的功能进行探究，就如同理性总是对经验事实持怀疑态度，在当前我们如何重回理性去面对抵抗休谟机器的可能。