「自動化與去自動化」側記

跨域創新課程
2024-08-10
文／趙鐸
 

這次「自動化與去自動化」講座，是2024年許煜訪台系列講座的第一講。如同前幾年的系列講座，第一講慣例是對於史蒂格勒的回應，這一次的系列講座許煜嘗試以政治經濟學及慾望官能（faculty of desire）對於自動化的批判作為起點，指出其限制，並透過「笛卡爾機器」與「休謨機器」的區分，做出當代的延伸，以回應史蒂格勒在2015年出版的《自動化社會》（La Société Automatique）中所遺留下來的問題。而這次的講座則是先從政治經濟學的批判為核心。
 
傳統以馬克思為代表的政治經濟學是否能提供給我們思考對抗人工智能的可能？許煜首先提及過去馬克思如何去批判自動化。亞當斯密在《國富論》中，虛構了一位「蒸汽機男孩」透過將機器自動化而解放自己的故事：最初的蒸汽機，通常會雇用一個男孩持續根據活塞的上升與下降，來交替汽缸和鍋爐之間的通道。而其中有個很愛玩的男孩，發現如果用一根繩子從打開閥門的把手繫到機器的另一個部分，那這個閥門就不需要在他操作的情況之下自動開關，他就能夠自由地跟朋友去玩。
 
然而歷史證明事實正好相反。馬克思告訴我們：機器的自動化並不會使得工人真正獲得更多休閒以及可支配的時間，而是讓雇主把熟練工人換成非熟練工人，並增加後備工人的數量，反而會增加工人工作的不穩定性，以及工人勞動的強度。
 
同樣地，當近年隨著人工智能的復興，讓我們再次想像自動化社會的可能性時，全自動化的後果是讓人類解放出來？還是導致大規模的失業？面對同樣的問題，過去哲學家對於機器的批評，反而已經顯得陳腔濫調，因為過去的哲學，仍舊停留在「機器有沒有智能」、「機器論與非機械論」的對立，而無法直面當前計算範式的技術限制，也因此我們必須進一步追問：現在的人工智能到底是什麼？我們該如何與之建立適當的關係？
 
馬克思所面對的自動化，已經和當代AI的自動化有所不同。馬克思所面對的自動化，是一種封閉、重複，有明確限制的「自動裝置」，重複著同樣的動作和程序，沒辦法面對偶然的事件，如果某個部分斷掉了，整個機器都無法操作，但是現在的機器，是開放、非線性的、遞歸、生成的，能面對一定範圍的偶然性，並且根據輸入來預判輸出。
 
在十九世紀，自動化意味著，將可重複的手工操作轉變成為機械化的操作，這種操作是人類肢體動作的記憶與保留。因此在二十世紀，技術和自動化被視為一種記憶，例如：文化記憶、電影記憶，或是保留在人類動作中的機械化操作，以及文字印刷品等視聽物品形式所外化的記憶。二十世紀處理技術，大多從記憶來入手，這些記憶可以在不同機器中處理和傳播。這種對於技術的理解，反過來解構傳統的主體性哲學以及從中所建構關於人類的概念，如果沒有這種外化的記憶，人類的概念無法被想像和發明。人是一種技術性的存在，沒有技術就沒有人。
 
然而人工記憶的概念，雖然仍然足以理解與解決我們今天的技術狀況，但是在二十一世紀，我們是否能夠再只用記憶來理解技術？在這裏，許煜認為，必須要從史蒂格勒「第三持存」的概念中，延伸出「第三預存」。
 
所謂的「第三持存」，是史蒂格勒從對於胡賽爾內部時間意識現象學的解讀中發展出來的。在胡賽爾現象學裡頭「第一持存／第一預存」指的是當一個音符到達時，正是現在，但是每個現在都是過去，這些過去會存在我們的記憶裡。例如：當我們聽到一段旋律，如果我沒有把我每個現在存留下來，我將沒辦法理解整段旋律。就像如果你如果說話只能理解當下，你就沒辦法理解整個句子。這種把每個當下記憶下來的，就是第一持存。而這個保留的過程你也會預測你的下一個聲音會是什麼，這就是第一預存。
 
如果明天你再聽到這個旋律了，他本身已經在腦中變成第一持存，然後你聽一段旋律時，你已經可以預知下一段的旋律了，這就是第二持存與第二預存，可以說每個持存都有著一個預存。而第三持存，則是被外化，被理解化的人工記憶，比如說錄音，所以這第一到第三持存，構成一個關於時間的循環。而且第三持存反過來決定了第一持存／預存和第二持存／預存。我們看到第三持存的工業化，反過來影響第一與第二持存／預存。如同在卓别林的《摩登時代》中所展現出來的，工人的身體服膺於機器和生產線的節奏。
 
那第三預存意味著什麼？意味著機器能透過記憶，去預測未來發生事情的能力，最明顯的例子，就是我們生活中每天面對的網路推薦系統。許煜以笛卡爾機器與休謨機器的分別，來說明兩種不同的人工智能，以說明「第三預存」是一個更能回應當代人工智能發展的概念。
 
在1960-70年代，人工智能的發展之所以出現瓶頸，正是因為它仍是一種笛卡爾機器，它照著一個規律去運行；然而休謨機器則是一種經驗主義的機器，是照著預測的規則來運行。休謨的經驗主義正是質疑因果關係的必然性，所有的因果關係其實都是涉及到機率，然而經驗主義對於機率判斷，是根據過去經驗的歸納，在貝氏分類器中，這稱之為「後驗」，然而今日的休謨機器，因為貝氏分類器（Naive Bayes classifier）得以完善的，他的算法的基本邏輯是：先驗的概率會影響後驗的概率。也就是，之前發生事情的機率會影響後面事情的機率。這呼應著許煜所提出「第三持存」與「第三預存」的對應。另一方面，在R.J. Solomonoff的資訊壓縮理論，便是一套壓縮文本的算法，能夠將整個文本消化成可以計算的機率，而這個算法的長度比我們要壓縮的文本還要小很多。資訊必須要可以從先驗概率去預測後驗概率才可以壓縮。因此資訊的壓縮與傳遞本質上就是由一套記憶與預期的算法構成他的技術邏輯。當今的人工智能，並不是有著預設的能力，而是預測就是他的本質。
 
在2017年，一篇名為〈Attention All You Need〉的論文中，透過遞歸的計算去計算每個詞的注意值（Attention Value），這正是我們當前大型語言模型得以可能的基礎。你輸入的文字，之後他所生成的每個單詞都是透過遞歸計算，預測出可能性最高的字。
 
這就是為什麼機器總是比我們領先一步。當數據越來越多，算法就越來越強大。過去的自動化是將工人的身體和機器同步來組織工人，而是當今的自動化，是通過計算、以最佳方式路線的方式來安排工人的時間。今日的自動化，給予我們更多將人類從機器操作中解放出來的假象。許煜提及在中國，離開工廠的工人大量地去當外賣送餐員，好似擁有更多可支配的時間，然而而外賣送餐員作為一個相對於蒸汽機男孩的另一種自動化的類型，其實不過是用他的身體完成算法的預測。
 
人類如何擺脫這注定會失敗的遊戲？唯一的可能性就是：改變新的遊戲，或是改變遊戲的規則。這就是談論藝術重要的問題。就算外賣送餐員就算打碎手機回到工廠，那也是讓身體服從於另一種機器支配。人類的自由不是摧毀機器，從機器解脫，而是賦予這個機器真正的使命。因此許煜回到了兩年前他在北藝大系列演講中的第三講「戰爭與機器」中，所引用的，柏格森關於「機械主義」和「神秘主義」對立的討論。
 
回到一開始蒸汽機男孩的構想，雖然蒸汽機男孩使機器自動化，最終並沒有導致工人的解放，然而馬克思沒有注意到在這個比喻中，同時意味著蒸汽機男孩在偶然的情況下，完成了蒸汽機工程師本身在製造蒸汽機時沒有預見的自動化，而使自己得以去自動化。因此蒸汽機男孩仍然是我們的願景，去自動化和自動化不應該是對立的，而是在自動化中找到去自動化的策略。
 
而正如同蒸汽機男孩獲得解放後能夠得到更多去跟朋友玩的「休閒」時間。而在馬克思的政治經濟學中，真正的財富，指的是：可以支配的時間更多，能夠從事「更高的」勞動。這個勞動不是玩耍，而是藝術創作或是哲學思考。因此在下一講裡頭，許煜將要區分勞動與工作的區別，別回到慾望官能的批判，針對理性在當年面對自動化的功能進行探究，就如同理性總是對經驗事實持懷疑態度，在當前我們如何重回理性去面對抵抗休謨機器的可能。