AI ≠ 人工 + 智慧
模擬人類微笑的Amazon彎曲箭頭背後,誰受益、誰為此犧牲?
為何Google不惜一切代價避免提到或暗示人工智慧?
從沙漠到海洋,從岩石到城市,從樹木到超大型企業,從跨洋航線到原子彈,
誰在AI後面?誰背叛了AI?――――――
從神話到魔化,從地球、雲端到太空,破解AI背後的6個祕密,探索人工智慧的另一種可能!
當代AI研究先驅、微軟研究院資深首席研究員
第一手揭露人工智慧豐功偉業背後的陰暗面!
――――――
▌各界好評讚譽
王國禎 ∣ 國立交通大學資訊工程學系退休教授、高雄醫學大學基礎科學教育中心教授
李忠謀 ∣ 國立臺灣師範大學副校長暨資訊工程學系教授
李家維 ∣ 國立清華大學生命科學系教授、《科學人》雜誌總編輯
林守德 ∣ 國立臺灣大學資訊工程學系教授
洪文玲 ∣ 台灣科技與社會研究學會理事長
曹筱玥 ∣ 國立臺北科技大學互動設計系/所專任教授兼系主任/所長
郭榮彥 ∣ Lawsnote創辦人、律師
黃文浩 ∣ 在地實驗創立者
劉士達 ∣ 國立清華大學科技藝術研究中心科技創新應用組組長
謝宗震 ∣ 詠鋐智能股份有限公司創辦人暨執行長
▌幽靈代價,我們為AI付出了什麼?
◎人工智慧既非人工的,也不是智慧的,那些看似萬能的智慧是如何「製造」出來的?
◎從內華達沙漠到內蒙古巨大的人工湖、從亞馬遜倉庫到太空殖民,直擊人工智慧帝國全景地圖!
◎人工智慧充滿隱藏成本,從自然資源和勞力到隱私和自由都是代價,深入了解我們為人工智慧付出了什麼?
◎人類為人工智慧制定的倫理架構非常失敗,程式碼和演算法並非致命毒藥,那麼到底哪裡出了錯?
▌「AI」,一個兩字的短語,隱含了一則神話和六個幽靈!
當我們跟Siri聊天、開著特斯拉電動車上路、用Google搜尋、上傳IG自拍、觀看抖音影片,以為自己生活在人工智慧的美好新世界,但事實上許多看似有價值的自動化系統能運作,背後都隱藏著幽靈。運行一個自然語言處理模型產生的二氧化碳排放量,相當於從紐約搭機往返北京125次!精心打造的魔鬼細節,讓我們相信智慧機器在做那些神奇的工作。
人工智慧不只是演算法、資料與硬體的混合物,它關乎自然界、政治、歷史,有時甚至也和美有關。當人工智慧滲入政治生活、耗盡地球之時,會發生什麼事?人工智慧如何形塑我們對自己及對社會的理解?
本書作者凱特•克勞馥是當代對人工智慧的影響最深思熟慮的研究者之一,以人文主義者的眼光、藝術家的感知、科學家的嚴謹,揭露人工智慧真實的樣貌。她憑藉十多年的研究,揭示了人工智慧神話背後隱藏了什麼,從打造與支持人工智慧基礎設施所需的能源和礦物、剝削「自動化」服務背後的勞工,到人工智慧從我們身上取得的資料,破除人工智慧的迷思。
全書以地圖集的概念來看待人工智慧,提供我們重新閱讀世界的可能性。在人工智慧的地景中,我們會造訪礦坑、耗能資料中心裡長長的走廊、顱骨檔案庫、影像資料庫,以及日光燈照亮的物流倉庫,了解每一種分類都有自己的後果。世界上最富有公司的人工智慧系統正榨取各種資源,將人類的思考能力商品化,以服務當代科技的一瞬間。
沒有單一的黑盒子,沒有單純的祕密,錯綜複雜的權力系統交織,映射了一組複雜的期望、意識形態、欲望和恐懼!
▌對本書的讚譽
李忠謀 │ 國立臺灣師範大學副校長暨資訊工程學系教授
這是本非以技術層面談論人工智慧主題的著作。本書分梳各種資訊系統在被設計與運用中所隱含的社會性及政治性的籌劃與代價,包括隱蔽在遠端及雲端概念中但真實存在的巨大環境成本和勞動成本――俾使讀者一窺人工智慧所帶來的正義問題。人工智慧的發展與應用不會有所止步,但修正對人工智慧的迷思並擴大非技術面的探討確實是必要的。
郭榮彥 │ Lawsnote創辦人、律師
石油精煉縮短了世界的距離,同時也改變了地球的溫度;核能可以點亮黑夜,也點亮了廣島。
科技發展推進了人類社會的繁榮發展,但幾乎所有的科技同時也伴隨著負面的代價。
從工業革命開始,隨著經濟發展的高歌猛進,資產階級向全世界輸出便宜的物資,也輸出了軍隊和東印度公司,殖民者之間的爭奪演變成世界大戰,但我們的科技仍持續在進步,生活品質持續在提升。
作者提醒人工智慧的發展並不是沒有代價的,就像所有的科技一樣,有好的一面、同時有不好的一面。
重視科技的代價並沒有辦法讓進展回溯,但謙卑的重視這些問題,才能讓科技更健康的發展。
黃文浩 │ 在地實驗創立者
AI科技的發展造成了「人類主體」轉向「資料主體」的倫理陷阱,本書提出種種跡證讓我們不得不從科技創新的樂觀期待中警醒並且思考面對。作者以地圖集的方法向我們「展示了一個對世界的特殊觀點,有受認可的科學——尺度與比例、經度與緯度——以及形式感和一致性」。這無疑是長期從事科技藝術工作如我面對跨領域最具啟發的方式。
謝宗震 │ 詠鋐智能股份有限公司創辦人暨執行長
克勞馥憑藉十多年的研究,揭示了人工智慧系統是如何根植於社會、文化、政治與經濟世界,她從人工智慧與正義的觀點大膽呼籲更加公正與永續的未來。無論你是人工智慧從業者,還是關心人工智慧進入生活的一般讀者,這都是一本鞭辟入裡、發人省思的精采之作。
麥克・安南尼(Mike Ananny) │ 南加州大學(University of Southern California)
克勞馥說明人工智慧是一項跨越政治、勞力、土地和資料的技術成就和文化承諾,繪製出獨特的地圖,讓我們看見並挑戰人工智慧的力量,供我們採取行動。
露哈・班傑明(Ruha Benjamin) │ 《追逐科技》(Race After Technology)作者
透過出色地追溯人工智慧的歷史、神話、倫理和政治,本書提醒我們,我們所講述的人工智慧故事,就像構成這些系統的數學模型一樣重要。
傑佛瑞・鮑克(Geoffrey C. Bowker) │ 加州大學爾灣分校(University of California, Irvine)
這本書具說服力、清晰且深刻,我們這個時代的經典之作。它透過闡明人工智慧的社會、物質和政治面向,轉移我們的注意力,不再只看見新殖民主義光鮮亮麗的東西。
西蒙妮・布朗(Simone Browne)│ 《暗物質》(Dark Matters)作者
從勞力、乳膠和鋰的採掘到代理和帕蘭泰爾科技公司(Palantir)的政治,本書是對再現人工智慧的權力關係的嚴格質問,並無可避免地映現出其侷限性。這是一本不可或缺的著作。
全喜卿(Wendy Hui Kyong Chun) │ 西門菲莎大學(Simon Fraser University),加拿大一百五十週年研究計畫新媒體學者(Canada 150 Chair in New Media)
一本必讀之作。從鋰礦場談到資料提取,從勞力剝削談到政府監控,本書深具說服力地揭示智慧是如何「製造」出來的。書中藉由追根究底地探查人工智慧可能造成的環境惡化、資本積累和勞動條件,取代空泛無力的「倫理」呼籲。
維吉妮亞・迪努姆(Virginia Dignum )│ 《自然》期刊(Nature)
揭露了人工智慧豐功偉業背後的陰暗面……精心研究,寫作精湛。
彼得・蓋利森(Peter Galison) │ 《愛因斯坦的時鐘,龐加萊的地圖》(Einstein’s Clocks, Poincare’s Maps)作者
人工智慧似乎就像我們機器中的幽靈一樣縈繞於這個世界。但正如凱特・克勞馥在她生動、令人不安的著作中所表明的,這個演算法、資料、硬體的混合物絕非無關緊要的。本書做出傑出的貢獻:讓人工智慧的幽靈現形。
蘇・海爾波恩(Sue Halpern) │ 《紐約書評》(New York Review of Books)
正如凱特・克勞馥這本鞭辟入裡的著作一再證明的,人工智慧並不是像天外救星一樣降臨在我們面前,而是透過一些我們大多數人都不知道的去人性化提取作法來完成。
凱倫・郝(Karen Hao) │ 《麻省理工科技評論》(MIT Tech Review)資深編輯
這是一部傑作,而我一直無法停止思考這本書。
賽門・英格斯(Simon Ings) │ 《新科學人》雜誌(New Scientist)「年度選書」
揭示了人工智慧的隱藏成本,從自然資源的消耗到我們的隱私、平等和自由更微妙的成本。
約翰・納頓(John Naughton) │ 《衛報》(The Guardian)
〔一部〕引人入勝的著作……
阿隆德拉・尼爾森(Alondra Nelson) │ 美國社會科學研究會(Social Science Research Council)主席
具說服力又富啟發性……克勞馥描述了肆無忌憚的技術擴張帶來的可怕風險。方法原創又睿智,本書是一幅關於現狀不可或缺的地圖,它大膽地呼籲讀者描繪一個更加公正而永續的未來。
阿娜伊絲・蕾塞吉耶(Anaïs Rességuier) │ 《AI與倫理》期刊(AI and Ethics)
本書是一部開創性的作品,將人工智慧帶入了我們關注的範疇……克勞馥的著作對該領域貢獻卓著,因為各國和國際、公司和教育機構的各個層面都在努力減輕這項科技帶來的危害。
大衛・夏維茲(David A. Shaywitz) │ 《華爾街日報》(Wall Street Journal)
克勞馥強烈主張,雖然人工智慧被呈現為無實體的、客觀的和不可避免的,但它卻是物質的、有偏誤的,且受我們自己的觀點和意識形態左右。
約翰・史萊特利(John Slattery) │ 《公益》雜誌(Commonweal)
克勞馥……從《星艦迷航記》的世界中借鑑人工智慧,讓它變得豐富、人性化且發自內心。
麥可・史佩奇歐(Michael Spezio) │ 《科學》期刊(Science)
將人工智慧盡覽無遺,把這項科技架構為帝國、決策和行動的集結,這些帝國、決策和行動共同快速消除了在全球範圍內永續未來的可能性……一部在緊急時刻及時帶來貢獻的著作。
露西・薩琪曼(Lucy Suchman) │ 《人機重構》(Human-Machine Reconfigurations)作者
無論你是專心致志的研究人員、人工智慧從業者,還是關心資料的力量日益強大的一般讀者,這都是一趟讓人大開眼界的旅程,在人工智慧的標誌下遍歷行星資源、勞動體和權力的關係,為資料的帝國賦予它竭澤而漁式的生命。
約翰・索恩希爾(John Thornhill) │ 《金融時報》(Financial Times)創新編輯「2021年度選書」
世界上對人工智慧的影響最深思熟慮的研究者之一,提供了一份發人深省且不可或缺的讀物,了解人工智慧如何加速不民主的治理和加劇的不平等。
佛瑞德・透納(Fred Turner) │ 《民主外圍》(The Democratic Surround)作者
凱特・克勞馥以人文主義者的眼光和藝術家對真正重要事物的感知,來思考人工智慧。如果你認為人工智慧只和大數據及機器學習有關,那麼這本精采之作會提醒你:人工智慧關乎自然界、政治、歷史,有時甚至也和美有關。
約瑟夫・圖羅(Joseph Turow) │ 《聲音捕手》(The Voice Catcher)作者
精闢考察二十一世紀資料創建和操縱的過程、意涵與倫理。克勞馥探討的範圍相當多元,橫跨礦場、伺服器農場和配送倉庫,還有人工智慧新創公司,生動地展示了我們的系統如何發展為「失靈時危險,運作時有害」。
史蒂芬妮・伍德(Stephanie Wood) │ 《雪梨晨鋒報》(The Sydney Morning Herald)
一本引人入勝的新作。
《紐約客》(New Yorker)
這項研究認為那〔人工智慧〕既非人工的,也不是特別智慧……關於訓練機器學習系統所仰賴的資料的迷人歷史。
作者簡介:
凱特.克勞馥Kate Crawford
微軟研究院(Microsoft Research)資深首席研究員、巴黎高等師範學院(École Normale Supérieure)「人工智慧與正義」課程首任主席、墨爾本大學明古尼雅特聘訪問學者(Miengunyah Distinguished Visiting Fellowship)。紐約大學AI Now研究院(AI Now Institute)共同創辦人,領導機器學習基金會(Foundations of Machine Learning)國際工作小組。
譯者簡介:
呂奕欣
師大翻譯所筆譯組畢業,曾任職於出版公司與金融業,現專事翻譯。
章節試閱
波音七五七飛機在聖荷西上空往右傾斜,準備降落在舊金山國際機場。飛機對齊跑道時,左機翼往下,於是我能鳥瞰整個科技業最具象徵意義的地點:下方是矽谷的大帝國。Apple總部是巨大的黑色圓圈,像個未加蓋的相機鏡頭在陽光下閃耀發光。然後是Google總部,緊鄰著美國航太總署(NASA)莫菲特聯邦機場(Moffett Federal Airfield)。這裡曾是美國海軍在二戰和韓戰期間的重要基地,後來Google租用六十年,高階主管將私人飛機停在這裡。排列在Google附近的是洛克希德・馬丁(Lockheed Martin)的大型生產棚,這家航太暨軍火製造公司在那裡建造了數百枚軌道衛星,用於俯視地球上的活動。接下來在鄧巴頓大橋(Dumbarton Bridge)旁有幾棟矮墩墩的建物,那是臉書所在地,周圍有廣大的停車場,附近就是雷文斯伍沼澤(Ravenswood Slough)飄著硫磺味的鹽湖。從這個制高點觀看帕拉奧圖(Palo Alto),只會看到平凡無奇的郊區死巷和不太高的工業建築天際線,看不出這裡真正掌握的財富、權力和影響。只有些許線索透露出這裡在全球經濟和運算基礎設施中的中心地位。
我來到這裡了解關於人工智慧的知識,以及人工智慧是由什麼製造而成。為了明白這一點,我也得離開矽谷。
我從機場跳上廂型車,往東行駛,穿越聖馬提歐―海沃大橋(San Mateo–Hayward Bridge),經過勞倫斯利佛摩國家實驗室(Lawrence Livermore National Laboratory),愛德華・泰勒(Edward Teller)在二戰後的幾年裡就在這裡指導氫彈研究。沒多久,就看見內華達山脈的山麓在中央谷地(Central Valley)的史塔克頓市(Stockton)和曼提加市(Manteca)後方聳立。道路由此開始蜿蜒而上,穿過索諾拉隘口(Sonora Pass)高聳的花崗岩懸崖,沿著山岳東側往下,朝著山谷前進,綠油油的草地上有金英花點綴。松林消失,眼前成了莫諾湖(Mono Lake)的鹼性水域,以及盆地與山脈區(Basin and Range)乾枯的沙漠地形。為了加油,我開車到內華達州霍索恩市(Hawthorne),這裡是世界上最大的軍火庫,美軍把軍火存放在數十個灰塵覆蓋、於谷中整齊排列的金字塔形建築中。沿著內華達二六五號州際公路,我看見遠處有一座孤零零的全(多)向導航太康台(VORTAC),這座看似巨大保齡球瓶的無線電塔是GPS年代之前的設計,它只有一項功能:朝著所有經過的飛機廣播「我在這裡」,偏僻地形中的一處固定參考點。
我的目的地是內華達州克雷頓谷(Clayton Valley)的非建制社區(unincorporated community)銀峰(Silver Peak),這裡約有一百二十五人居住,取決於你如何計算。這是內華達州最古老的採礦小鎮之一。由於金礦和銀礦幾乎開採耗盡,一九一七年後已近乎荒廢。幾棟淘金熱時期的建築依然屹立著,在沙漠驕陽下飽受摧殘。這座城鎮或許很小,廢棄車輛比人還多,卻蘊藏著高度稀有之物。銀峰位於巨大的地下鋰湖邊緣,地表下珍貴的鋰鹵水會打出來,抽到開放的燦綠池子蒸發。如果池塘能捕捉到光線而發出微光,就能從好幾公里外看見這些池塘。靠近之後,又是另一番景象:模樣怪異的黑管子從地面伸出,在鹽結殼的地表上蜿蜒曲折,於淺溝鑽進鑽出,運送含鹽的混合液到乾燥區。
在這裡,內華達州一個偏遠的礦囊,就是製造人工智慧材料的地方。
◎運算的地景
一個夏日午後,我開車穿越沙漠谷地,看看最新的採礦榮景的運作。我讓手機引導我前往鋰鹽湖周邊,手機從儀表板上以白色USB纜線綁好、勉強湊合的固定處回答我。銀峰廣大乾涸的湖床形成於數百萬年前的晚第三紀,湖泊周圍環繞著的結殼層狀結構往上推,深入包含深色石灰岩、綠色石英岩、灰色和紅色板岩的山脊線。這個地區在二戰期間曾開採鉀鹽等戰略礦物,之後發現了鋰。這種柔軟的銀色金屬在接下來五十年裡僅少量開採,直到成為科技業使用的高價值材料,開採量才增加。
二○一四年,化工業者雅保公司(Albemarle Corporation)以六十二億美元收購鋰礦開採公司洛克伍德控股(Rockwood Holdings, Inc.)。這裡是美國唯一一處在開採的鋰礦,引來馬斯克(Elon Musk)和其他許多科技大亨對銀峰的高度興趣,原因在於:可充電電池。鋰是生產充電式電池的關鍵元素。舉例來說,智慧型手機的電池通常含有約八點五公克的鋰,而每一輛特斯拉Model S電動車則需要大約六十二點六公斤的鋰供電池組使用。這類電池從來不是打算給像汽車一樣耗電的機械使用,但鋰電池是目前大眾市場上唯一的選擇。所有這些電池的壽命都有限,一旦衰退,只能當成垃圾丟棄。
特斯拉內華達超級工廠(Tesla Gigafactory)位於銀峰以北約三百二十公里處,是世界上最大的鋰電池工廠。特斯拉是全球最大的鋰電池消費者,每年從Panasonic和三星(Samsung)採購大量鋰電池,重新包裝於汽車和家用充電器中。根據估計,特斯拉每年使用超過兩萬八千噸氫氧化鋰,占全球總消費量的一半。事實上,更準確地說,特斯拉與其說是汽車公司,不如說是電池公司。鎳、銅、鋰等重要礦物面臨短缺會對公司帶來風險,使得銀峰的鋰鹽湖更令人覬覦。若能掌控這處礦場,就表示能掌控美國的國內需求。
正如許多人所指出的,電動車遠非解決二氧化碳排放量的完美方案。電池供應鏈的採礦、冶煉、出口、組裝和運輸對環境造成重大的負面影響,接下來又因為電池衰退而影響社群。少數家庭利用太陽能系統自行發電,但從絕大部分情況來看,為電動車充電需要從電網取得電力,而美國目前來自再生能源的電力占比不到五分之一。截至目前為止,這一切都阻擋不了眾多車廠與特斯拉競爭的決心,造成電池市場越來越大的壓力,並且導致原本已稀少的必需礦物存量加速消耗。
全球運算和商業很仰賴電池。「人工智慧」一詞會讓人想起演算法、數據、雲端架構的概念,但如果少了建構運算核心元件的礦物和資源,上述概念都無法發揮功能。充電式鋰離子電池是行動裝置、筆電、家庭數位助理和資料中心備援電力不可或缺的,也支撐著網際網路和所有在網路上運作的商業平台,從銀行、零售到股市交易。現代生活許多層面已轉到「雲端」,卻鮮少考量這些材料的成本。我們的工作和個人生活、病史、休閒時間、娛樂、政治利益,所有這一切都在網路化運算架構的世界裡發生,我們從在一隻手上拿著的裝置善用它,而鋰就是這些裝置的核心。
在人工智慧領域,採礦既可依字面意義理解,也是比喻性的修辭。資料探勘的新採掘主義(new extractivism)也包含並推動了傳統採礦的舊採掘主義。為人工智慧系統提供動力所需的堆疊(stack),遠遠超出了資料建模、硬體、伺服器和網路構成的多層技術堆疊。人工智慧供應鏈的完整堆疊涉及資本、勞工和地球資源,而且對每一種的需求量都很巨大。雲端是人工智慧產業的骨幹,而那是由岩石、鋰鹵水和原油構成。
在《媒體地質學》(A Geology of Media)這本著作中,理論家帕瑞卡(Jussi Parikka)表示,我們不應該從麥克魯漢(Marshall McLuhan)的觀點來思考媒體——在他的眼中,媒體是人類感官的延伸——而是該從地球的延伸來思考。運算媒體如今參與地質(和氣候學)的過程,從地球的材料轉變到基礎設施和裝置,並以石油和天然氣儲備為這些新系統提供動力。若以地質過程的觀點來思考媒體和科技,我們就會發現驅動目前科技的不可再生資源正快速枯竭。在一套人工智慧系統所延伸的網路中,從網路路由器、電池到資料中心,每一項物件都是使用需要數十億年才能在地球內部形成的元素建構。
從深時觀點來看,我們正榨取地球漫長的地質歷程,服務當代科技時間的一瞬間,做出亞馬遜Echo和iPhone這類通常只能使用幾年的裝置。美國消費者技術協會(Consumer Technology Association)指出,智慧型手機的平均使用年限只有四點七年。這個汰舊週期讓人購買更多裝置,提高企業利潤,增加運用非永續性採掘作法的誘因。經過緩慢的開發過程之後,這些礦物、元素和材料經歷非常快速的開採、加工、混合、冶煉和物流運輸的時期,在轉變過程中跨越了數千英里。原始礦物從土地上移除,丟棄廢渣和尾礦之後,被製成可以使用和丟棄的裝置,最後埋到迦納或巴基斯坦等地的電子垃圾掩埋場。人工智慧系統從誕生到死亡的生命週期有許多碎形供應鏈:人工和自然資源的剝削林林總總,還有企業和地緣政治權力的大規模集中。而在整條供應鏈上,持續且大規模的能源消耗讓這個週期得以不斷運行。
舊金山科技業的作法,呼應著當年這座城市賴以建立的採掘主義。人工智慧龐大的生態系統仰賴多種採掘方式:從收集我們日常活動和表情所產生的資料到耗盡自然資源,乃至剝削全球各地的勞工,以建立和維護這個龐大的行星網路。人工智慧從我們和地球上採掘的東西,遠比眾所周知的更多。舊金山灣區是人工智慧神話的中心節點,但我們必須到與美國距離遙遠之處,才能看到提供動力讓科技業運行的人類和環境破壞的層層遺害。
◎黑色湖泊與白色乳膠
包頭是內蒙古最大的城市,這裡有一座人工湖,裡面充滿有毒的黑泥。它散發出硫磺惡臭,一望無際,直徑超過八點八公里。這座烏黑的湖泊含有超過一億八千萬噸選礦(ore processing)產生的廢粉,來自附近白雲鄂博礦區的廢物徑流。根據估計,這座礦區含有全球近七成的稀土礦產儲量,是地球上最大的稀土元素礦床。
世界上百分之九十五的稀土礦產由中國供應。如作家莫恩(Tim Maughan)所言,中國能成為市場龍頭與其說是地質因素,不如說是中國願意承擔採掘對環境造成的傷害。雖然釹和鈰等稀土礦物相對常見,但要讓這些礦物能使用,必須運用會造成危害的過程,將它們溶解在大量的硫酸和硝酸中。這些酸液造成有毒廢水蓄積,填滿包頭的死水湖。環境研究學者赫德(Myra Hird)稱這種地方充滿「我們想遺忘的廢棄物」,包頭只是其中一地。
迄今為止,稀土元素在電子、光學和磁性方面有獨一無二的用途,任何其他金屬都無法匹敵,但可用礦物與有毒廢棄物的比例卻很極端。自然資源策略專家大衛・亞伯拉罕(David Abraham)談到在中國江西開採鏑和鋱的情況,它們用於各種高科技裝置。他寫道:「開採出來的黏土中僅百分之零點二含有珍貴的稀土元素。這表示,開採稀土元素時,百分之九十九點八去除的泥土被當成廢棄物丟棄,這些稱為『尾礦』的土被傾倒回山丘和溪流」,產生銨等新汙染物。為了提煉一噸稀土元素,「中國稀土學會估計,這過程會產生七萬五千公升酸性水,以及一噸的放射性殘留物」。
在包頭以南約四千八百公里處,是印尼蘇門答臘海岸附近的小島邦加島(Bangka)和勿里洞島(Belitung)。邦加島和勿里洞島生產的錫占印尼的百分之九十,用於半導體。印尼是僅次於中國的世界第二大產錫國,印尼國有錫業集團公司(PT Timah)直接供應三星等公司,也供應晟楠、昇貿等焊錫材料廠,這些廠商之後再供應產品給索尼(Sony)、LG、富士康——這些都是Apple、特斯拉和亞馬遜的供應商。
在這些小島上,未得到正式雇用的灰市礦工坐在臨時湊合成的浮式碼頭上,用竹篙刮海床,然後潛入水下,用類似真空管的巨型管子深吸氣,吸取海底的錫。礦工把找到的錫賣給仲介者,而這些仲介者也從在經授權的礦場工作的礦工那裡收集礦石,把兩種來源的錫混合起來,出售給錫業集團公司之類的企業。由於完全不受監管,這過程在沒有任何正式工人或環境保護的情況下展開。正如調查記者何黛爾(Kate Hodal)的報導,「錫礦採掘是有利可圖卻具毀滅性的交易,破壞了這座島的景觀、夷平農場和森林,殺死了魚群和珊瑚礁,對觀光業棕櫚樹成蔭的美麗海灘帶來不利的影響。從空中鳥瞰最能看出損害程度,蓊鬱的森林被大片光禿禿的橘色土地包圍。在沒有礦場聳立的地方,布滿坑坑巴巴的墳墓,許多是葬著幾世紀以來挖掘錫礦時死去的礦工遺體。」這樣的礦場隨處可見:在後院、在森林、在路邊、在海灘。這是一片廢墟的地景。
我們通常的生活習慣是把焦點放在眼前的世界,也就是每天所見、所聞、所觸摸到的世界。我們穩定立足於此,在這裡有自己的社群、知悉的角落,也有關注的重點。但如果要探查完整的人工智慧供應鏈,需要在全球範圍內尋找模式,敏銳地看出歷史和具體的危害是因地而異,同時又因多種採掘力量而深刻地聯繫在一起。
◎物流層次
當我進入亞馬遜位於紐澤西州羅賓斯維爾鎮(Robbinsville)廣闊的履行中心(fulfillment center),最先映入眼簾的是個斗大的標誌,上面寫著「打卡機」(Time Clock)。這個標誌從占地三千三百七十多坪的混凝土空間中,諸多鮮黃色支架突出。這是亞馬遜小型物件的主要配送倉庫,也是美國東北部的中央配送節點。它呈現出當代物流和標準化令人目眩的奇景,其設計是為了加速包裹遞送。入口通道有幾十個打卡機標誌,每隔固定距離就會出現。每一秒的工作都被監控和記錄。工人——稱為「夥伴」(associate)——一進到倉庫就要掃描自己。日光燈照亮的茶水間裡沒什麼人,但也設有打卡機——更多標誌凸顯出進出各個空間的所有掃描都是被追蹤的。正如倉庫裡的包裹會經過掃描,工人也受到監控,以求盡可能提高效率:每次輪班只能休息十五分鐘,另有三十分鐘無薪的用餐休息時間。每次輪班長達十小時。
這是較新的履行中心之一,特點在於有機器人來移動托盤上裝滿產品的沉重擱架單元。這些亮橘色的機器人叫「奇娃」(Kiva),會在混凝土地板上平穩滑行,宛如活生生的水蟲,依循程式設定好的邏輯懶洋洋旋轉,然後鎖定一條路線,到下一個等待托盤的工人那裡。接著,機器人往前移動,背著堆積如塔、重達一千三百六十公斤的購買物品。這支貼地機器人大軍移來移去,展現出一種毫不費力的高效率:它們搬運、旋轉、前進、重複。它們發出低沉的呼呼嗡嗡聲,但幾乎完全被作為工廠動脈、快速移動的傳送帶震耳欲聾的聲音淹沒。在這個空間裡,約二十三公里長的輸送帶運轉不歇。這讓轟鳴時時存在。
當機器人在無遮蔽的菱形格網後方表演著動作協調的運算芭蕾,工廠裡的工人可沒那麼心平氣和。要達到「揀貨速率」所造成的焦慮,也就是工人必須在分配的時間內選擇和包裝的物品數量,顯然帶來不良影響。我造訪時遇到的許多工人都戴著某種支撐繃帶,有護膝、肘部繃帶、護腕。我觀察到許多人似乎有傷,而帶我穿行過工廠的亞馬遜員工指著每隔固定距離設置的自動販賣機,裡頭「備有非處方止痛藥,供任何需要的人使用」。
機器人技術已成為亞馬遜物流寶庫的關鍵部分,雖然機器似乎保養得很好,相對應的人體卻好像成了次要考量。他們來到那裡完成機器人無法做到的特定、高精度的任務:在最短的時間內揀起並目視確認人們想送到家中的所有物件,那些東西奇形怪狀,從手機殼到洗碗精都有。人類是不可或缺的結締組織,把訂購的物品裝入貨櫃和卡車,送到消費者手上。然而,他們並不是亞馬遜機器中最有價值或最受信賴的組成部分。一天結束時,所有夥伴都必須通過一排金屬探測器才能離開。他們告訴我,這是有效的防盜措施。
在網際網路的各個層次裡,最常見的衡量單位之一是網路封包——從一個目的地發送並傳送到另一個目的地的基本資料單位。在亞馬遜,用來衡量的基本單位是棕色紙箱,那是眾所熟悉的該公司貨物容器,上面印有一個模擬人類微笑的彎曲箭頭。每個網路封包都有一個時間戳,稱為「存活時間」(time to live),資料必須在存活時間到期之前抵達目的地。在亞馬遜,紙箱也有顧客出貨需求所驅動的「存活時間」。如果箱子遲到了,會影響亞馬遜的品牌,最後也會損及獲利。因此,機器學習演算法受到極大的關注,演算法針對瓦楞紙箱和寄件袋的最佳尺寸、重量和強度的資料進行調整。這個演算法稱為「矩陣」(matrix),顯然沒有任何諷刺意味。每當有人報告物品損壞,這份報告就會成為數據點,說明未來該使用哪種箱子。下次寄送這種產品時,矩陣會自動指派新的箱子種類,不用人工輸入。這樣可以防止破損,以節省時間,增加獲利。然而,工人被迫不斷適應,使他們更難將知識付諸行動或習慣工作。
時間控制向來是亞馬遜物流帝國一貫的主題,工人的身體依照運算邏輯的節奏來行動。亞馬遜是美國第二大民營雇主,許多公司奮力效尤。很多大企業砸下重金投資自動化系統,想從人數更少的員工身上榨取更多勞力。效率、監控和自動化的邏輯,當今都一致轉向以運算的方法來管理勞工。亞馬遜倉庫混合著人機配送,是了解致力於自動化效能所做出的權衡取捨的重要地點。我們可以從這個地方開始思考勞工、資本和時間如何在人工智慧系統中交織在一起的問題。
波音七五七飛機在聖荷西上空往右傾斜,準備降落在舊金山國際機場。飛機對齊跑道時,左機翼往下,於是我能鳥瞰整個科技業最具象徵意義的地點:下方是矽谷的大帝國。Apple總部是巨大的黑色圓圈,像個未加蓋的相機鏡頭在陽光下閃耀發光。然後是Google總部,緊鄰著美國航太總署(NASA)莫菲特聯邦機場(Moffett Federal Airfield)。這裡曾是美國海軍在二戰和韓戰期間的重要基地,後來Google租用六十年,高階主管將私人飛機停在這裡。排列在Google附近的是洛克希德・馬丁(Lockheed Martin)的大型生產棚,這家航太暨軍火製造公司在那裡建造了數...
目錄
【序言】
世界上最聰明的馬
什麼是人工智慧?既非人工的,也不是智慧的
把人工智慧視為一部地圖集
運算地形學
採掘、權力與政治
【第一章 地球】
為人工智慧採礦
運算的地景
礦物層次
黑色湖泊與白色乳膠
潔淨科技的迷思
物流層次
人工智慧即巨機器
【第二章 勞工】
人工智慧出現之前的工作場所
波坦金人工智慧與「土耳其機器人」
肢解線與工作場所自動化的願景:巴貝奇、福特和泰勒
肉品市場
管理時間,私有化時間
私有時間
設定速度
【第三章 資料】
訓練機器觀看
資料需求簡史
擷取臉部
從Internet到ImageNet
不必再取得同意
資料的迷思與隱喻
與倫理保持距離
擷取共有財
【第四章 分類】
循環邏輯系統
去偏誤系統的侷限
關於偏誤的多種定義
訓練集作為分類引擎:以ImageNet為例
對「人」下定義的權力
建構種族和性別
測量的侷限性
【第五章 情感】
情緒先知:當感覺化為利益
「世界上最著名的臉部解讀者」
情感:從面相學到攝影
捕捉感覺:表現情緒的詭計
關於艾克曼理論的多項批評
臉部的政治
【第六章 國家】
進行第三次抵銷
行家計畫的實行
委外的國家
從恐怖分子信用評分到社會信用評分
纏結的乾草堆
【結語 權力】
沒有邊界的遊戲
人工智慧的管線
地圖不是領土
邁向正義的連結運動
【尾聲 太空】
致謝
參考書目
【序言】
世界上最聰明的馬
什麼是人工智慧?既非人工的,也不是智慧的
把人工智慧視為一部地圖集
運算地形學
採掘、權力與政治
【第一章 地球】
為人工智慧採礦
運算的地景
礦物層次
黑色湖泊與白色乳膠
潔淨科技的迷思
物流層次
人工智慧即巨機器
【第二章 勞工】
人工智慧出現之前的工作場所
波坦金人工智慧與「土耳其機器人」
肢解線與工作場所自動化的願景:巴貝奇、福特和泰勒
肉品市場
管理時間,私有化時間
私有時間
設定速度
【第三章 資料】
訓練機器觀看
資料需求簡史
擷取臉部
從Inter...