被科技綁架的世界：無人駕駛、人工智慧、穿...

名人推薦：陳良基｜臺大學術副校長
詹宏志｜PChome網路家庭董事長
葛如鈞｜奇點大學臺灣第一人
克雷．薛基 Clay Shirky｜暢銷書《下班時間扭轉未來》作者
唐納．諾曼 Don Norman｜暢銷書《設計的心理學》作者
——導航推薦

第三章 自動駕駛讓飛行員變笨了
第三節 新型墜機事故

一九二三年，斯佩里在飛躍英吉利海峽時墜機身亡。
一九三五年，波斯特隨飛機一同墜毀在阿拉斯加。
一九四四年，聖修伯里駕駛著飛機在地中海上空消失。

在飛行史早期，早逝是一種常見的職業風險。浪漫和冒險要付出高昂的代價。乘客的死亡率也高得驚人。二十世紀二○年代，航空業初具規模，一家美國航空雜誌的出版商要求政府提高飛行安全率，指出「每天都有飛行員因缺乏經驗造成致命的飛行事故，給乘客的生命安全帶來威脅」。

很幸運，那些致命的飛行旅途已經一去不返了，現在，乘坐飛機很安全。在航空業內，幾乎所有人都認為自動化技術的發展是飛行安全問題得以解決的原因之一。正是得益於機械化和電腦化的發展，以及飛機設計、航空公司安全程式、飛行員訓練以及空管的進步，在過去幾十年間，飛行事故發生率和傷亡數量大幅下降。在美國和其他西方國家，機毀人亡的情況已經很少見了。二○○二年到二○一一年，乘坐美國商用航班的乘客超過七十億人次，其中只有一百五十三人因墜機事故喪生，也就是說每一百萬名乘客有○點○二人死於空難。一九六二年至一九七一年這十年間，有十三億人乘坐飛機，卻有一千六百九十六人喪生，也就是說每一百萬名乘客中就有一百三十三人死於空難。這個充滿光明的故事背後也有一些灰暗的資料。喬治．梅森大學（George Mason University）心理學教授、全球自動化專家拉嘉．帕拉休拉曼（Raja Parasuraman）表示，墜機事故總次數的下降掩蓋了最近出現的「嚴重的新型事故」。

當機載電腦系統出現一些預期內的故障，或是飛行中出現其他意料之外的問題，飛行員就必須採用手動飛行。突然擔當一個陌生角色，飛行員通常會犯錯誤，這些錯誤可能造成災難性的後果，正如大陸連線和法航的事故一樣。在過去的三十年間，許多心理學家、工程師及人體工程學家（或「人因工程」專家）展開調查，研究飛行員和軟體共同執行飛行任務所帶來的得與失。他們發現「高度依賴電腦自動化技術會造成飛行員專業技能的退化」，飛行員變得遲鈍，注意力下降，正如英國布里斯托大學（University of Bristol）人因工程專家簡．諾伊斯（Jan Noyes）所說的：「飛行員喪失了飛行技能。」

人們對飛行自動化負面影響的關注並不是最近才有，早在玻璃座艙和電傳操縱系統發展之初就已經存在。一九八九年，NASA阿姆斯研究中心的一份報告顯示，在未來十年，隨著飛機上的電腦設備越來越多，航空業人士及政府研究者「感到越來越不安，駕駛艙會變得過於自動化，設備替代人類操作的平穩過渡可能禍福參半」。雖然大部分人對電腦化的飛行充滿熱情，但許多航空業人士卻頗感擔憂：「飛行員過於依賴自動化技術，他們手動飛行的能力會退化，態勢感知能力也會下降。」隨後的研究發現，許多意外事故或潛在事故都與「自動系統的故障」有關，或者和「自動化所導致的飛行員的失誤」有關。

二○一○年，FAA公佈，在過去十年間，該局曾對航空公司的航班進行過專業調查，調查顯示，有三分之二的墜機事故與飛行員的失誤有關。美國聯邦航空總署的科學家凱西．阿博特（Kathy Abbott）表示，這項調查進一步表明，自動化提高了飛行員出現失誤的可能性。阿博特認為，操作機載電腦會分散飛行員的注意力，飛行員也會「將過多的任務分配給自動化系統」。二○一三年，專家小組根據一組FAA提供的資料撰寫了一份報告，報告指出，在最近發生的事故中，有一半以上都同自動化有關，自動化帶來了一些問題，例如態勢意識退化和手動飛行技能退化等。英國頂尖的工程學院—克蘭菲爾德大學的人因研究員馬修．艾柏森（Matthew Ebbatson）進行了一項縝密的研究，其研究結果為從事故報告和調查中搜集到的實例證據提供了實證支援。「在自動化程度較高的航空公司，飛行員會喪失手動飛行技能」這一論斷缺乏確實的、客觀的資料，艾柏森為此感到失望，但他想要填補這片空白。他從英國航空公司招募了六十六名經驗豐富的飛行員，讓他們進入飛行模擬器，進行高難度的操作—駕駛爆缸的波音737客機，在惡劣的天氣條件下完成降落。模擬器內沒有自動駕駛系統，這迫使駕駛員必須採用手動飛行。艾柏森在報告中指出，一些飛行員在測試中的表現出乎意料地好，但是許多人表現很差，勉強達到「可接受的程度」。艾柏森將每名飛行員在模擬器中的操作—施加在操縱桿上的力量、空速穩定度、航線變化程度，與他們的歷史飛行記錄進行比較。他發現，飛行員的控制能力與手動飛行時間，特別是試驗前兩個月裡的手動飛行時間，存在著直接的相關性。分析表明「如果沒有相對頻繁的訓練，飛行員的手動飛行技能很快會退化到只剩『還過得去』的邊緣」。艾柏森表示，飛行員控制空速的能力特別「容易退化」，而這項技能是識別、避免和應對失速或其他危險情況的關鍵。

自動化造成飛行員技能退步的原因並不難解釋。和許多挑戰性較高的工作一樣，飛機駕駛融合了心理運動技能和認知技能，這表示需要飛行員在行動前進行仔細且積極的思考。飛行員需要準確操縱工具和設備，同時在腦中快速準確地做出計算、預測和評估。在經歷複雜的思維過程並進行手動操作時，飛行員需要保持警惕，留意周邊發生的事情，並能夠分辨重要信號和非重要信號。他要時刻集中注意力，保證視野開闊。要掌握這些技能，只能通過嚴格的訓練來達成。初級飛行員在控制上表現得較為笨拙，會出現推拉操縱桿力量過大的情況。他們必須停下來去思考下一步該幹什麼，一步一步地回想之前的操作。初級飛行員很難做到手動操作和思維的無縫轉換。當情況危急時，他很可能就會不知所措或者無法集中注意力，最終忽視環境的重大變化。最終，通過充分訓練，初級飛行員會樹立起自信，工作的時候不再猶豫，動作也更加精准，但這種訓練可能有點浪費。隨著飛行員經驗的積累，大腦會形成所謂的心智模式，這是一種有專門用途的神經元集合。在心智模式下，飛行員能夠識別周圍的圖像，能夠理解並靠直覺對刺激做出反應，而不必受困於認知分析。最終，思維和行為實現無縫連接，飛行成為第二本能。在研究人員開始對飛行員的大腦進行研究之前，威利．波斯特就曾用簡潔而準確的語言描述過他的專業飛行經歷。在一九三五年，波斯特表示，他駕駛飛機時「沒有思考，完全是通過下意識來控制自己的行為」。這種能力並不是與生俱來的，而是波斯特辛苦訓練的結果。

當電腦進入航空業，飛行員工作的本質、艱苦程度和學習內容都發生了變化。正如我們看到的，軟體程式接管了飛行過程中的所有控制，飛行員擺脫了手動操作。這種任務的重新分配帶來了巨大的好處，它減少了飛行員的工作量，使他們能夠更加關注飛行過程中思維認知層面的問題。但是，這需要付出代價。飛行員的心理認知能力會退化，當需要飛行員手動操作時，他們會對某些關鍵場景感到陌生而無法正確操作。更多的證據表明，近來自動化的不斷發展，也會威脅飛行員的認知能力。越來越多先進的電腦取代了人類，開始參與計畫和分析工作，例如設計和調整飛行計畫。不只是在手動操作方面，在心理認知上，飛行員的參與度也在下降。圖像識別的準確性和速度需要規律的訓練。面對快速變化的情況，飛行員的理解能力和反應速度變慢了。在思維和手動技能方面，飛行員都出現了艾柏森說的技能退化。

飛行員並不是沒有意識到自動化帶來的負面影響。他們對讓渡責任給機器一直抱持謹慎態度。一戰期間，飛行員對自己在空戰中操縱飛機的能力頗為自豪，對斯佩里花巧俏的自動駕駛技術絲毫沒有興趣。一九五九年，最初的水星太空人對NASA將手動控制器從太空飛船上移除的計畫表示抗議。但是現在，飛行員的關注更加急切。雖然他們對飛行技術的巨大成果表示讚賞，也承認自動飛行技術在安全和效率上具有優勢，但他們擔心自己的能力會被削弱。作為研究的一部分，艾柏森對客機飛行員進行了調查，詢問他們是否「感覺他們的飛行能力因飛機高度自動化而受到了影響」。超過四分之三的受訪者表示「他們的技能已經退化了」；只有少數幾個人覺得他們的技能得到了提升。二○一二年，歐洲航空安全局對飛行員進行了一次調查，發現確實有許多飛行員存在類似的擔憂，百分之九十五的飛行員表示自動化會影響「基本的手動飛行能力和認知技能」。聯合航空公司的資深機長羅里．凱（Rory Kay），最近才卸任飛行員協會首席安全官一職，他對航空業正在經歷「自動化依賴症」表示擔憂。在二○一一年接受美聯社採訪時，他直言不諱：「我們忘記了如何飛行。」

第三章 自動駕駛讓飛行員變笨了
第三節 新型墜機事故

一九二三年，斯佩里在飛躍英吉利海峽時墜機身亡。
一九三五年，波斯特隨飛機一同墜毀在阿拉斯加。
一九四四年，聖修伯里駕駛著飛機在地中海上空消失。

在飛行史早期，早逝是一種常見的職業風險。浪漫和冒險要付出高昂的代價。乘客的死亡率也高得驚人。二十世紀二○年代，航空業初具規模，一家美國航空雜誌的出版商要求政府提高飛行安全率，指出「每天都有飛行員因缺乏經驗造成致命的飛行事故，給乘客的生命安全帶來威脅」。

很幸運，那些致命的飛行旅途已...

【前言】致駕駛員的警告
二○一三年一月四日，新年的第一個星期五，新聞界風平浪靜的一天。當天，美國聯邦航空總署（Federal Aviation Administration, FAA）發佈了一則僅有一頁紙的通告。該通告沒有標題，只是被歸在「致駕駛員的安全警告」（Safety Alterts for Operators, SAFO）中，發佈在美國聯邦航空總署網站上，並被發送給美國所有航空公司。通告簡明扼要但隱意深遠，指出「此安全警告鼓勵駕駛員在適當的時候多採用手控飛行操作」。美國聯邦航空總署從失事飛機事故調查、意外事故報告及駕駛艙研究中搜集了一些證據，表明駕駛員過度依賴自動駕駛系統以及其他電腦系統。美國聯邦航空總署警告：過度使用自動駕駛會「削弱飛行員快速處理飛機不良飛行狀態的能力」。簡言之，過度依賴自動駕駛會將飛機及機上乘客置於危險之中。最後，這份安全警告建議航空公司制定操作政策，要求飛行員減少自動駕駛的時間，更多地採用手控飛行。
本書是一本關於「自動化」的書，所謂自動化即「人類借助電腦和軟體，完成過去需要人工手動完成的事情」。我們不探討自動化的技術問題或經濟問題，也不討論機器人、半機械人和機械控制項（widget）的未來，雖然書中對這些都有提及。本書講述的是「自動化給人類帶來的影響」。在自動化正逐漸吞沒我們的浪潮中，飛行員身先士卒。我們希望無論是在工作中還是在生活中，電腦都能替我們分擔更多的事務，指引我們度過每一天。現在，我們若要完成某件事情，多半是坐在電腦螢幕前，或打開筆記型電腦，或拿出智慧型手機，或在前額或手腕戴上智慧型穿戴設備。我們點開APP，向螢幕索取答案，通過Siri獲取建議，聽從演算法的智慧。
電腦自動化讓生活更便捷，讓我們少了些瑣事的困擾。自此我們經常事半功倍，或是能做些以前做不到的事。但除此之外，自動化還給我們帶來了許多更深層次、更隱秘的影響。正如自動駕駛所給我們的啟示，並不是所有的自動化都是有益的。自動化能分擔我們的工作，也能弱化我們的才能，偷走我們的生活。它會限制我們的視野，縮小我們的選擇範圍，將我們暴露於監控之下，操控我們。當電腦成為我們的日常伴侶，成為我們熟悉的、盡責的幫手時，我們還要留心它們到底是如何改變我們的行為和身份。

【前言】致駕駛員的警告
二○一三年一月四日，新年的第一個星期五，新聞界風平浪靜的一天。當天，美國聯邦航空總署（Federal Aviation Administration, FAA）發佈了一則僅有一頁紙的通告。該通告沒有標題，只是被歸在「致駕駛員的安全警告」（Safety Alterts for Operators, SAFO）中，發佈在美國聯邦航空總署網站上，並被發送給美國所有航空公司。通告簡明扼要但隱意深遠，指出「此安全警告鼓勵駕駛員在適當的時候多採用手控飛行操作」。美國聯邦航空總署從失事飛機事故調查、意外事故報告及駕駛艙研究中搜集了一些證據，表明駕...

前言 致駕駛員的警告

第一章 誰來開車？令人懷念的手排車時代
無人駕駛汽車問世
自動化全面入侵的未來
人類為什麼需要工作？
被高估了的自動化

第二章 沒有工作？擋不住的自動化浪潮
無法阻止的機械化大潮
技術烏托邦的支持與反抗
機器人取代了你，你被開除了！
只要一顆按鈕
大舉入侵的機器人

第三章 自動駕駛讓飛行員變笨了
會自己飛的飛機
當專業飛行員不再專業
新型墜機事故
被趕出飛機駕駛艙的人們

第四章 當我們開始迎合機器
過度依賴的後果
當我們停止思考
在行動中思考
耶基斯—多德森的倒U曲線

第五章 白領階級的電腦革命
電子化病歷的副作用
慣性：Control C + Control V
技術與工人
會思考的機器，不會思考的人類
資料和演算法不是萬能

第六章 當世界只剩下螢幕
衛星導航的雙面刃
迷失方向
越來越聰明的電腦
憂心忡忡的設計師
行動即是思考，思考即是行動

第七章 自動化，一直都是為了人類
是否需要考慮人類因素
給人類空間
以技術為中心？還是以人為中心？
小心！如果以技術為中心
盜墓者的啟示

第八章 當無人駕駛車碰上衝出馬路的狗
殺戮機器人的挑戰
生活程式化的未來
當Google眼鏡進入生活
被隱藏的創造者意圖
程式背後的商業動機

第九章 事實是，勞動讓我們有存在感
使用工具的樂趣
誰是主人？誰是奴隸？
一則寓言故事
打破牢籠

致謝
參考書目

前言 致駕駛員的警告

第一章 誰來開車？令人懷念的手排車時代
無人駕駛汽車問世
自動化全面入侵的未來
人類為什麼需要工作？
被高估了的自動化

第二章 沒有工作？擋不住的自動化浪潮
無法阻止的機械化大潮
技術烏托邦的支持與反抗
機器人取代了你，你被開除了！
只要一顆按鈕
大舉入侵的機器人

第三章 自動駕駛讓飛行員變笨了
會自己飛的飛機
當專業飛行員不再專業
新型墜機事故
被趕出飛機駕駛艙的人們

第四章 當我們開始迎合機器
過度依賴的後果
當我們停止思考
在行動中思考
耶基斯—多德森的倒U曲線

...