AI為何會對人類生存造成威脅？

許多專家警告，AI正對人類生存造成威脅。但也有其他專家認為，這種警告是杞人憂天。

如果今天講的是核武，大家都很清楚危險所在；但講到AI，就很難看懂這究竟是危險在哪？

從工業革命的歷史，就能幫助我們瞭解這場新的「AI革命」與生俱來的危險。



許多專家警告，AI崛起可能使人類文明崩潰，甚至是人類物種滅絕。一項2023年的研究調查了2,778名AI研究者，結果也顯示有超過三分之一認為，先進的AI有至少10%的機率會造成等同於人類滅絕一樣可怕的結果。2023年，包括中國、美國與英國在內，有將近三十個國家政府簽署了關於AI的《布萊切利宣言》，其中就承認：「從這些AI模型最重要的功能，可能有意或無意地造成嚴重、甚至災難性的傷害。」

對某些人來說，可能覺得這些警告就是杞人憂天。每當出現強大的新科技，都有人焦慮世界末日就要來臨。舉例來說，當初隨著工業革命進展，許多人都擔心蒸汽機和電報會摧毀人類社會、毀滅人類的幸福。但到頭來，這些機器生產出了史上最富足的社會。時至今日，大多數人的生活狀況都比十八世紀的祖先好多了。像是安德森（Marc Andreessen）、庫茲威爾（Ray Kurzweil）這些熱情擁抱AI的人都保證，各種智能機器絕對會比過去的所有機器帶來更大的好處。他們說，有了AI，人類就能享有更好的健康照護、教育與其他服務，甚至還能協助拯救生態系統免於崩潰。

遺憾的是，只要看歷史看得仔細一點，就會發現人類確實有充分的理由，該對強大的新科技抱持幾分畏懼。就算這些科技到了最後的最後是利大於弊，但在那個快樂結局之前，往往得先經歷百般磨難與考驗。新科技之所以常常帶來歷史上的災難，並不是科技本身有什麼問題，而是人類得花點時間，才能學會善用科技。

工業革命就是個很好的例子。工業技術在十九世紀開始傳向全球，顛覆傳統的經濟、社會與政治結構，彷彿打開一條道路，讓人類有機會創造出更富裕平和的全新社會。然而，要學習建立一個良性的工業社會，絕沒有那麼簡單，得經過許多昂貴的實驗，還得產生數以億計的受害者。

其中一項昂貴的實驗，就是現代帝國主義。工業革命從十八世紀晚期英國開始，到了十九世紀，從比利時到俄羅斯等其他歐洲國家，再加上美日兩國，也紛紛採用了各種工業技術與生產方法。這些工業重地的帝國主義思想家、政治家與政黨得出的結論認為，唯有帝國形式能夠撐得起工業社會。他們認為，不同於傳統的農業社會，新興的工業社會十分依賴外國的市場與原物料，而唯有帝國能夠保證滿足這樣的需求。帝國主義者擔心，如果國家走向工業化，但沒征服任何殖民地，一旦碰上更無情的競爭對手，就無法取得重要的原物料與市場。有些帝國主義者也說，取得殖民地不僅是殖民母國的生存所必需，甚至對當地人民也有好處。他們聲稱，唯有靠著帝國體制，才能把新科技的好處帶到所謂的未開發世界。

於是，英國、俄國這種已經屬於帝國體制的工業國家開始大幅擴張，至於美國、日本、義大利、比利時這些國家也顯得興致勃勃。工業軍隊配備了量產的步槍與火砲，以蒸汽動力來運送、以電報技術來指揮，從紐西蘭到朝鮮，從索馬利亞到土庫曼，橫掃全球。數百萬計的原住民就這樣看著自己的傳統生活被工業軍隊的巨輪輾過。要等到經過一個多世紀的苦難之後，才讓大多數人意識到工業帝國這個主意有多糟糕，也發現其實有更好的方法能建立工業社會、確保取得必要的市場與原物料。

關於如何建立工業社會，史達林主義與納粹主義也是兩場無比昂貴的實驗。史達林與希特勒這樣的領導者認為，唯有極權政體能夠充分駕馭工業革命釋放的巨大力量。在他們看來，想在工業世界生存，就必須用極權體制來控制一切的政治、社會與經濟層面，而第一次世界大戰這場史上首見的「總體戰」就是明證。但就好的一面來看，他們也認為工業革命像是一個熔爐，熔去了所有先前社會結構的人類缺陷與弱點，有機會創造出完美的新社會，成員都是純淨完美的超人類。

為了創造這個完美的工業社會，史達林主義者與納粹份子學會了怎樣以工業化的方式來殘殺數百萬人。火車、鐵絲網與電報命令配合無間，創造出前所未有的殺人機器。如今回顧過去，大多數人會覺得史達林主義者與納粹份子的作為讓人驚駭莫名；但在當時，卻有幾百萬人是覺得他們眼界高遠，令人著迷。在1940年，很容易會覺得史達林與希特勒是成功駕馭工業技術的典範，至於那些猶豫不決的自由民主國家，只能等著被丟進歷史的垃圾桶。

正因為各方對於「如何建立工業社會」的看法不一，就造成了代價高昂的衝突。兩次世界大戰與冷戰就像是一連串關於誰是誰非的辯論，各方都能互相學習，嘗試用新的工業方法來發動戰爭。但在辯論的過程中，就造成數千萬人死亡，人類差點自我毀滅。

除了以上這些災難，工業革命也破壞了全球生態平衡，導致一波物種滅絕。在二十一世紀初，據信每年有高達58,000種物種滅絕；從1970年至2014年，脊椎動物族群總數減少了60%。人類文明的生存也受到威脅。直到現在，我們似乎還是沒能建立起一個生態永續的工業社會，我們這個世代得意洋洋的繁榮景象，背後恐怖的代價都得留給眾生與人類的子子孫孫來承擔。或許人類總有一天會找到辦法（也許正是透過AI的協助），打造出能夠生態永續的工業社會，但在那之前，工業革命的成敗仍難有定論。

如果暫時無視生態系統受到的持續破壞，或許人類還是可以先安慰自己，想著人類畢竟總是學會了如何建立一個比較慈悲良善的工業社會。過去的帝國征服、世界大戰、種族滅絕與極權政體，都是一些可悲的嘗試，已經讓人類瞭解實在不該有這些作為。等到二十世紀末，有些人或許覺得，人類至少大致上還走在對的方向。

即便如此，這給二十一世紀傳達的訊息依然並不樂觀。要是人類得經過這麼多可怕的教訓，才學會如何管理蒸汽動力與電報技術，現在還得再付出多少代價，才能再學會管理AI？比起蒸汽機、電報和所有過去的科技，AI不但可能遠遠更為強大，也遠遠更加難以管理，因為AI正是史上第一個能夠自行做決策、創造新想法的科技。AI不是個工具，而是能夠做出決定的行為者。在過去，機槍、火槍、原子彈雖然能夠取代人類的肌肉來殺人，卻無法取代人類的大腦來決定要殺誰。被投在廣島的原子彈「小男孩」，爆炸威力相當於12,500噸的TNT，但腦力卻完全是零，什麼事都無法決定。

AI就不一樣了。就智能而言，AI不但遠遠超越了原子彈，更超越了像是泥板、印刷機、收音機這些所有過去的資訊技術。泥板能夠儲存關於稅務的資訊，但無法自行決定要收多少稅，也無法發明某種全新的稅目。印刷機能夠複製《聖經》這樣的資訊，但無法決定《聖經》要收錄哪些文本，也無法對這本宗教經典加上新的註釋。收音機能夠傳播政治演講與交響樂等資訊，但無法決定要播放哪些演講或交響樂，也無法創作演講或交響樂。AI則是能夠做到這所有一切，甚至是創造出新的大規模毀滅性武器──從威力無窮的核彈，到無比要命的傳染疾病。過去的印刷機或收音機只是人類手中的被動工具，但AI正在成為一種主動的行為者，可能得以擺脫人類的掌握與理解，主動形塑社會、歷史與文化。

或許人類總有一天能夠找到辦法，讓AI不至於失控，真正為人類帶來福利。然而，人類在這之前，是不是又得再次經歷全球帝國、極權政體與世界大戰的循環，才能搞清楚如何善用AI？而且，比起二十世紀的科技，這些二十一世紀的科技更具威力，我們能犯錯的空間也更受限制。在二十世紀，人類在「工業技術運用」這門課上，可以說只拿了個60分，勉強低空飛過。但在二十一世紀，過關的門檻高得多，這次可得表現得更好才行。

AI為何會對人類生存造成威脅？

許多專家警告，AI正對人類生存造成威脅。但也有其他專家認為，這種警告是杞人憂天。

如果今天講的是核武，大家都很清楚危險所在；但講到AI，就很難看懂這究竟是危險在哪？

從工業革命的歷史，就能幫助我們瞭解這場新的「AI革命」與生俱來的危險。



許多專家警告，AI崛起可能使人類文明崩潰，甚至是人類物種滅絕。一項2023年的研究調查了2,778名AI研究者，結果也顯示有超過三分之一認為，先進的AI有至少10%的機率會造成等同於人類滅絕一樣可怕的結果。2023年，包括中國、美國與英國在內，有將近三十個國...

開場白 前方的路滿布荊棘

第一部 人類形成的網路
第1章 資訊是什麼？
第2章 故事——無限的連結
第3章 文件——紙老虎也會咬人
第4章 錯誤——絕對正確是一種幻想
第5章 決擇——民主與極權制度簡史

第二部 非生物的網路
第6章 新成員——電腦與印刷機不同之處
第7章 不停歇——網路監控無所不在
第8章 易出錯——存在於電腦間的現實

第三部 電腦政治學
第9章 民主制度——我們還能對話嗎？
第10章 極權主義——權力歸於演算法？
第11章 矽幕——全球帝國、或是全球分裂？

結語 打造自我修正機制

誌謝

延伸閱讀

開場白 前方的路滿布荊棘

第一部 人類形成的網路
第1章 資訊是什麼？
第2章 故事——無限的連結
第3章 文件——紙老虎也會咬人
第4章 錯誤——絕對正確是一種幻想
第5章 決擇——民主與極權制度簡史

第二部 非生物的網路
第6章 新成員——電腦與印刷機不同之處
第7章 不停歇——網路監控無所不在
第8章 易出錯——存在於電腦間的現實

第三部 電腦政治學
第9章 民主制度——我們還能對話嗎？
第10章 極權主義——權力歸於演算法？
第11章 矽幕——全球帝國、或是全球分裂？

結語 打造自...