名人推薦：好評推薦

劉必榮｜東吳大學政治系教授

陳鳳馨｜資深媒體人、News98《財經起床號》主持人

雷浩斯｜價值投資者／財經作家

——聯袂推薦

AI 橫空出世，帶來新的速度、新的互動模式，也帶來新的焦慮。AI 會如何顛覆現有秩序？有可能取代人類嗎?？對AI 的了解，哪些是事實，哪些又是想像？這本書可以激發我們對AI更多面向的思考，以及對AI時代價值觀變化的更深刻反思。——劉必榮｜東吳大學政治系教授

一本充滿震撼力的警世之作……讓我們祈禱，未來三十年不會如瑞卡茲所預期的那般黯淡。——《金融時報》

這是我今年讀過最...

▎明日會如何？

AI已然成形並進步飛快，屬於AI分支的GPT才剛問世但能力強大，而且對於背後科學原理知之甚少的人們也能輕鬆上手。諸如Siri、Alexa以及你汽車上的導航系統都屬於AI機器人，都配備了語音辨識軟體，也能與你對話，已經如同你的朋友一般。Meta看來笨重的擴增實境及虛擬實境的頭戴式裝置越來越受歡迎，現在也能買到從鏡片內將Facebook內容直接串流到視網膜上的眼鏡。你的烤箱、洗碗機和冰箱內部都有AI讓你知道它們的感受。GPT則與眾不同，因為GPT不只能夠幫你設定溫度和YouTube串流，還可以寫出符合文法的長篇文章，也已經使用在新聞稿與新聞播報文稿上。

這本書要探討AI∕GPT面臨的挑戰，並思考AI∕GPT如何影響對美國大眾至關重要的兩大領域：金融與國家安全。當然，有無數種方式可以將AI∕GPT應用在資本市場與銀行業上，能夠增進效率、改善客戶服務，同時降低金融中介的成本，如今便有發行運用GPT來選擇股票、預測匯率的避險基金。我們在第一章中討論這點，同時檢視在機器人對上機器人的情況中發展出遞迴交易的風險，會以參與者本身不理解的方式讓市場崩盤。我們在1987年10月19日就看過這樣的預示，當時道瓊工業平均指數在一天內下跌超過20％，以今天的指數水準來看相當於一天跌了8千點，這是因為投資組合保險需要保險公司買進賣權，以防範一開始的下跌，接著選擇權的賣家做空股票以對沖頭寸，結果讓下跌更嚴重，又造成買進更多賣權，如此反覆進行，最後將市場拖進死亡漩渦。那次崩盤的自動化痕跡不會像今日的發展那樣明顯，畢竟這是在套用AI以前，但是賣出導致更多賣出的動力仍然存在，而AI∕GPT系統只會放大效應，交易熔斷機制可以暫時停止，但僅此而已。機器人不像人類那般容易馴服。

第二、三章則將眼光看向資本市場（股票、債券、商品、外匯）之外，檢視銀行業（貸款、存款、歐洲美元，以及衍生性金融商品）。兩者都很容易恐慌，但表現出來的動力不同，資本市場的恐慌會突然出現且非常明顯，而銀行業的恐慌則是緩緩升起，對於存款人及監管者來說大多是看不見的，最後才發現發展成熟的流動性危機已然浮出檯面。有時這兩種恐慌會匯聚，例如銀行倒閉導致股市出現拋售潮，或者相反過來。我們會解釋其中的差異，並指出AI∕GPT系統或許會如何撼動本就不甚穩定的結構。

▎當機器人對上機器人……

AI的危險並不僅限於意料之外的結果。金融市場會吸引罪犯及惡意行為者出現，他們透過餵養文字給社群媒體、公關新聞稿以及主流管道，再從自己造成的恐慌中獲利。GPT會如所受到的訓練一般吞食這些文字，參數化之後的結果就是偏重最近期或者文字最有影響力的內容，機器人會根據假新聞提供建議，以及可預測的市場結果。惡意行為者早已占好位置，要從立即的市場反應中獲利，不過情況不會就此停歇，在機器人對上機器人的世界裡，沒有人擁有足夠的資訊或運算能力可以預測接下來會發生什麼。

資本市場及銀行金融中未預期到以及意圖造成的混亂，很有可能影響到國家安全的領域，此處的風險更高，不論是國家還是非國家勢力，他們掌握的資源往往比操縱市場的人更多。而與國家為敵的勢力通常都有明確的敵意，這一點也不令人意外；但以非國家主體為攻擊對象的勢力，就更難以預測，可能是為了金錢，也可能是出於意識形態，甚至只是出自一種虛無的破壞衝動。更複雜的是，有些看似獨立的非國家行動者，其實是偽裝過的國家代理人。整個局勢本就難以看清，而情報專家所說的「鏡子構成的荒野」，用以比喻充滿偽裝、誤導與假象的世界。如果再加上一層來自智慧科技的濾鏡，結果往往會更讓人迷失方向。

▎AI／GPT 加入戰局的三個關鍵面向

戰爭的主戰場早就開始變化，從動能武器進展到金融制裁手段，在前線或許還會使用飛彈、地雷和迫擊砲，但是禁止出口、扣押資產以及間接抵制已經是一塊關鍵戰場。如果可以不費一顆子彈就摧毀敵人的經濟，政策制定者會更願意採取這種途徑。即使已經全面部署好武器，長遠來說，在背後支持彈藥庫的工業及金融能力仍至關重要。一邊是金融，另一邊則是國家安全，兩者之間的連結既綿密也可能決定結果。

AI∕GPT透過三種不同面向進入戰局。第一是將智慧系統應用在前線戰局中，包括情報、監視、鎖定目標、電信、干擾訊息、物流、武器設計和其他傳統任務。第二則是運用AI∕GPT讓金融制裁發揮最大效用，考慮用來削弱或摧毀敵方經濟能力的各種工具會帶來的二次及三次效應，包括石油禁運、禁止半導體出口、凍結準備資產、沒收、禁止保險及其他工具。最後，AI∕GPT也可以用來攻擊，不只要限制市場，更要殲滅殆盡，其目標不會是透過制裁讓對方付出代價，而是要想辦法摧毀市場，讓人民的資產損失上兆美元，此舉的影響不僅僅是資產價值，因為人民會開始怪罪自己的政府造成金融浩劫。我們在第四章探索這個世界，尤其會特別討論AI帶來的核戰危機。

我們在第五章要討論AI∕GPT最令人擔憂的面向：審查、偏見以及虛談（為了服務使用者而生成通篇虛構的內容），這個缺陷比旁觀者所謂的「AI幻覺」影響更深，真正的幻覺既複雜又天馬行空，要解釋AI∕GPT所發生的事情，比較好的譬喻是虛談，這是一種心理疾病。虛談症的患者會編造出帶著自戀傾向、關聯性有限的故事，當說話者感到慌張、面對質疑，或者不知道該說什麼時，就可以一再套用這種心理模組（也就是可以重複）。這跟說謊不同，因為說話者在缺乏自覺下並不知道自己在說謊。

GPT在寫作報告的過程中，如果為了連續性或完整性需要填補空白也會這麼做，就像為了補上拼圖中缺失的一塊，就自己捏造出一塊來。還是一樣，這並非說謊，因為GPT不懂倫理道德，GPT是機器，無法形成說謊所需要的惡意。在生成的報告中，該領域的主題專家或許能夠發現編造的部分，但大多數使用者則無法，如果需要主題專家才能發現AI∕GPT產出結果中的瑕疵，這些系統最初的優勢還有什麼？

▎AI 將如何重塑人類的價值觀與道德？

關於價值觀和道德的題目就更加棘手了，在AI∕GPT領域中的每位科學家和開發者都提到價值觀與道德的重要性，他們堅持必須阻擋錯誤及虛假訊息，相當焦慮地感到有必要剷除新的偏見同時彌補過去的偏見。他們尋找各種方法來清理資料庫及程式演算法，好讓偏見不會感染到訓練集與GPT產出，想要透過AI∕GPT的應用與產出來提倡價值觀。

這樣故作姿態的道德感卻忽略了困難的問題：到底該提倡誰的價值觀？近期有大部分所謂的虛假訊息結果證明是正確的，而反對這些訊息的內容則在推廣錯誤的敘事。關於偏見的論戰中假設守門員沒有自己的偏見，並且忽略了偏見其實是相當寶貴的生存技巧，永遠不會消失。多元性已經成為觀點同質性的代號；如果用差別待遇來過濾掉那些野蠻和不講道理的行為，就很寶貴。諸如谷歌（Google）和Meta等AI守門員在過去十年間，其實一直在推廣關於新冠肺炎、氣候變遷和政治的錯誤敘事，同時讓說真話的人失去平台、失去收益，那麼我們為何要信任他們呢？從更大層面來看，如果訓練集已經遭到主流媒體的謬誤所汙染，GPT的產出又怎麼會不同呢？因為這些本質性的問題，我們必須面對這些挑戰，也會影響到AI科技如何應用到許多真實世界的領域中。

本書在結論中提醒讀者，AI∕GPT這樣新興科技應當能帶來許多便利，希望我們在其主導數位環境之前就認知到其中的瑕疵與危險。我們必須想清楚，讓Alexa關燈這樣的方便，是否值得我們允許主動聆聽裝置日夜隨時將私人對話傳送到集中控制的系統？生成性AI的便利是否值得我們允許透過偏差的訓練集、拙劣的偏見爬梳以及短暫爆紅的價值觀所傳播的錯誤敘事？我們有可能利用AI∕GPT的優點，同時排除掉那些宣傳鼓吹的訊息，有了人文主義觀點、社群信任及自主性的支持，就能彰顯出經過時間淬鍊的價值觀。這本書會指出一條向前的道路。

▎明日會如何？

AI已然成形並進步飛快，屬於AI分支的GPT才剛問世但能力強大，而且對於背後科學原理知之甚少的人們也能輕鬆上手。諸如Siri、Alexa以及你汽車上的導航系統都屬於AI機器人，都配備了語音辨識軟體，也能與你對話，已經如同你的朋友一般。Meta看來笨重的擴增實境及虛擬實境的頭戴式裝置越來越受歡迎，現在也能買到從鏡片內將Facebook內容直接串流到視網膜上的眼鏡。你的烤箱、洗碗機和冰箱內部都有AI讓你知道它們的感受。GPT則與眾不同，因為GPT不只能夠幫你設定溫度和YouTube串流，還可以寫出符合文法的長篇文章，也已經使用在...

作者序 它會照著你的好意，搞砸一切

當知識被轉化為資訊商品，它能以更快、更廣的方式傳播，成為強化個人乃至企業與國家生產力的核心要素。也因此，在全球競逐影響力的當下，各國爭奪的重心，逐漸從領土轉移至資訊，換言之，誰握有更多的資訊掌控權，誰就更有影響力。可以預見，未來的競爭將不再以疆界為界，而是圍繞誰能主導資訊流、誰能駕馭知識經濟……一場新型態的戰爭正在展開：一邊是產業與商業的佈局，另一邊則是政治與軍事的博弈。

——李歐塔（Jean François Lyotard），《後現代狀態》

人工智慧（Artificial Intelligence，縮寫為AI）的發展始自1950年代，不過在更早時代便有前例，而在虛構小說中也有預言，例如雪萊（Mary Shelley）的《科學怪人》（Frankenstein），但是GPT（Generative Pre-Trained Transformers，中文翻譯為生成式預訓練變換模型）卻是相當新穎的發明，在2017年至2021年間默默出現，由OpenAI公司推出了諸如GPT-2及GPT-3等版本，接著在2022年11月30日，OpenAI發表了聊天機器人形式的ChatGPT，開放給大眾使用，馬上就如同超新星般一夕爆紅，這款聊天機器人應用程式以新的GPT-4模型支援，兩個月內就累積了一億名使用者。累積到一億名使用者速度第二快的應用程式是抖音（TikTok），用了九個月才達到相同目標；Instagram的用戶採用率是第三快的，花了三十個月。GPT-4聊天機器人不只是獨特的科技，使用者的接受度更是高得驚人。

▎GPT-4帶來的重大顛覆

為GPT應用敞開大門的知識突破點是2017年由瓦斯瓦尼（Ashish Vaswani）及協作者共同發表的論文：〈你需要的就是注意力〉（Attention is all You Need），這篇論文提出了一項新的網路架構，稱為變換器模型（Transformer），它能以平行且非循序的方式，處理語言生成所需的詞彙關聯，取代過去仰賴循環神經網路，必須逐字處理的流程。簡單來說，這表示變換器模型能夠同時檢視許多字詞聯想關係，而非一次一種，論文標題中的「注意力」一詞指的是，這套模型能夠從訓練素材中學習，並且在沒有嚴格限定規則的情況下，自主產出合理的字串。在相同的處理能力下，變換器模型能在更短時間內完成更多工作。接著，變換器模型便整合進了已經存在的科技中，例如自然語言處理（natural language processing, NLP）、機器學習（machine learning）和深度學習（deep learning，也就是為更高層提供數據輸入的神經網絡層）。突然間，任何人都能生成符合文法的文字指令。

從GPT-1（2018年）到GPT-2（2019年），再到GPT-3（2020年），主要著重於增加模型能夠使用的參數這項功能，同時擴展大型語言模型（large language models, LLMs）的規模，也就是能夠用來訓練模型的文字量。GPT-1有1億1,700萬個參數，GPT-2的參數量是15億，GPT-3則有1,750億，而GPT-4估計會有1.7兆個參數，比GPT-3還要大上一千倍。隨著參數的指數性成長，訓練素材的數量也同樣大幅增長，GPT-3和GPT-4都能透過一個叫做共用爬取（Common Crawl）的資料集，存取整個網際網路的資料。舉例來說，以2019年的一個樣本來說，大約有45兆位元組。由於數據實在過於龐大，還得再削減，只取比較有用的570億位元組。這番調整參數及訓練素材的數量，伴隨而來的便是圖形處理器（graphics processing units, GPUs）的能力大躍進，例如輝達（Nvidia）的B200 Blackwell晶片，既能用在數學運算上，也能用於圖形生成。

即使以矽谷的標準來看，GPT的崛起也是超乎尋常的快速與強大，資訊處理及人機互動的世界已經在我們眼前改變了。話雖如此，我們還是應該思考一下，GPT是否能夠產出符合真實世界的內容，除了現有的AI工具之外，例如搜尋、拼字檢查以及在文字編輯中建議字詞，生成式AI是否能產出實際的價值？

▎更有效率、更省成本卻更容易被識破？

2023年《外交政策》雜誌（Foreign Policy）夏季號中發表了一篇十分有趣的測試，目的是研究GPT-4聊天機器人（即稱為ChatGPT Plus的版本）的能力，寫出一篇關於烏克蘭衝突的地緣政治論文，特別要提及俄羅斯吞併克里米亞的影響。除了ChatGPT的文章以外，另外還有一篇由研究生以相同題目撰寫的論文。為求公平，兩篇文章都先塗銷作者身分才發表。這份測試要人閱讀完兩篇文章，看看是否能夠辨識出哪一份是電腦生成的論文、哪一份是人類寫的。

我讀了第一句就認出這是GPT-4版本（論文一），甚至都不用讀人類版本（論文二）。原因是論文一使用了浮濫的華麗但空洞的辭藻，以「在地緣政治的棋局中……」開頭來說明俄羅斯的行動，這句話同時指稱俄羅斯的動作是「……權力拉扯中的關鍵變動」。這些修飾詞彙自然有用，我自己有時候也會用，但是在第一句裡就出現兩個，明顯透露出，這就是經過上百萬頁地緣政治文章訓練之後的機器人，才不得不轉進了修辭的死巷。相較之下，人類版本的文章開頭寫著：「俄羅斯吞併了先前屬於烏克蘭的克里米亞半島，這是自第二次世界大戰結束以來，最大一片遭外國勢力侵占的土地。」不是那麼吸引人，卻是平舖直述地說出事實、提供資訊。沒有多餘的修飾。

不過，機器人版論文的文筆清晰、文法正確，同時資料豐富，只是不斷出現陳腔濫調的修辭，包括「鋪好道路」、「骨牌效應」以及「權力真空」，重點是，機器人的論文符合邏輯，開頭敘明俄羅斯入侵克里米亞，接著談論國際間的反應疲軟，認為如此疲軟的反應讓俄羅斯愈發大膽，進而擴大衝突，最終導致了我們今日所見到更大範圍的戰爭，貫穿全文的主旨是，這一連串行動的每一步都「屬於更廣泛的俄羅斯入侵」。

人類版論文有類似的共通論點，只是觀點更廣、分析更細微，先是表明俄羅斯吞併克里米亞「違反了二十世紀下半各國之間普遍的共同認知：獨立國家維持其領土完整性」，建立起議題框架，接著，撰文者跟著機器人的版本說明國際間反應疲軟的效應，而這種反應鼓勵了俄羅斯進一步侵占，最後的結果就是如今正在烏克蘭發生的全面戰爭。人類展現修辭的作法是引用了「切香腸戰術」，也就是慢慢蠶食拿下頓巴斯地區（Donbas），然後才發動全面入侵。人類版論文的寫作擁有較深切的世界觀，分析能力也更強，但機器人版論文完全可以過關，若是根據早就沒人在用的評分標準來看，機器人可能會拿到丙上，而人類則能穩穩得到乙。

▎無論是人還是機器人，都犯了相同的錯

這些兩相比較的評論並不是這兩篇論文最有趣的地方，最有趣的特色是這兩篇論文都有嚴重的瑕疵，兩者都沒有提到美國前總統小布希（George W. Bush）2008年在羅馬尼亞首都布加勒斯特（Bucharest）宣布，烏克蘭和喬治亞「都將成為北約（北大西洋公約組織North Atlantic Treaty Organization, NATO）的成員國」，兩者都沒有提到布加勒斯特高峰會才過了四個月，俄羅斯便入侵喬治亞，顯示布希和北約踩到了紅線。文章中也沒有指出，烏克蘭有部分領土在莫斯科東方，而自成吉思汗以來，就再也無人從東邊攻擊過莫斯科。另外，也忽略了2014年由美國中情局襄助的廣場起義（the Maidan Uprising）趕跑了合法當選的烏克蘭總統。除了這些問題，人類作者提及「領土完整性」的爭議時，卻未能解釋2003年美國入侵伊拉克領土的合理性。

▎GPT的「智慧」從哪裡來？

簡言之，烏克蘭的戰爭和俄羅斯擴張領土、地緣政治野心或切香腸戰術沒什麼關係，這場戰爭是為了回應西方國家這15年來的挑釁，機器人和研究生怎麼會忽略了背景故事、忘記美國的挑釁，同時誤解了俄羅斯作為的源頭呢？以研究生來說，我們可以怪罪主流媒體；對機器人，我們可以怪罪GPT工程師口中所謂的「訓練集」，也就是機器人在網路上瀏覽的書面資料，接著將之自動加入深度學習的神經網絡中，GPT的演算法便是依此生成結果。我們可以為研究生找理由，因為她還需要更多歷練才能拿出專業分析；不過就不需要幫機器人找藉口了，機器人完全是按照程式設定去做並交出了一份像是人類寫出的論文，論文中的分析錯誤並不是因為機器人或演算法，而是因為訓練集中的資料有嚴重偏誤，都是根據《紐約時報》（The New York Times）、《華盛頓郵報》（The Washington Post）、美國國家廣播公司（National Broadcasting Company, NBC）新聞、《金融時報》（Financial Times）、《經濟學人》（The Economist）和其他主要媒體管道得來。

《外交政策》的論文比較明確凸顯出了GPT真正的失誤之處。GPT擁有無遠弗屆的運算能力、訓練集的資料量龐大到無可比擬，而深度學習的神經網絡架構良好。變換器形式的平行處理還有進步空間，不過一定會進步，因為GPT系統有自我學習的功能。正如前面提到的，機器人寫出的論文既符合文法規則也邏輯清晰，問題在於機器人是根據西方媒體長久以來的政治宣傳內容所訓練，用政治宣傳文章來訓練機器人，機器人就只能重複政治宣傳，不能期待機器人會生出不同的結果。這就是GPT真正的侷限所在。

作者序 它會照著你的好意，搞砸一切

當知識被轉化為資訊商品，它能以更快、更廣的方式傳播，成為強化個人乃至企業與國家生產力的核心要素。也因此，在全球競逐影響力的當下，各國爭奪的重心，逐漸從領土轉移至資訊，換言之，誰握有更多的資訊掌控權，誰就更有影響力。可以預見，未來的競爭將不再以疆界為界，而是圍繞誰能主導資訊流、誰能駕馭知識經濟……一場新型態的戰爭正在展開：一邊是產業與商業的佈局，另一邊則是政治與軍事的博弈。

——李歐塔（Jean François Lyotard），《後現代狀態》

人工智慧（Artificial Intelligence，縮...

作者序　它會照著你的好意，搞砸一切

第一章　市場的終結
當交易被模型接管，市場已不再是人類博弈的現場，而是演算法之間的無聲對決。價格不再反映共識，而是生成的結果：市場理性正在瓦解。

第二章　銀行神話的終章
人們以為存款是安全的、信任是穩固的。但當 AI 加速擠兌與恐慌，銀行業那套「穩定幻覺」便無所遁形。神話崩解後，剩下的是風險連鎖反應。

第三章　數位貨幣與新價值
比特幣、代幣與各式虛擬資產不只是技術產物，而是對金錢本質的重寫。當 AI 模型難以理解流動的價值信號，我們是否還知道「錢是什麼」？

第四章　經濟戰爭與國家安全
AI 不只改寫市場，也成為戰略工具。當演算法介入金融制裁、資產操控與資訊戰，國與國之間的安全平衡進入全新博弈：預測成為武器。

第五章　信任的終點
AI 工具看似中立、理性，實則鏡射人類偏誤。當決策委託給看不見的系統，我們將失去的，不只是主導權，而是對真相、價值與未來的信任。

結語　我們如何迎來超智慧，卻失去世界？

作者序　它會照著你的好意，搞砸一切

第一章　市場的終結
當交易被模型接管，市場已不再是人類博弈的現場，而是演算法之間的無聲對決。價格不再反映共識，而是生成的結果：市場理性正在瓦解。

第二章　銀行神話的終章
人們以為存款是安全的、信任是穩固的。但當 AI 加速擠兌與恐慌，銀行業那套「穩定幻覺」便無所遁形。神話崩解後，剩下的是風險連鎖反應。

第三章　數位貨幣與新價值
比特幣、代幣與各式虛擬資產不只是技術產物，而是對金錢本質的重寫。當 AI 模型難以理解流動的價值信號，我們是否還知道「錢是什麼」？

第...