如果魚會慘叫
在我小時候，家父經常帶我沿著河邊或海邊散步。我們會經過或許正在收線的釣魚客，對抗掙扎的上鉤魚兒。有一次，我看到某人從桶裡拿出小魚，刺穿在魚鉤上當釣餌，魚仍在扭動。
另一次，我們走到一條寧靜的溪邊，我看到有人坐著看他的釣線，似乎怡然自得，同時在他身旁，已經捉到的魚兒正無助地掙扎喘氣。家父告訴我，他不懂怎麼會有人用整個下午把魚抓出水中，讓牠們慢慢死掉。
當我閱讀上個月發表在fishcount.org.uk網站的突破性報告《海裡有更糟的事》（Worse Things Happen at Sea：The Welfare of Wild-Caught Fish），這些童年回憶不禁浮現。世上大多數地方都接受，如果要殺動物來吃，應該盡量不造成動物的痛苦。屠宰法規通常要求宰殺之前，讓動物立刻失去知覺或瞬間致命。若是儀式所需，則在宗教教義允許的範圍，盡量接近瞬間致死。
但是魚類並不適用。海上抓到並屠宰的野生魚類，並沒有人道規定，在大多數地方，養殖魚類也沒有。拖網漁船抓到的魚被倒在甲板上窒息。在稱作延繩捕魚的商業捕魚技術中，拖網船放出的線可能有五十到一百公里長，配有幾百、甚至幾千個掛餌的魚鉤。吃餌的魚可能完全清醒，被穿過牠們嘴巴的魚鉤拖著走好幾小時，直到最後釣線被拉起。
同樣地，商業捕魚經常仰賴流刺網，相當於用一片片細網之牆捕魚，鉤住的往往是魚鰓。魚鰓被束緊，魚便無法呼吸，可能在網中窒息。即使沒有，牠們也許困在網裡很久才會收網。
不過，報告中最驚人的啟發是，人類如此殘殺的魚類數量驚人。報告書作者艾莉森‧穆德（Alison Mood）利用各種公開的魚類捕獲噸數，以每個物種的估計平均重量分類，提出每年全球野生魚類捕撈規模的系統性估算，這很可能是史上第一次。她估計大約是一兆隻，不過可能高達兩兆七千億隻。
聯合國農糧署參考這一點，估計每年有六百億隻陸地脊椎動物被殺，供人類消費──約略相當於地球上每個人殺九隻動物。如果我們採信穆德估算的低標一兆，魚類的比較數據是每人一百五十隻。這還不包括非法捕撈的幾十億隻與意外抓到不想要而丟棄的漁獲，也沒計入延繩捕魚被穿在鉤上當餌的小魚生命。
這些魚有很多被間接消費，剁碎餵給工業化農場的雞或魚。典型的鮭魚養殖場每生產一公斤鮭魚就要消耗三到四公斤的野生魚。
我們姑且假設這些捕撈都能永續，可惜自然沒有這回事。那麼這會讓我們安然地相信如此大規模殺戮沒關係，因為魚不會感到痛苦。但是魚的神經系統跟鳥類與哺乳類非常相似，足以暗示牠們感覺得到。當魚類體驗到會造成其他動物肉體痛苦的事，牠們會表現出痛苦的樣子，行為改變可能持續好幾小時（魚類記性很短是個迷思）。魚類能學習迴避不愉快的體驗，像是電擊。而且止痛藥會降低牠們原本可能表現的痛苦症狀。
賓州州立大學的漁業與生物學教授維多莉亞‧布萊斯威特（Victoria Braithwaite）可能比任何科學家花了更多時間調查這個議題。她最近出版的著作《魚感覺得到痛嗎？》（Do Fish Feel Pain?）指出，魚類不只能感受痛苦，也比大多數人以為的聰明多了。去年，歐盟有個科學委員會認定有壓倒性的證據顯示魚類感受得到痛苦。
魚類為何成了我們餐盤上被遺忘的受害者？因為牠們是冷血動物又有鱗片嗎？因為牠們痛苦時不會發出聲音嗎？無論什麼解釋，商業捕撈造成難以想像的大量疼痛及苦難的證據正在累積。我們必須學習如何人道地捕捉與屠宰野生魚類，如果做不到，就要找出比吃魚不殘酷也更能永續的替代方案。
摘自「評論彙編」，二○一○年九月十三日
想想火雞：感恩節雜感
當我教授實踐倫理學，會鼓勵學生把我們討論的主張帶出課堂外，跟家人朋友聊聊看。對美國人而言，沒有其他場合比感恩節更適合談吃什麼的倫理學了，尤其在這個假日，家族會團聚一起用餐。瞭解這一點，我在排課程主題時，特別設計在感恩節之前教到食物倫理的議題。
傳統感恩節大餐的核心是火雞，是個明顯的對話起點。根據國家火雞邦聯（National Turkey Federation），每年感恩節大約宰殺四千六百萬隻火雞，占美國年消耗量三億隻的一大部分。其中絕大多數（至少九九％）在工業化農場飼養。牠們的生命在許多方面就像工業化農場的雞隻。新孵化的火雞在孵化器中養大，送往火雞農場飼養之前，小火雞被剪喙的時機，跟雛雞一樣，還被剪掉爪子。至於雄火雞，也剪嗉子──雄火雞額頭上的肉質塊狀突出物。這顯然會造成痛苦，但過程一概不使用麻醉藥。例如雞喙不只是像指甲的角質物體，裡面充滿神經，讓自由生活的火雞啄地面，分辨能吃與不能吃的東西。
這些毀傷的理由是，雞隻會被放進陰暗、通風不良的雞舍裡，跟其他幾千隻擠在一起度過剩餘的壽命。空氣中瀰漫排泄物散發的氨氣惡臭，在火雞住在雞舍的四、五個月期間持續累積。在如此不自然又緊繃的狀況下，火雞會互啄或互抓，還可能吃同類。剪掉嗉子是因為它經常成為其他同類啄刺的目標。
當雞隻養到上市重量，會被斷食斷水，集中起來，經常以粗暴的手法（臥底影片顯示火雞被抓起來丟進運送箱）送去屠宰。每年有幾十萬隻根本活不到被宰，而是死於運送過程中的壓力。如果牠們活下來，就跟家雞一樣，仍無法保證死得人道，因為美國農業部認定人道屠宰法案不適用於禽類。
火雞和家雞的差別之一是，火雞經過飼育大幅改種，加大了胸部，因為胸部公認是火雞身上最好吃的部位，標準的美國火雞生動地命名為「寬胸白雞」。但是這個程序讓火雞無法交配，因為雄雞的大胸部會礙事。我告訴學生，有個有趣問題可在感恩節的餐桌對話陷入冷場時丟出來。就指著桌上的火雞問：如果火雞無法交配，火雞是怎麼誕生的？
幾年前，我和在密蘇里州農場上長大的吉姆‧梅森（Jim Mason）搭檔，寫了一本書《我們的飲食倫理學》（The Ethics of What We Eat）。吉姆決定親眼看看幾億隻無法性交的火雞是如何誕生的。他發現火雞的大型工業化養殖與處理公司Butterball登廣告徵求密蘇里州迦太基市的人工授精工人，不需任何相關經驗。吉姆通過藥檢之後，開始上工。他的第一個崗位是抓著雄火雞的腿，把牠們倒吊起來，讓另一個工人替牠們手淫。流出精液後，工人用真空幫浦收集到針筒裡。一隻接一隻，直到用「增量劑」稀釋的精液裝滿針筒，然後拿到母雞雞舍去。
吉姆也曾換班到母雞舍工作，他發現那裡的工作比處理公雞更糟。他是這麼描述的：
你得抓著母雞的雙腿，設法讓「腳踝」交叉，以便用單手抓著腿和腳。重約二十到三十磅的母雞受到驚嚇，拍打著翅膀，驚慌掙扎。牠們在一年多的期間內每週都要經歷一次，而且並不喜歡。你一旦單手抓住牠，就將胸部朝下放在坑洞邊緣，屁股朝上，空出的手則放在肛門與尾巴上，把屁股和尾巴的羽毛往上拉。同時，抓住雙腳的手往下拉，如此「馴服」母雞讓牠屁股朝上，張開肛門。人工授精者伸出拇指，按住肛門正下方，把它拉得更開直到露出輸卵管末端。接著，把連接到空氣幫浦針管末端的精液吸管插入，扣下扳機，釋出一股壓縮空氣，從吸管將精液注入母雞的輸卵管。最後放開母雞，讓牠跑掉。
吉姆應該要每十二秒「馴服」一隻母雞，每小時三百隻，每天做十小時。他必須閃躲驚慌母雞噴出的糞便，如果跟不上步調，還要挨工頭的陣陣辱罵。他告訴我，那是「我幹過最辛苦、最快速、最骯髒、最噁心、最低薪的工作」。
回到感恩節餐桌上。現在家人具體瞭解他們吃的火雞是怎麼來的，經歷怎樣的生與死，我建議學生討論各種意見，看看支持這種對待動物的方式是否道德。如果答案是否定的，那麼明年感恩節就必須做些改變，因為我們購買工業化生產火雞的意願，是火雞業界繼續如此不尊重火雞權益、虐待牠們的唯一誘因。
我們還有其他選擇。傳統火雞，是可以交配、在草地上養大、沒受肢體殘害的品種，每磅平均單價大約是工業養殖雞的四倍，但至少你會知道這隻火雞生前過得好。真的是如此嗎？有生產者聲稱以人道條件在戶外飼養幾百隻火雞，但是賣掉的火雞數量有數倍之多，而且大多數根本沒外出過；這些業者因此被指控詐欺。如果你真想確保自己食用的火雞養在戶外，得花點工夫確認生產者的誠信。
當然，替代方案就是食用以植物為主的感恩節大餐，同時也避免成為虐待動物的共犯，這對環境、對你都比較好。在《紐約時報》網站上搜尋「素食感恩節」（vegetarian Thanksgiving），你會發現很多適合這個節日的美味季節性食譜。如果不想下廚，也可以買隻豆腐製的火雞。
人們會說火雞是感恩節的傳統。但朝聖者在一六二一年第一個感恩節是否有吃野火雞，其實並不明確，但有一點是確定的：他們沒吃工業化農場的寬胸白火雞肉。
（先前未曾發表）
防止人類滅絕
（共同作者／尼克‧貝克史德、麥特‧威吉）
許多科學家相信是一顆較大的小行星撞上地球，造成了恐龍滅絕。人類可能面對同樣的命運嗎？
這是可能的。航太總署追蹤了地球附近多數的大型小行星，甚至許多較小顆的小行星。如果大型小行星在衝撞地球的軌道上被發現，才能給我們時間讓它改道。航太總署分析過這種情境中讓小行星改道的多種選項，包括用核武射擊，把它打離軌道，其中某些策略似乎行得通。然而，方法尚未搜集完。新成立的B612基金會，最近展開追蹤其餘小行星的計畫，以便「保護這個星球上的文明的未來」。找到這些小行星之一，可能是防止全球大災難的關鍵。
幸好本世紀內，達到滅絕規模的小行星撞地球的機率很低，約百萬分之一。不幸的是，小行星並非人類生存的唯一威脅。其他潛在威脅來自生物工程疾病、核子戰爭、極端氣候變遷與危險的未來科技。
鑒於接下來兩個世紀會有人類滅絕的風險，下一個問題是我們能否挽救。我們會先解釋我們能做什麼，然後問更深入的倫理問題：人類滅絕會有多糟糕？
這裡要強調的第一點是，如果人類滅絕的風險被證明「很低」，我們不該因此鬆懈自滿。理智的人絕不會說：「呃，這座核子爐熔毀的風險只有千分之一，所以我們不會擔心。」當嚴重災難性結果的風險存在，而我們能用可接受的代價降低或消除風險，我們就該這麼做。大致上，我們可以把壞結果的機率乘以結果會有多慘，評估某個特定風險有多糟。如同我們即將主張的，既然人類滅絕算是糟糕透頂，即使減少一丁點人類滅絕的風險，都會大有幫助。
人類已經做了一些降低提早滅絕風險的事情。我們熬過了冷戰，並且削減核武庫存。我們追蹤地球附近大多數的大型小行星。我們為了「政府延續」的目標，建造了地下碉堡，可能幫助人類熬過某些災難。我們設立了疾病監控計畫，追蹤疾病的蔓延，萬一發生大規模瘟疫，世人能夠較快地反應。我們看出了氣候變遷是潛在風險，即使迄今的實際反應少得可悲，還是研發出一些因應計畫。我們也設立了一些制度，以較溫和的方式降低滅絕風險，例如減少戰爭風險或改善政府的災害反應能力。
認為有可能進一步降低人類滅絕風險的理由之一是，我們做的這些事情應該還能有所改進。我們可以追蹤更多小行星，蓋更好的碉堡，改善疾病監控計畫，減少溫室氣體排放，鼓勵核武不擴散，強化世界各種制度，以求進一步降低人類滅絕的風險。找出值得的特定計畫予以支持仍有實質上的困難，但是這種計畫可能真的存在。
迄今，針對系統性瞭解人類滅絕的風險，以及避免此種風險的最佳措施，所做的努力少得驚人。是有一些關於低機率、高代價災難主題的書籍和論文，但是很少人調查降低風險最有效的方法。我們見不到關於不同策略任何深入、系統性的分析。要降低人類滅絕的風險，合理的第一步是更徹底地調查這些議題，或支持別人去做。
如果我們的推論無誤，那麼人類滅絕的風險確實存在，而我們可能有能力降低風險。有許多重要的相關問題很難回答：降低人類滅絕風險該有多高的優先性？我們願意花多少錢做這種事？這要如何融入其他許多我們可以也應該做的事，像是幫助全球貧民？（關於這點，請參閱www.thelifeyoucansave.com。）降低人類滅絕風險的目標跟普通的人道目標有衝突嗎？或者，降低人類滅絕風險的最佳方法，就是改善現在活著的民眾生活，讓他們有能力自己解決問題？
我們不會在此試圖回答這些問題。我們只會專注在下面這個問題：人類滅絕會有多糟糕？
人類滅絕最糟糕的事情之一，就是幾十億人可能死得很痛苦。但在我們看來，迄今這還不是最糟糕的。人類滅絕最糟糕的一點是不會有未來世代了。
我們認為未來世代跟我們這一代同樣重要。因為未來可能有很多世代，所有那些世代的價值加在一起，遠超過目前這一代的價值。
想想歷史上的例子，有助於說明這個論點。大約七萬年前，有座名叫托巴（Toba）的超級火山噴發。許多科學家認為這次噴發導致「火山寒冬」，害我們的祖先幾乎滅絕。假設真的如此。現在想像托巴火山噴發把人類從地球上抹消，那會有多糟糕？後來大約有三千個世代跟一千億人存活過，可以公允地說，托巴噴發造成的死亡和苦難，比起從當時到現在活過的所有人命，以及事後人類所成就的一切，就顯得微不足道了。
同樣地，如果人類現在滅絕，最糟的一面就是機會成本。文明在短短幾千年前才起步。但是地球還可以讓人類住上十億年。如果能夠殖民太空，我們的物種還可能存活更長久。
有些人會反對以這樣的方式評估未來世代的價值。他們可能宣稱，延續新世代不可能是益處──無論這些人過著怎樣的生活。基於這個觀點，避免人類滅絕的價值，僅限於現在活著的人與快要出生的人，還有可能想生小孩或孫兒女的人。
為何會有人相信這一套？理由之一可能是，如果人們從未存在，那麼他們不存在就不能算是壞事。因為他們不存在，就沒有壞事發生的對象「他們」，所以讓人存在並無法裨益他們。
我們無法同意。我們認為讓人存在可以裨益他們。理由是，首先請注意讓人存在對那些人也可能是壞事。舉例而言，假設有個女人知道如果她在未來幾個月受孕，小孩會罹患多種痛苦的疾病並早夭。如果她決定未來幾個月還是要懷孕，這對她的小孩顯然是壞事。大致上，如果小孩的生命會短暫又悲慘，存在對他似乎就是壞事。
如果你同意把某人生到這個世界上可能對他是壞事，如果你也接受讓某人存在不可能對他有益的論點，那麼就會得出一個奇怪的結論：出生可能傷害你，但是不可能幫助你。如果這話沒錯，那麼看來生小孩是錯的，因為他們總是有受傷害的風險，沒有任何補償利益能超過傷害的風險。
像十九世紀德國哲學家叔本華或當代南非哲學家大衛‧貝納塔的悲觀派，都接受這個結論。但如果父母有合理的期待，認為他們的小孩會有快樂又圓滿的人生，生小孩也不會傷害其他人，那麼生小孩就不是壞事。更廣泛地說，如果我們的子孫有合理機會過著快樂、滿足的人生，確保我們的子孫存在就是好事而非壞事。所以我們認為，讓未來世代存在可能是件好事。
我們物種的滅絕（看滅絕原因而定，很可能所有生命皆然），將是演化這個非凡故事的終點，演化已經帶來（頗有）智慧的生命，給了我們潛力繼續進步。不論道德上或智能上，我們在近兩世紀以來創造了偉大的進展，有太多理由可以希望，如果我們倖存，這種進步會持續並加速。如果我們無力防止自身滅絕，我們就會搞砸創造真正神奇事物的機會：無數龐大的人類世代，過著富裕滿足的生活，達到超越我們想像力的高等知識與文明。
摘自http://www.effective-altruism.com/ea/50/preventing_human_extinction/，二○一三年八月十九日
虛擬罪惡
在叫作「第二人生」的流行網路角色扮演遊戲中，玩家可以為自己創造一個虛擬身分，選擇年齡、性別與外貌等特徵。然後，這些虛擬角色做些大家在現實世界做的事，例如性愛。視偏好而定，你可以跟差距很多歲，比你老或年輕的人上床。其實，你的虛擬角色若是成人，你可以跟小孩子的虛擬角色性交。
如果你在現實世界這麼做，大多數人會同意你犯了嚴重的錯誤。但是跟虛擬小孩虛擬性交也是嚴重錯誤嗎？
有些「第二人生」的玩家認為是，還宣稱要踢爆那些人。同時，遊戲製造商Linden Labs表示他們會調整遊戲，防止虛擬的孩童角色發生性行為。一群德國檢察官也插手了，不過，他們的顧慮似乎是有心人利用遊戲散播兒童色情，而非玩家是否跟虛擬小孩虛擬性交。
其他國家的反兒童色情法律可能也有禁止在電玩中與虛擬兒童虛擬性交的效力。在澳洲，維多利亞省法律研究所的刑法部門主席康納‧奧布萊恩（Connor O’Brien），最近告訴墨爾本的《時代報》（The Age），他認為第二人生的廠商可能因為出版兒童性行為影像被起訴。
法律保護兒童免於因性目的被剝削，是站得住腳的。但是干預成年人之間合意性行為，在道德上就變得可疑了。許多有想法的人認為，成人選擇在臥室裡幹什麼是他們的私事，國家不應該窺探。
如果你的成人伴侶在性行為之前扮成學童能令你興奮，他或她也樂意參與這個性幻想，你們的行為或許令大多數人厭惡，但只要是私下做，很少人會認為你是個罪犯。
如果你邀幾個成年朋友上門，在自宅的私密空間中，他們都選擇參與一個同類的大規模性幻想，也不該有任何差別。同樣地，假設只涉及合意的成年人，透過網路連結的電腦進行，跟這種群體性幻想有那麼不同嗎？
當某人提議把某件事入罪，我們永遠應該問：誰受害了？如果能證明跟虛擬孩童進行虛擬性愛，以實踐性幻想的機會，讓民眾更可能參與真實的戀童癖，然後會有真實的孩童受害，禁止虛擬戀童癖的立場會比較正當一些。
但是如此檢視上述爭議，也引發另一個或許更重要、關於虛擬行為的問題：電玩暴力。
玩暴力電玩的人經常是容易受影響的年齡。流行暴力電玩「毀滅戰士」（Doom）是科倫拜高中槍擊案的青少年凶手艾瑞克‧哈里斯（Eric Harris）與狄倫‧克雷波（Dylan Klebold）的最愛。他們在大屠殺前拍攝、令人膽寒的影片中，哈里斯說：「一定會像他媽的毀滅戰士一樣……這把該死的散彈槍〔親吻他的槍枝〕是遊戲裡出現過的！」
暴力電玩的熱愛者變成凶手，還有其他案例，但是無法證明有因果關係。然而，更該注意的是，實驗室與田野針對這類遊戲效應所做的科學研究的成長數量。在《暴力電玩對兒童與成人的效應》（Violent Video Game Effects on Children and Adults）中，愛荷華州立大學心理學系的克瑞格‧安德遜（Craig Anderson）、道格拉斯‧堅泰爾（Douglas Gentile）與凱薩琳‧巴克萊（Katherine Buckley）收集這些研究，主張暴力電玩會增加攻擊行為。
如果以刑事起訴來對付暴力電玩的手段太過粗魯，那麼就應該賠償暴力電玩玩家所犯暴力案件的被害人或被害人家屬。迄今，這類訴訟都被駁回，至少部分理由是，製造商無法預見他們的產品會讓人犯罪。然而，安德遜、堅泰爾和巴克萊提供的證據，削弱了這種辯護說法。
德國頂尖的線上電腦電玩雜誌之一Krawall.de的總編輯安德烈‧佩許克（André Peschke）告訴我，他在電玩產業十年期間，從未見過產業內部針對生產暴力電玩進行任何嚴肅辯論。製造商依賴的是「暴力電玩導致暴力行為並無科學證據」的簡單主張。但有時候，我們沒空等待證據。這似乎就是適用的案例之一：風險很大，超過暴力電玩可能帶來的任何好處。證據或許不夠確鑿，但已堅實到不容再忽視。
關於「第二人生」中虛擬戀童癖的爆量報導，或許聚焦在錯誤的目標了。電玩須受法律妥善的管制，不是當它們讓玩家從事在現實中算是犯罪的行為，而是當有證據基礎讓我們合理認定，它們可能增加現實世界中的嚴重犯罪。目前，對於暴力電玩的相關證據，比允許戀童癖的虛擬現實來得更明確。
摘自「評論彙編」，二○○七年七月十七日
機器人的權利？
（共同作者╱艾嘉塔‧薩岡）
上個月，Gecko Systems公司宣布，他們正在測試自家的「全自動個人陪伴家用照護機器人」，又稱「照護機器人」（carebot），是設計來幫助老人或殘障者獨立生活。公司報導，當機器人問一位喪失短期記憶的女士：「您要來碗冰淇淋嗎？」她露出大大的微笑回答「好」，接下來的事應該就由機器人代勞了。
機器人已經有許多功能了，從造車到拆炸彈，還有比較令人煩惱的，發射飛彈。小孩、大人都玩機器人玩具，吸塵器機器人在愈來愈多住宅負責打掃，如YouTube影片證據顯示，同時也娛樂貓咪。甚至有機器人世界盃比賽，不過，從去年夏天在奧地利格拉茲舉辦的活動水準看來，足球選手還不必擔心失業（當然，西洋棋又是另一回事了）。
被開發為家用的大多數機器人，設計上有其特色，Gecko Systems的居家照護機器人看起來挺像《星際大戰》的R2-D2。本田與索尼設計的機器人則比較像同一部電影的「仿生人」C-3PO。不過，某些機器人已經擁有柔軟彈性的身體，酷似人類的臉孔和表情，能做出許多動作。Hanson Robotics公司展示過一款叫亞伯特的型號，臉孔非常像亞伯特‧愛因斯坦。
我們很快就會習慣家裡有人型機器人嗎？雪菲爾大學人工智慧與機器人工學教授諾爾‧夏奇（Noel Sharkey）曾預測，忙碌的父母會開始雇用機器人當保母。他問道，與無法表達真正的同理心、理解或同情的機器長時間相處，對小孩子會有什麼影響？你也可能會問，我們為何要研發耗能的機器人來照顧小孩或老人，那是教育程度不高者可以從事的少數行業。
在《與機器人的愛與性》（Love and Sex with Robots）一書中，大衛‧李維（David Levy）進一步暗示，我們會愛上溫暖可愛的機器人，甚至跟它們做愛（如果機器人有多重性伴侶，只須拆下關鍵零件，丟進殺菌劑裡，噹啷，沒有性病風險！）。但是「性愛機器人」的出現，對婚姻家庭會有什麼影響？如果我們的配偶開始花太多時間跟永不疲倦的機器情人在一起，我們作何感想？
有個更不祥的問題，在小說與電影中倒很常見：我們將必須保護自身的文明，抵抗我們創造出來的智慧機器嗎？有人認為超人類人工智慧的發展無可避免，並且預期最遲在二○七○年發生。他們稱這一刻是「奇點」，視為改變世界的大事。
人工智慧奇點研究所的創始人之一艾利澤‧尤科斯基（Eliezer Yudkowsky）認為，奇點會導致超智慧機器設計出更多智慧機器的「智慧爆炸」，每個世代重複循環。比較慎重的人工智慧促進協會設立了特殊委員會，研究它所謂的「人類對電腦相關智慧失去控制的隱憂」。
此事如果成真，文明未來的關鍵問題是：超級智慧電腦會對人類友善嗎？我們該開始思考應採取什麼步驟，防止我們自己的產物對我們產生敵意嗎？
眼下，比較務實的顧慮不是機器人會傷害我們，而是我們會傷害它們。現階段，機器人只是財產物品。但萬一它們變得複雜到有情感呢？畢竟，人腦不就只是個很複雜的機器嗎？
如果機器可以、也真的變得有意識，我們會在乎它們的情感嗎？迄今，我們跟我們唯一遭遇的非人類知覺生物（動物）的關係歷史，讓人不太能相信我們會承認有知覺的機器人不只是財產物品，而是有道德立場和利益值得顧慮的生物。
認知科學家史提夫‧托倫斯（Steve Torrance）曾指出，強大的新科技，像汽車、電腦、電話，容易以失控的方式迅速普及。因此，不被普遍視為我們道德社群成員的有意識機器人的發展，可能導致大規模的虐待。
當然，困難的問題在於，我們如何分辨機器人是否真有意識，而不只是設計來模擬意識。瞭解機器人程式是如何設計的，能夠提供線索：設計者寫的程式碼只是提供意識的表象嗎？若是如此，我們就沒有理由相信機器人有意識。
但如果機器人的設計包含擬人類能力，偶然間可能形成意識，那我們就有充分的理由認為它真的有意識。到那時候，機器人權益運動就會開始。
摘自「評論彙編」，二○○九年十二月十四日
2024專利防護中