分享文章

譚劍|仲以為人類永遠高人一等?我們與機械人共存的時代可能不遠矣

新冠肺炎改變世界,其中之一,是令遠端會議軟件普及化,很多人都在短時間內掌握在家和同事開會這種新的生存技能。

另一快速普及化的,是機械人,像在隔離酒店裡送餐的機械人,或在商場裡進行清潔的機械人。它們前行時遇到人會停步繞路走,你也常見到無聊的人進行這種試驗(包括我)。

早在上世紀四十年代,科幻作家艾西莫夫 (Isaac Asimov) 就提出「機械人學三大法則」(Three Laws of Robotics) 去規範機械人 (包括人工智能) 的思想和行為。

第一法則:機器人不得傷害人類,或袖手旁觀坐視使人類受到傷害;
第二法則:除非違背第一法則,機器人必須服從人類的命令;
第三法則:在不違背第一及第二法則的情況下,機器人必須保護自己。

這三大法則的潛台詞是「機械人屬於次等人,必須臣服於人類」,也曝露人類對機械人威脅人類地位的恐懼。

來到八十年後的廿一世紀二十年代,當人類社會步入少子化,大部份已發展國家的人口都下跌,年輕一代都在學校透過 STEM 學習機械人和人工智能,要他們認為機械人會敵視人類,取代人類的地位,未免太「人類至上主義」。

《厭世機械人》是最近年很耀眼的科幻小說系列,機械人主角名為「殺人機」,是個隨團前往異星球進行商業活動的維安機械人,除了和敵人戰鬥外,會在空檔時下載電視劇觀賞,不必多說,它的智力和人類不相上下。

這個第一人稱主角口吻幽默(《火星任務》的主角是口不擇言),但作者在故事裡探討兩大嚴肅主題。

第一,殺人機無意推翻人類,只想追求自由。故事的第一句就是「在我駭進自己的控制元件後,原本可以就此成為瘋狂殺人魔」。它獲得控制自己的思想和行動的自主權後,仍然繼續保護人類同伴,靠的不是機械人學三大定律,而是自己信奉的道德信條。這個境界不只比艾西莫夫機械人高超,甚至可以讓它和人類平起平坐,情況就像無神論者自我約束行為而不是靠宗教制約。

第二,在這故事的設定裡,機械人和人類相處不是沒有磨擦,還有尷尬,不好意思,無法輕易四目交投。這涉及的不是「人機接觸介面」那麼硬的課題,而是「人機共處心理」。真的面對一個智力和人類相當的機械人,你未必會害怕,卻會感到不知如何相處,把對方視為人類或者是死物?你和 Siri 交談時固然當它是死物而不是人類,但在少子化情況愈來愈嚴重的世界,如果人類文明未被極端氣候毀滅,現在三十歲以下的人,老時很有可能會由機械人照顧,包括洗澡、清理大小二便等,你會當這個貼心照顧你的同伴是機械人或者人類?會不會考慮和「它」結婚?或為「它」爭取人權?

這故事雖然以機械人為主題,但背景的未來世界設定很見功力,表現出作者瑪莎.威爾斯 (Martha Wells) 的人類學背景,這也是閱讀時另一樂趣。

譚劍

香港科幻奇幻小說作家。畢業於英國倫敦大學電腦系,作品持續關注科技演化、文化保育和社會變遷,在台灣和中國屢獲獎項。喜歡動物。好奇如鯊魚。

Success!

Thanks for subscribing.

Logo

訂閱電子資訊

您提供以下所需要的個人資料,即表示您已閱讀並同意《點讀》的《私隱政策聲明》及《個人資料收集聲明》,並同意 《點讀》使用您的個人資料以作訂閱《點讀》的電子資訊之相關用途。

如有需要,您亦可以隨時取消訂閱或修改您的個人資料。若有疑問,請電郵至 read@shkpreadingclub.com。

14

香港舞台設計的書寫與紀錄:從《好景——魯師傅與香港舞台》一書說起

7:00pm-8:00pm

14

「世界閱讀,閱讀世界」:隨身攜帶的避難所

5:00pm-6:30pm