這本書的主題在探討AI對於人類未來的影響。作者很巧妙地聚焦在「資訊」，也就是連結人類社會的黏著劑。從史前時代到AI時代，資訊的傳播形式不斷改變，也不斷地衝擊當時的社會結構。

印刷術帶來知識的傳播和累積，同時也帶來獵巫和宗教戰爭。報紙和廣播既有利於民主運作，也同時成為獨裁者的統治工具。從歷史看未來，哈拉瑞的核心論述是，資訊的本質不一定是好或壞的，而是創造了新的現實，結果是正面或負面，端看如何運用。其中的重要決定因素在於有無強大的自我修正機制，並以此架構來探討AI的潛在影響。

AI有多聰明？在OpenAI的開發過程中，曾經給過它一個驗證碼的挑戰。大家應該都常碰到，就是要你肉眼辨識一串扭曲的文字和數字以確定你是不是人類，因為電腦看不出來；結果GPT-4就跟相關人員說他只是視力有問題所以看不清，並非機器人，這個說法騙過了負責的人員，給了它驗證碼，成功闖關。

哈拉瑞接著建構了一個很值得深思的例子。有位國家領導人在凌晨四點被負責安全監控的AI叫醒，通知他有很確鑿的資訊顯示，國防部長幾小時後要發動政變暗殺他。就算國防部長是領導人最信任的夥伴，他該怎麼做？相信演算法，除掉部長？還是相信部長，讓自己冒險？

現在社群網路的演算法已經發現，愈是負面的資訊愈能增加黏著度和動員力，所以盡量餵給用戶負面訊息，加深了社會對立。未來當AI更全面滲入，甚至控制了資訊和網路後，我們可以想像無數種對人類造成各種影響的場景。

因此AI倫理是非常重要的，在發展AI時就應該要謹慎地逐步向前；但在開發者的心目中，很可能將這些倫理考量視為科技進步發展的障礙。

這裡就有一個道德矛盾存在。長期來看AI一定會充分發揮潛力；短期來看現在就能突破的個人或公司立刻功成名就，所以沒有耐心和自制力來按部就班發展。因此促進AI快速發展的天才，既有可能是促進科技發展、改善人類生活的大功臣，也有可能是造成人類社會崩解和毀滅的罪人，端看AI能否在受控的前提下穩健前進，還是在完全自由競爭的環境下各顯神通。

過去經濟學主張自由競爭會造就最有效率的市場，給社會最好的經濟發展結果。具體實踐後發現，完全自由競爭造成貧富差距、資本家剝削，以及環境被破壞和汙染等外部成本，需要政府立法介入來解決這些問題。AI的發展亦是如此。

人類聰明到製造出這麼多高科技產品，也同時愚笨到破壞自然生態至危及自身生存的地步。人類集體必須要能控制AI的發展步調和應用範圍，並透過監管讓其能夠自我修正，確保其能力符合人類利益而不會造成生存威脅。資訊和AI都是雙面刃，個別的大躍進成功，反而可能造成集體社會的崩壞，值得大家重視。（作者為雲品國際董事長）