天才一秒記住【閃文書庫】地址：www.shanwen.tw
解讀《革命》
吳甘沙
馭勢科技（北京）有限公司聯合創始人兼CEO
如果外星人真的來了，它們的唯一選擇是不是像《三體》中智子那樣鎖住人類科技的發展？
通用人工智慧出現了，它們會不會感受到人類科幻小說中對智慧機器的猜忌和仇恨，從而啟動人類滅絕計劃？
關於後一個問題，《生命3.0》的引言給出了一個不一樣的可能性，歐米茄團隊開發出了通用人工智慧“普羅米修斯”。“普羅米修斯”及其操縱者善於隱藏自己的能力和野心，從文化切入（製作大量動畫片），進而在醫療、能源、製造業等方方面面改善了民生、提升了社會效率，並把賺來的錢投資於社群和公益事業，最終利用民主社會的機制掌握了輿論、攫取了權力。“歐米茄團隊已經完成了地球生命歷史上最具戲劇性的轉變。有史以來第一次，我們的地球由一股單一的力量控制，這股力量又被一個智慧體不斷增強，這個智慧體是如此的龐大，以至於它有能力讓生命在地球上乃至在宇宙中生息繁盛億萬年”。
回到第一個問題，外星人會不會也像“普羅米修斯”那樣透過積德行善來愚弄人類、讓其失去選擇的能力呢？《革命》這篇恰恰展示了這樣一種可能。外星人的“良好用心”是怕人類開發出可能失控的人工智慧，“放大人類的不成熟”，於是耍了個障眼法，讓人類科學家貝絲誤以為創造出了人工智慧，或者說，透過模擬人類期待的人工智慧的行為並透過測試，外星人控制的更高層的人工智慧降維成為人類認為的人工智慧，而這個假人工智慧讓人類遠離了戰爭，在疾病、貧窮、不公、犯罪、環境汙染等方面取得了脫胎換骨的進展。當人類發現這種“幸福感”是被操縱的時，該何去何從呢？清醒的貝絲是痛苦的，她必須找到一個外星人看不見的戰場，為人類的自由而戰鬥。“只有人類，才是我們自己唯一的希望”。
什麼是幸福？白送、但無從選擇、必須接受的幸福是不是真的幸福？什麼是自由？別人給你設計的自由是不是真的自由？當搜尋引擎和推薦引擎決定了我們想要看、想要買的一切，讓我們獲得得來全不費工夫的快感時，我們何嘗與《革命》中的人類有所區別？
外星人畢竟是小機率事件（解釋費米悖論的一種可能性確實如《革命》所說，它們很好的隱藏了自己），而通用人工智慧正在路上。如果機器最終會自我進化，它如何決定進化目標？它的reward function（回報函式）是什麼？跟人類
本章未完，請點選下一章繼續閱讀！若瀏覽器顯示沒有新章節了，請嘗試點選右上角↗️或右下角↘️的選單，退出閱讀模式即可，謝謝！