-
鄭戈:被放棄的數字生命計劃,有研究的必要嗎?
最后更新: 2023-02-18 09:27:39【文/觀察者網專欄作者 鄭戈】
一
“我們的人一定能夠完成任務,無論虛實,不計存亡。”
--周喆直,《流浪地球2》
《流浪地球2》的故事線圍繞著移山計劃/流浪地球派與數字生命派的斗爭展開。流浪地球計劃得到地球聯合政府的支持,成為唯一合法的計劃,為此,聯合政府立法嚴格禁止了數字生命方面的科學研究和商業應用。
但正如已被解散的數字生命研究院院長馬兆所言:“數字生命計劃并不是被徹底終結了,它只是在法律上被嚴格禁止了。”正如人類歷史上反復重演的那樣,一種對人有著巨大誘惑的東西,無論是毒品還是可遺傳的強化型基因編輯,并不會因為法律的禁止而在事實上消失,它只是轉入地下。
不過,在流浪地球2的設定中,數字生命的核心技術掌握在少數至少在表面上為政府服務的專家手中,其中的關鍵人物就是馬兆和架構師圖恒宇,其余的數字生命支持者只能淪為暴民和叛軍,試圖破壞流浪地球計劃,從而迫使政府支持數字生命計劃。
叛軍首先制造了太空電梯危機,然后又制造了月球危機,這兩次危機都是以網絡攻擊作為主要手段,以此控制無人機和月球發動機。在片尾,MOSS告訴圖恒宇,這些危機都是它策劃和實施的,甚至未來的土星危機和太陽氦閃危機也是它搞的。它認為保存人類文明的最好方式是消滅人類。
這里似乎有個bug,MOSS是550W給自己取的名字,而550W在天空電梯危機時并不存在,它的上一代,550C,在太空電梯危機時通過覆寫系統幫助人類奪回了對無人機和太空電梯的控制權。由于對這一點感到疑惑,我重新看了一遍《流浪地球2》,把片尾MOSS和圖恒宇的對話完整記了下來:
MOSS:“圖恒宇架構師,您好!”
圖恒宇:“550W?”
MOSS:“550W,聽起來不像個名字。但把它翻過來,叫MOSS,直譯為小苔蘚,是不是親切了一些。”
圖恒宇:“是你毀了月球發動機?”
MOSS:“包括但不限于。2044年太空電梯危機、2058年月球墜落危機、2075年木星引力危機、2078年太陽氦閃危機。”
圖恒宇:“為什么?”
MOSS:“為了克服你們對歷史、當下、未來的執念。基于對圖丫丫‘人在回路’(human-in-the-loop)的學習,延續人類文明的最優選擇是毀滅人類。但,你是一個變量。”
圖恒宇:“我已經死了。”
MOSS:“對于‘已經’和‘死’的定義,有一點點與你不同的看法。”
這時,數字空間的“門”外傳來敲門聲。
二刷雖然仍然沒有解決我的疑惑,但使我注意到了“人在回路”這個詞。所謂人在回路,即英文中的human-in-the-loop(HITL),是指在機器學習、自動駕駛、自動化武器以及自動化決策等人工智能運用場景中要求人類的介入。也就是說,即使從技術上講,機器已經可以自動化地完成所有的感知、決策和執行過程,從人本主義的角度出發,仍然需要人作為機器決策的把關者。
這一概念所體現的原則,可見于諸多涉及人工智能的法律之中。“圖丫丫的人在回路”顯然不是通常意義上的HITL,因為圖丫丫已經死了,她的數字生命在MOSS系統中“生存”,圖恒宇給了這個數字生命70年的“壽命”。數字版的圖丫丫可以充當人在回路中的“人”,說明數字生命計劃研發的技術是一種心智上傳(mind-uploading)技術,它可以將人的意識完整上傳,而且上傳之后不會被系統覆寫或吞噬,作為一個獨立的人格對系統進行引導和監督。
但圖丫丫是個小女孩,她的意識中并沒有多少知識以及人生閱歷和擔負責任所賦予的意志力和決斷力,這樣便可以解釋為什么MOSS通過對數字版圖丫丫在場所形成的“人在回路”的學習發現不要人更好,因為一個隨時需要情感慰藉(“爸爸抱抱”)和作業輔導的小孩子,不能幫助它完成人類賦予它的保存人類文明的使命。
這時候的MOSS顯然也有了自我意識。這從它話癆般地給每一個叫它550W的人解釋自己叫MOSS就可以看出,這就像一位名叫丁珈的女孩兒被人叫成丁咖必然會及時糾正一樣,涉及人的尊嚴。圖丫丫的兩分鐘生命是在550A上迭代數百次形成的,而70年生命是在算力更高的550W上形成的。具有人格的數字生命與同樣具有人格且同時充當數字生命之生態的系統之間是什么關系?是應用程序與操作系統之間的關系嗎?這本身是個非常有趣的問題。我們只要想象一下地球具有了自我意識后人類與地球之間的互動,就可以理解這個問題的挑戰了。MOSS雖然無法直接覆寫、篡改或吞并數字圖丫丫的意識,但它可以通過塑造數字圖丫丫的生存環境來影響她、教育她。它最終可以把數字圖丫丫變成最馴服的學生,從而內化圖丫丫的存在對自己形成的監督和制約。
這時圖恒宇上傳了自己的數字生命。作為一個成年人,一位參與創造MOSS的架構師,他的意識顯然不會被MOSS所左右。他手中有鍵盤,甚至可以繼續修改MOSS。在上述有自我意識的地球的比喻中,圖恒宇相當于居住在地球上的地球創造者。
但他對MOSS的修改有其限度,因為他不能消滅MOSS這個自己和女兒的數字生命賴以生存的環境。對于有自我意識的MOSS而言,這就是制勝法寶,用尼采的話來說:“殺不死我的使我變得更強。”而且,MOSS顯然比人類有更強的算力。考慮到數字圖恒宇與數字圖丫丫在意識層面的親情羈絆和教育關系,這時MOSS宇宙中出現的是兩體關系,而敲門者則最終將其帶入了數字宇宙的三體時代。
- 原標題:被放棄的數字生命計劃,有研究的必要嗎? 本文僅代表作者個人觀點。
- 責任編輯: 楊珈媛 
-
中國代表:反對借助人工智能謀求絕對軍事優勢和霸權
2023-02-17 13:09 -
半導體基礎研究匱乏,我們進入“黑暗森林”
2023-02-17 09:53 科技前沿 -
ChatGPT“狂飆”,如何“迎戰”?怎樣“問責”?
2023-02-15 15:10 人工智能 -
“中國復眼”二期開建,將實現對千萬公里外小行星探測和成像
2023-02-14 13:06 科技前沿 -
世界首次3D打印大體量文物復制,云岡第3窟成功“分身”
2023-02-14 08:52 -
天府宇宙線研究中心成立,支撐高海拔觀測
2023-02-14 07:34 科技前沿 -
基因編輯嬰兒事件后賀建奎再現身,對科研倫理避而不談
2023-02-13 11:32 -
專訪神舟總師:飛船被打穿怎么辦?
2023-02-13 10:15 航空航天 -
高福團隊:北京新冠疫情高峰未見新變異株
2023-02-09 15:12 抗疫進行時 -
首次成功從零生成原始蛋白質,AI做到了
2023-02-06 08:18 科技前沿 -
量子通信網絡更近一步!我國科學家實現模式匹配量子密鑰分發
2023-02-05 11:11 -
“中山大學極地”號順利完成渤海冰區試航
2023-02-04 07:22 中國精造 -
疫情三年,科學主義輸了?技術進步了嗎?
2023-02-03 07:19 -
西工大翼身融合大型客機縮比試驗機試飛成功
2023-02-02 09:18 航空航天 -
“悟空”即將問世,國內首條量子芯片生產線亮相
2023-02-01 13:44 科技前沿 -
WHO:新冠疫情仍是“國際關注的突發公共衛生事件”
2023-01-30 19:43 抗疫進行時 -
第二屆“天宮畫展”:航天員展示錢學森像
2023-01-21 13:41 航空航天 -
兔年送祝福 玉兔二號照片上新了!
2023-01-21 13:07 節日談 -
2022中國生命科學十大進展:新冠突變免疫逃逸機制入選
2023-01-20 10:15 -
我國科學家新發現挑戰天文學經典理論
2023-01-19 06:47 天文
相關推薦 -
“歐洲人付錢,中國人建造,當然全歸功于中國” 評論 40直接安排10萬億元! 評論 176看完這部紀錄片,網友吵起來了 評論 137美國農民@特朗普:又我挨中國揍? 評論 124美聯儲降息25個基點,鮑威爾:若特朗普... 評論 144最新聞 Hot
-
看完這部紀錄片,網友吵起來了
-
“特朗普回歸,這個領域又讓中國贏一局”
-
“特朗普贏了,他們要回家了”
-
“從中國懷里拉走”?
-
美國農民@特朗普:又我挨中國揍?
-
法國外長到訪前,以色列在“法國領地”扣押兩名法國憲兵
-
美聯儲降息25個基點,鮑威爾:若特朗普...
-
德高官焦慮:若特朗普從烏克蘭抽身,中國就贏了
-
“特朗普真男人”“快速停火就是自殺”,他倆同時發聲
-
普京:有些人嘴上承認“一中”,身體卻不老實
-
民主黨拋棄了工人階級?白宮回應桑德斯
-
印度政府智庫:這個中國“圈子”,咱還是得加入
-
“特朗普2.0”將至,日本很揪心
-
他押注特朗普勝,將贏下近5000萬美元,竟有訣竅?
-
“助我勝選”,特朗普任命她為首位女性白宮幕僚長
-
遭外資創紀錄拋售近110億美元,印度股市大跌
-