-
謝耘:治理“生成式人工智能”,相當(dāng)于要管人的思想
最后更新: 2024-05-08 20:15:57觀察者網(wǎng):這是否會(huì)產(chǎn)生一個(gè)“空轉(zhuǎn)”的問(wèn)題呢?因?yàn)殡m然我們進(jìn)入了“暴力計(jì)算”時(shí)代,算力極大豐富,但是算力仍然要消耗物質(zhì)世界大量的能源和資源。這就在全人類社會(huì)的層面上產(chǎn)生了一個(gè)效率問(wèn)題,如果不能提升社會(huì)的生產(chǎn)力,而只是產(chǎn)生一個(gè)夢(mèng)境在“空轉(zhuǎn)”的話,這在資本邏輯上是成立的,但是會(huì)在物質(zhì)層面帶來(lái)大量的“浪費(fèi)”。
謝耘:這是一個(gè)風(fēng)險(xiǎn),人類的意識(shí)借助計(jì)算機(jī)擴(kuò)展到社會(huì)各個(gè)領(lǐng)域,而且空前地被加強(qiáng)了,這可能會(huì)讓人類更加脫離物質(zhì)層面,沉浸在意識(shí)世界里,顛來(lái)倒去地搞一些東西,也就是你說(shuō)的“空轉(zhuǎn)”。
在農(nóng)業(yè)社會(huì),我們的生存空間基本上就是一個(gè)自然世界;在工業(yè)社會(huì),絕大多數(shù)人生活在城市,城市是一個(gè)人工世界,這個(gè)時(shí)候人類和自然是一種對(duì)立的關(guān)系,人類要征服自然,要?jiǎng)儕Z自然;到智能紀(jì)元之后,我們的生存空間變得更復(fù)雜,出現(xiàn)了一個(gè)虛擬的網(wǎng)絡(luò)空間,所以人類今天的生存空間是自然空間、人工物質(zhì)空間和虛擬網(wǎng)絡(luò)空間,這三個(gè)空間的復(fù)合。現(xiàn)在,很多人試圖把網(wǎng)絡(luò)空間獨(dú)立化,也就是“元宇宙”,在這個(gè)虛擬空間里我們確實(shí)可以不受物理規(guī)律限制,完全自由地暢行。
但這還是會(huì)遇到物質(zhì)的制約,“暴力計(jì)算”需要消耗大量能源,制造芯片也需要現(xiàn)實(shí)產(chǎn)能,人對(duì)算力的追求幾乎可以是無(wú)限的,現(xiàn)有資源是不可能匹配無(wú)限的。
同時(shí),還出現(xiàn)了一個(gè)非常嚴(yán)重的問(wèn)題:人與自然分離的傾向。我們看到過(guò)新聞,有的孩子沉迷電子游戲產(chǎn)生各種各樣的問(wèn)題,實(shí)際上不僅是孩子,這是一個(gè)關(guān)于生命意義的非常深刻的哲學(xué)層面的問(wèn)題。
物質(zhì)世界和虛擬世界是什么關(guān)系?人類和虛擬世界是什么關(guān)系?我們要不要離物質(zhì)世界越來(lái)越遠(yuǎn),進(jìn)入到由思維創(chuàng)造的意識(shí)世界里面去?
觀察者網(wǎng):這是不是跟“物質(zhì)第一性”還是“意識(shí)第一性”有關(guān)的話題,我會(huì)聯(lián)想到馬克思當(dāng)時(shí)對(duì)資本主義的批判,因?yàn)橘Y本主義的生產(chǎn)方式就是資本家的意志強(qiáng)加于物質(zhì)生產(chǎn)之上,所謂“木腦袋倒立在地上自己跳舞”,不管這個(gè)物質(zhì)世界的“實(shí)然”是怎樣的,它就是追求一個(gè)意識(shí)的“應(yīng)然”的資本增殖。
謝耘:對(duì),按照馬克思的說(shuō)法,資本最后追求的是資本無(wú)限增殖這么一個(gè)虛無(wú)縹緲的目的。所謂資本增殖,其實(shí)就是脫離實(shí)質(zhì)的物質(zhì)生產(chǎn),就活在意識(shí)世界里面。如果按照這個(gè)邏輯,我們面臨的挑戰(zhàn)非常大、非?,F(xiàn)實(shí)、而且非常本質(zhì),甚至觸及到人類生存的價(jià)值問(wèn)題。
比如“數(shù)字孿生”,是人類又創(chuàng)造出另外一個(gè)和現(xiàn)實(shí)世界一樣的世界嗎?不是的。物質(zhì)世界和虛擬世界之間是一個(gè)映像的關(guān)系,而不是孿生的關(guān)系。
什么叫孿生?是指兩個(gè)世界是對(duì)等的關(guān)系。你的照片和你是對(duì)等的關(guān)系嗎?不是,它是映像的關(guān)系。所以,當(dāng)我們把物質(zhì)世界信息化,放到虛擬世界里之后,它只是物質(zhì)世界里的一個(gè)映像,而絕不是一個(gè)孿生。
第二,兩者也不是同一關(guān)系。同一關(guān)系是兩者密不可分,但現(xiàn)實(shí)世界與虛擬世界不是密不可分。舉個(gè)例子,區(qū)塊鏈產(chǎn)業(yè)化的謊言之一就是物品溯源,區(qū)塊鏈的系統(tǒng)的數(shù)據(jù)是高度可信任、可追溯、不可篡改的,但這三個(gè)屬性僅僅是指向區(qū)塊鏈中的數(shù)據(jù),而我們要溯源的是物質(zhì)世界中的商品,區(qū)塊鏈中的數(shù)據(jù)能和物質(zhì)世界中的商品在時(shí)空上牢牢綁在一起嗎?做不到。
所以,對(duì)信息技術(shù)要辯證地看,它是人類意識(shí)性的工具,意識(shí)可以反作用于物質(zhì),但意識(shí)世界不是物質(zhì)世界。
觀察者網(wǎng):很有趣,能不能再談一下“生成式人工智能”相對(duì)于信息技術(shù)的一般性和特殊性在哪里?為什么這次突然讓大眾對(duì)它產(chǎn)生了強(qiáng)烈的感知?
謝耘:我覺(jué)得這一次引起大眾的強(qiáng)烈反應(yīng),就在于大家發(fā)現(xiàn)機(jī)器確實(shí)能和你說(shuō)話。給大眾的震撼更多是一種感性體驗(yàn)帶來(lái)的。
從技術(shù)本質(zhì)上來(lái)講,人工智能這一輪進(jìn)步并不是因?yàn)槲覀儗?duì)智能原理有了新的認(rèn)識(shí),包括大模型等等的技術(shù)核心主要還是依賴于大量的數(shù)據(jù)統(tǒng)計(jì),在這一點(diǎn)上,目前大家是有共識(shí)的。假設(shè)這個(gè)結(jié)論是正確的話,那就要說(shuō)一下數(shù)據(jù)統(tǒng)計(jì)的技術(shù)能做到什么和不能做到什么。
從信息論的角度來(lái)講,數(shù)據(jù)統(tǒng)計(jì)作為一種信息處理方式,它輸出的信息量一定小于輸入的信息量,也就是說(shuō),它不可能產(chǎn)生更多的信息。
第二,它輸出的信息本質(zhì)上都包含在輸入的信息當(dāng)中。這句話非常重要,只不過(guò)它把輸入的某些信息做了進(jìn)行了篩選、過(guò)濾、組合,或者以新的方式展示。
換句話說(shuō),它只是在輸入的集合當(dāng)中做事情,其產(chǎn)出也沒(méi)超出這個(gè)集合。但是,因?yàn)槟P偷男畔⒘糠浅4?,所以?duì)于一個(gè)人類個(gè)體來(lái)講,他會(huì)覺(jué)得很新鮮。但是相對(duì)于向機(jī)器輸入的大量數(shù)據(jù)來(lái)講,這些信息在本質(zhì)層面不是什么新鮮的東西,沒(méi)有增加新的東西給這個(gè)世界,這一點(diǎn)非常重要。
觀察者網(wǎng):我們?cè)瓉?lái)去訓(xùn)練人工智能,期望的一個(gè)方向是它能夠給我們確定性的結(jié)果,告訴我們一個(gè)精確的東西,從而推動(dòng)產(chǎn)業(yè)應(yīng)用。但ChatGPT不是,它正是犧牲了精確性,來(lái)使大眾感覺(jué)它是一個(gè)“真人”。
謝耘:其實(shí)人類在用到人工智能這種統(tǒng)計(jì)方法之前,我們都希望工具給出一個(gè)確定性的結(jié)果,包括用計(jì)算機(jī)做計(jì)算。
但現(xiàn)在基于統(tǒng)計(jì)的這些人工智能的方法,給出的是概率性的結(jié)果,所以,我們不能把它和以前的工具和方法等量齊觀地去看待。
觀察者網(wǎng):既然它是一個(gè)意識(shí)的工具,我們是不是需要擔(dān)心來(lái)自少數(shù)人的意識(shí),尤其是可能來(lái)自境外的意識(shí),通過(guò)信息技術(shù)的賦能,來(lái)影響多數(shù)人的思維和行為的方式?
謝耘:確實(shí)非常危險(xiǎn),這不僅是社會(huì)問(wèn)題,首先還是個(gè)體問(wèn)題,如果一個(gè)人沒(méi)有很強(qiáng)的獨(dú)立意識(shí)的話,是很容易被別人左右的。
信息技術(shù)的發(fā)展讓影響他人的意識(shí)這件事變得更加高效,甚至更加隱蔽。機(jī)器學(xué)習(xí)或者機(jī)器搜索出來(lái)的結(jié)果,不是中立的,它是被人訓(xùn)練出來(lái)的,它有人的“外意識(shí)”的本質(zhì)。
觀察者網(wǎng):但是像傳統(tǒng)的教育,其實(shí)也是這樣的一個(gè)過(guò)程,只是現(xiàn)在它產(chǎn)生了一個(gè)效率上的提升,是不是能夠這樣理解?
謝耘:它影響的規(guī)??涨?,借助網(wǎng)絡(luò),可以輕易實(shí)現(xiàn)復(fù)制、傳播等等,在一件事情規(guī)模有限的時(shí)候,社會(huì)對(duì)它進(jìn)行管理是比較容易的,如果規(guī)模巨大之后,管理是非常困難的。
觀察者網(wǎng):那么如果站在政府立場(chǎng)要去治理它,可以有哪些抓手呢?
謝耘:我確實(shí)沒(méi)有站在政府的角度仔細(xì)考慮過(guò)到底該怎么治理的問(wèn)題,
但是虛擬空間有其賴以存在的一個(gè)基礎(chǔ)和兩個(gè)錨點(diǎn)。這是否能作為治理的抓手?我們可以討論。
首先,構(gòu)建虛擬空間的基礎(chǔ)就是邏輯數(shù)值計(jì)算。
其次,它有兩個(gè)錨點(diǎn),一個(gè)錨點(diǎn)是人,人類在創(chuàng)造這個(gè)空間,空間中的東西最終又被人所利用;第二個(gè)錨點(diǎn)是物質(zhì)世界,人的意識(shí)不能獨(dú)立于物質(zhì)世界而存在,虛擬世界作為“外意識(shí)”,其信息同樣來(lái)源于物質(zhì)世界,信息從物質(zhì)世界進(jìn)入虛擬空間,在虛擬空間被處理完之后,又回到物質(zhì)世界,應(yīng)用在物質(zhì)世界之上。
所以整個(gè)虛擬世界有一個(gè)基本的內(nèi)在的基礎(chǔ),有兩個(gè)外部的錨點(diǎn),不論它怎么發(fā)展,這三個(gè)要素是不會(huì)變的。
觀察者網(wǎng):能不能從“兩個(gè)錨點(diǎn)”的視角來(lái)看這次的《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》?
謝耘:不論利用信息技術(shù)做什么,終歸應(yīng)當(dāng)是服務(wù)于人,也就是服務(wù)于我們真實(shí)社會(huì)的,這是一個(gè)基本的出發(fā)點(diǎn)。
要治理“生成式人工智能”,一個(gè)抓手當(dāng)然是“人”,也就是現(xiàn)有的社會(huì)秩序。所以《征求意見(jiàn)稿》開(kāi)宗明義,其依據(jù)是一系列現(xiàn)有法律和行政法規(guī)制定;其次,“研發(fā)、利用生成式人工智能產(chǎn)品,面向中華人民共和國(guó)境內(nèi)公眾提供服務(wù)的,適用本辦法”,這就是說(shuō),不但本土相關(guān)企業(yè)要守規(guī)矩,境外的公司的相關(guān)產(chǎn)品或服務(wù)如果要進(jìn)來(lái),也要守規(guī)矩。
在《征求意見(jiàn)稿》中非常強(qiáng)調(diào)技術(shù)提供者的責(zé)任,把技術(shù)提供者作為主要管理目標(biāo)。因?yàn)橐庾R(shí)性工具和物質(zhì)性工具不一樣,物質(zhì)性工具的生產(chǎn)者,一般生產(chǎn)一個(gè)靜態(tài)的東西,只要產(chǎn)品符合標(biāo)準(zhǔn),就完成了主體責(zé)任;而意識(shí)性工具提供者的產(chǎn)品很難界定,它是一個(gè)“活的”東西,所以必須持續(xù)強(qiáng)調(diào)技術(shù)提供者的責(zé)任。另外,如果針對(duì)技術(shù)使用者,可能執(zhí)法成本太高,因?yàn)槟鞘敲鎸?duì)不特定的多數(shù)人,而技術(shù)提供者由于受物質(zhì)條件限制,必然是少數(shù)“中心化”的大型企業(yè),擁有龐大的資產(chǎn)和能力,也依賴其他組織的能源和資源供給,把它們作為治理抓手,也等于抓住了“物質(zhì)世界”這個(gè)錨點(diǎn)。
我認(rèn)為值得商榷的是第四條第四款,“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確,采取措施防止生成虛假信息”,可能征求意見(jiàn)稿的起草者還沒(méi)有明確理解“意識(shí)性工具”的特點(diǎn),要求意識(shí)確?!罢_”是不具有可操作性的。
觀察者網(wǎng):最后一個(gè)問(wèn)題,在這樣的一個(gè)大趨勢(shì)當(dāng)中,個(gè)人應(yīng)該做怎樣的努力?對(duì)于學(xué)生或者年輕人,你有什么建議?
謝耘:我有三個(gè)建議,第一,如果真的要想查準(zhǔn)確的資料,建議不要放棄傳統(tǒng)的搜索工具,那樣能直接查到原始的資料,可以看到原始資料到底它講了什么,而不是通過(guò)生成人工智能組合出來(lái)的一個(gè)答案,
因?yàn)榻M合就有信息的損失。如果真的做嚴(yán)肅工作,查原始資料還是非常重要的,找到原汁原味第一手的東西,就不至于受有意或者無(wú)意的誤導(dǎo)。
第二,在使用生成式人工智能工具的時(shí)候,一定要記住,得到的答案不一定對(duì),要堅(jiān)持存疑,我建議使用時(shí)還是要用其他的渠道加以印證,防止自己被數(shù)據(jù)統(tǒng)計(jì)導(dǎo)致的概率性或算法本身固有的其他局限給誤導(dǎo)。
第三,即使生成式人工智能可以幫你干很多事,但不要依賴它。對(duì)于人的智能來(lái)說(shuō),用進(jìn)廢退是一個(gè)規(guī)律,只有通過(guò)不斷實(shí)踐,對(duì)問(wèn)題的認(rèn)識(shí)才會(huì)不斷深化。即使是一些基礎(chǔ)的事情,也應(yīng)該把它當(dāng)做一種必要的鍛煉,才能避免智力的退化,我發(fā)現(xiàn)在互聯(lián)網(wǎng)時(shí)代,智力退化是一種比較普遍的現(xiàn)象。
附1:《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》
附2:《從凡夫到“上帝”:信息技術(shù)的意識(shí)本質(zhì)與未來(lái)發(fā)展》線下研討會(huì)視頻
本文系觀察者網(wǎng)獨(dú)家稿件,文章內(nèi)容純屬作者個(gè)人觀點(diǎn),不代表平臺(tái)觀點(diǎn),未經(jīng)授權(quán),不得轉(zhuǎn)載,否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn,每日閱讀趣味文章。
-
本文僅代表作者個(gè)人觀點(diǎn)。
- 責(zé)任編輯: 周遠(yuǎn)方 
-
國(guó)際首次!“量子模擬的圣杯之一”,我國(guó)科學(xué)家取得重大進(jìn)展
2024-05-06 12:12 科技前沿 -
嫦娥六號(hào)成功發(fā)射!開(kāi)啟人類首次月球背面取樣之旅
2024-05-03 17:19 航空航天 -
環(huán)環(huán)相扣、步步關(guān)鍵!嫦娥六號(hào)月背出差之旅日程表
2024-05-03 16:22 航空航天 -
今天上午太陽(yáng)爆發(fā)強(qiáng)耀斑,對(duì)我國(guó)上空電離層產(chǎn)生影響
2024-05-03 14:09 天文 -
嫦娥六號(hào)任務(wù)首選窗口瞄準(zhǔn)今日17時(shí)27分發(fā)射
2024-05-03 07:39 航空航天 -
嫦娥六號(hào)計(jì)劃5月3日發(fā)射
2024-05-01 18:26 航空航天 -
準(zhǔn)備就緒!嫦娥六號(hào)完成發(fā)射前最后一次系統(tǒng)間全區(qū)合練
2024-05-01 15:52 航空航天 -
幣安創(chuàng)始人趙長(zhǎng)鵬被判4個(gè)月監(jiān)禁
2024-05-01 10:10 瘋狂比特幣 -
中美研究合作:核聚變實(shí)驗(yàn)實(shí)現(xiàn)兩方面關(guān)鍵技術(shù)突破
2024-04-30 07:33 科技前沿 -
刷新紀(jì)錄!這一國(guó)產(chǎn)芯片交付
2024-04-26 09:13 科技前沿 -
?華為官宣:盤古大模型5.0將和“純血鴻蒙”一同亮相
2024-04-25 10:37 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
楊利偉獲得錢學(xué)森最高成就獎(jiǎng)
2024-04-24 15:36 航空航天 -
“80后”神十八乘組亮相 簡(jiǎn)歷來(lái)了
2024-04-24 11:13 航空航天 -
中國(guó)將實(shí)施國(guó)內(nèi)首次在軌水生生態(tài)研究項(xiàng)目
2024-04-24 09:40 航空航天 -
《三體》重要情節(jié)被驗(yàn)證?中國(guó)科學(xué)家首次觀測(cè)到電磁波動(dòng)態(tài)傳播
2024-04-23 20:29 三體 -
阿斯麥:不走了,就在荷蘭擴(kuò)張
2024-04-23 11:08 觀網(wǎng)財(cái)經(jīng)-海外 -
神十八發(fā)射場(chǎng)區(qū)全系統(tǒng)合練,近日將擇機(jī)發(fā)射
2024-04-21 16:56 航空航天
相關(guān)推薦 -
“中國(guó)提議交換樣本,美方至今沒(méi)吭聲” 評(píng)論 90“他,殺死了美國(guó)司法” 評(píng)論 175五角大樓“緊張”:一旦他下這種命令,該如何應(yīng)對(duì)? 評(píng)論 187這個(gè)對(duì)華“鷹派”,即將回鍋? 評(píng)論 166最新聞 Hot
-
“中國(guó)提議交換樣本,美方至今沒(méi)吭聲”
-
伊朗緊急否認(rèn):希望與美國(guó)建立信任
-
為防特朗普,民主黨要提前換掉她?
-
新仇舊恨,“特朗普上臺(tái)后將對(duì)伊朗祭出最強(qiáng)制裁”
-
“他,殺死了美國(guó)司法”
-
避免特朗普加稅,歐盟想……
-
“他們連餅都不愿畫,我們必須反方向跑了”
-
五角大樓“緊張”:一旦他下這種命令,該如何應(yīng)對(duì)?
-
“甩鍋大戲”開(kāi)鑼
-
這個(gè)對(duì)華“鷹派”,即將回鍋?
-
“重大轉(zhuǎn)變”!拜登政府解除這一禁令
-
“澤連斯基祝賀,馬斯克接了電話”
-
看完這部紀(jì)錄片,網(wǎng)友吵起來(lái)了
-
“特朗普回歸,這個(gè)領(lǐng)域又讓中國(guó)贏一局”
-
“特朗普贏了,他們要回家了”
-
“從中國(guó)懷里拉走”?
-