-
謝耘:治理“生成式人工智能”,相當于要管人的思想
最后更新: 2024-05-08 20:15:57誕生于1946年的電子計算機,把人類帶入了“智能紀元”。它是一種“意識工具”,不同于人類以往所有的“物質工具”。2010年以來,算力資源的量變帶來質變,到了2023年,這一變化終于使更多普通人得以感知,也帶來了巨大的治理挑戰。
這方面,中國已經開始行動。4月11日,國家互聯網信息辦公室起草的《生成式人工智能服務管理辦法(征求意見稿)》向社會公開征求意見,意見反饋截止時間為2023年5月10日。觀察者網就相關話題對話清華大學電子工程系博士、中科院工程序列任職資格評審委員會主任、北京東方通科技股份有限公司首席科學家謝耘,實錄如下:
觀察者網:3月份以來,基于OpenAI自然語言大模型GPT3.5的ChatGPT成為焦點。它不但引爆輿論、席卷國內資本市場,而且讓國家互聯網信息辦公室迅速起草《生成式人工智能服務管理辦法(征求意見稿)》并公開征求意見。我們也想請您就這個話題做一些討論,您認為,從社會治理角度來說,挑戰主要來自哪里?
謝耘:這是一個比較大也比較深刻的話題。我此前在不同場合說過,信息技術為人類帶來了一種“意識工具”,它不同于人類以往所有的“物質工具”,因此,誕生于1946年的電子計算機把人類帶入了“智能紀元”。只不過,它之前的能力還比較弱小,很多人沒有意識到這種變化的重要性,但是2010年以來,算力資源的量變帶來質變,到了2023年,這一變化終于使更多普通人得以感知。
為了便于理解,我想稍微展開一下,先從信息技術的本質說起。現在主流的科技界認為,信息是構成世界的三大要素之一,一是物質,一是能量,一是信息。雖然這個說法寫進了標準的教科書,但我認為這是錯的,至少“信息技術”涉及的信息不是客觀的。舉個例子,人類曾經擁有的儲藏知識信息最集中的地方是什么?是圖書館。那么,假設人類消失了,圖書館里所有的藏品還具有任何“信息”的意義嗎?那些紙上印的也罷,數字化的也罷,它還會和客觀世界的任何東西發生互動嗎?所以,信息是人的意識層面的東西。
再來談計算機,計算機本質上是用于對數字化的信息做可編程的邏輯數值計算與處理,其中有兩個要素,第一,是數字化的信息;第二,對邏輯數值計算與處理。
信息,它既是人的意識活動的產物,也是人的意識活動的最核心要素,信息本質上是意識范疇的存在,而與信息相關的活動,本質上都是意識性的活動。
程序,是人們對邏輯數值的計算與處理的操作,把這些操作排成序列,用它來處理信息。這個過程屬于物質性過程還是意識性過程?顯然是意識性的過程,它把原來在大腦里進行的意識過程外化,變成一段程序,交給計算機去做。
這是我基本的分析邏輯。第一,信息屬于意識范疇;第二,與信息相關的過程本質上都是意識過程;第三,計算機程序是人的意識的一種外化,計算機運行的過程,其實是一種意識性的過程。
原先,所有的意識都局限在人類每個人的腦袋里,計算機的出現讓意識從我們的大腦里蹦出來,從而脫離了我們的大腦,可以由計算機的CPU去做,所以,信息技術應用本質上就是人的內意識的外化,我管它叫“外意識”。這就是計算機的“意識性工具”的本質。
我們國家有一個部委的名稱是“工業和信息化部”,大家有沒有注意過,這個名字很奇怪?我的看法是,它意味著信息化這個概念是沒法包含在工業范疇內的。回望人類科學技術發展的總過程,科技是第一生產力,人類文明的發展是由工具的不斷進步來推動的,直到電子計算機出現之前,我們工具的主線是作用于物質對象。人類演化幾十萬年以來,我們所有的工具都是物質性的工具,這不是說工具本身是物質,而是說這個工具的作用是物質性的作用,概無例外。
直到1946年,計算機出現,人類第一次有了一個意識性的工具。這個工具作用的對象不是物質,而是作用在意識對象上。從此開始,主線發生了分叉,人類擁有了兩種工具,一種是物質性的工具,一種是意識性的工具。這兩種工具不是割裂開的,意識性的工具是建立在物質科學基礎之上的,但反過來,意識性的工具,又可以植入到物質性的工具里,比如讓汽車變成智能汽車。
所以我認為,人類文明從1946年開始進入了一個全新的紀元。
但是,人類創造計算機的時候,沒有完全意識到這件事情,一是由于思維慣性,因為我們之前所有的工具都是物質性的工具;二是計算機誕生之初還很弱,沒有展現出那么強的顛覆性。直到2010年,計算機的算力從量變積累到了質變。1976年,美國制造了第一臺超級計算機,運算速度是每秒1億次浮點運算,中國1983年造了第一臺超級計算機,也是每秒1億次浮點運算。這都是當年的國之重器,這樣的算力,只能勉強處理圖片,但我們今天的每部手機都能處理視頻,這不是一個數量級的進步。
在2010年前,信息產業業界最大的事情往往是英特爾發布了新的處理器,今天,沒有人再關心處理器的問題,因為算力極大豐富了。也就是在2010年前后,大數據應用涌現了,因為算力能夠支撐了;人工智能熱起來了,因為人工智能本質上是一個數據統計技術,也需要大量算力。2010年之后,計算機硬件的能力不再制約軟件的發展,信息技術產業“意識性”的特質,自此才逐步顯現出來,無論是區塊鏈,還是深度學習的人工神經網絡,這些創新都是不受物理規律限制的,因為它是一種意識范疇的創新。
回到你的問題,“生成式人工智能”帶來的挑戰,實際上起始于1946年“智能紀元”的開端,它是人類社會共同面臨的一次變革,只不過現在才顯現出來。
計算機是一個意識工具,這是一個非常本質的事情,帶來的挑戰非常大,要治理“生成式人工智能”,相當于要管人的思想。幾千年來,人類對于怎么管理物質還是積累了足夠多的經驗,一旦涉及到精神意識層面,其實就有點亂。從倫理、道德、宗教、意識形態、各路學說等等,都是這樣,這不光是中國的問題,美國對互聯網的治理同樣亂象叢生,因為人類沒有對意識領域的治理積累足夠的經驗。
觀察者網:我插一個小問題,您剛才舉的一個例子說,圖書館是人類信息的集中地,如果我們順著這個思路,那么在人類發展的歷史中,其實已經有若干次這樣的信息爆炸,也伴隨著時代變化的挑戰,首先是出現文字,然后是紙的發明,接著是印刷術,然后是活字印刷術,那么計算機或者人工智能帶來最新的一次信息爆炸,一是必然帶來社會變革,二是只是一系列挑戰之一,能否這樣理解?
謝耘:我們可以說,這些某種意義上也是信息的革命,比如出現文字,但它只是“信息”的記錄和傳播,也就是說記錄和傳播“意識的產物”,比如報紙上的文章,它已經是靜態的東西了。但信息技術處理的是意識的活動,它是“活的”,在這個意義上,它完全上了一個檔次。
觀察者網:能不能認為這是生產力發展對生產關系的一個挑戰?
謝耘:我覺得這要從兩方面看,首先,它是生產力的一種發展,傳統的生產力指的是通過物質性工具創造物質財富的手段,那么,信息技術作為意識性工具,它能賦能物質性工具,提高其創造物質財富的能力。
信息技術的發展已經讓所有人受益。幾年前施瓦布提出“第四次工業革命”,新材料、新能源等等領域的新發展,背后真正的推動力都是信息技術。
近年來,材料科學發展突飛猛進,因為計算機可以做大量模擬,不像傳統那樣需要做大量物理、化學實驗,節省大量時間和資源成本。
再比如說醫療,現在的影像醫學與人工智能的結合速度非常快,極大提升了診斷效率。
信息技術解決了工業社會一直無法解決的一對矛盾,就是大規模生產與個性化無法統一的問題。信息技術賦能產業鏈之后,大規模的個性化生產成為可能。而且,定制化生產的衣服比標準化生產的衣服還要便宜。因為在標準化生產中,產能的安排遠落后于市場需求變化,往往導致大量的庫存積壓,這些成本最后仍然要平攤到消費者頭上,但是實現定制化柔性制造以后,按需生產就成為可能。
所以在以后的社會里,即使一個人不懂信息技術,他仍然非常可能受益于信息技術,實現很多個人的發展和追求。因為信息技術會成為社會的一個公共基礎,讓所有人受益。
同時,信息技術的另外一個屬性并不促進物質生產,而是直接介入了意識形態,比如電子游戲、AIGC等等,雖然沒有產生物質財富,但也能產生經濟活動。
-
本文僅代表作者個人觀點。
- 責任編輯: 周遠方 
-
國際首次!“量子模擬的圣杯之一”,我國科學家取得重大進展
2024-05-06 12:12 科技前沿 -
嫦娥六號成功發射!開啟人類首次月球背面取樣之旅
2024-05-03 17:19 航空航天 -
環環相扣、步步關鍵!嫦娥六號月背出差之旅日程表
2024-05-03 16:22 航空航天 -
今天上午太陽爆發強耀斑,對我國上空電離層產生影響
2024-05-03 14:09 天文 -
嫦娥六號任務首選窗口瞄準今日17時27分發射
2024-05-03 07:39 航空航天 -
嫦娥六號計劃5月3日發射
2024-05-01 18:26 航空航天 -
準備就緒!嫦娥六號完成發射前最后一次系統間全區合練
2024-05-01 15:52 航空航天 -
幣安創始人趙長鵬被判4個月監禁
2024-05-01 10:10 瘋狂比特幣 -
中美研究合作:核聚變實驗實現兩方面關鍵技術突破
2024-04-30 07:33 科技前沿 -
全球運營商最大單體智算中心投產:2萬張卡國產化率超85%
2024-04-28 15:14 觀網財經-科創 -
“5臺ASML極紫外光刻機就相當于2022年歐盟對華葡萄酒出口總額”
2024-04-27 09:01 觀網財經-海外 -
刷新紀錄!這一國產芯片交付
2024-04-26 09:13 科技前沿 -
?華為官宣:盤古大模型5.0將和“純血鴻蒙”一同亮相
2024-04-25 10:37 觀網財經-科創 -
楊利偉獲得錢學森最高成就獎
2024-04-24 15:36 航空航天 -
“80后”神十八乘組亮相 簡歷來了
2024-04-24 11:13 航空航天 -
中國將實施國內首次在軌水生生態研究項目
2024-04-24 09:40 航空航天 -
《三體》重要情節被驗證?中國科學家首次觀測到電磁波動態傳播
2024-04-23 20:29 三體 -
神舟十八號任務完成全區合練 發射場做好應對風沙天氣準備
2024-04-23 12:55 航空航天 -
阿斯麥:不走了,就在荷蘭擴張
2024-04-23 11:08 觀網財經-海外 -
神十八發射場區全系統合練,近日將擇機發射
2024-04-21 16:56 航空航天
相關推薦 -
最新聞 Hot
-
美高官:伊朗“即將”空襲以色列
-
近50年來首次大罷工,“全美一半遠洋運輸陷入停頓”
-
今天,華春瑩連發18組對比圖
-
歐盟想“邊打邊談”?
-
“超40家外航正在使用”,美官方發警告
-
“誰殺死特朗普我就給誰15萬美元”,他拒不認罪
-
斥資80億元打造上海薈聚,宜家母公司:對中國市場的信心毋庸置疑
-
以色列空襲大馬士革,敘利亞國家電視臺女主播喪生
-
“聯大應建議對于以色列動武”
-
“面對中國,歐洲不能學美國”
-
他離任前一天仍在挑事:土耳其不應參與中巴倡議
-
以軍發動“有限”地面入侵,黎軍撤離邊境
-
以軍開會照曝光:他的頭像被打“ ?”
-
石破茂實現“亞洲版北約”第一步?中方回應
-
特朗普的“黑暗演講”:他們將強奸、搶劫、盜竊、掠奪和殺害美國人
-
“只因對華合作,我遭網暴四年被列‘死亡名單’,一下回到中世紀”
-