-
因?yàn)橄嘈臕I聊天機(jī)器人有靈魂,谷歌工程師快要被炒了
-
周毅“平蕪盡處是春山。”
據(jù)《華爾街日?qǐng)?bào)》6月13日消息,谷歌一位軟件工程師表示,有“開(kāi)放式對(duì)話黑科技”之稱(chēng)的谷歌人工智能聊天機(jī)器人LaMDA已經(jīng)有了人一樣的感知力,甚至具有了人的“靈魂”。隨后,谷歌暫停了他的職務(wù),并否認(rèn)了他的說(shuō)法。當(dāng)事人稱(chēng),因?yàn)檫`反公司的保密協(xié)議,現(xiàn)在他快被解雇了。
LaMDA,為啥被叫做“黑科技”?
LaMDA的全稱(chēng)是LanguageModel for Dialogue Applications,它是一種能力更強(qiáng)的語(yǔ)言模型,適用于對(duì)話應(yīng)用程序。簡(jiǎn)單來(lái)說(shuō),它是一種可以讓人工智能對(duì)話機(jī)器人告別“智障”的技術(shù)。
現(xiàn)在大多數(shù)的智能助手,往往遵守狹窄的、預(yù)先定義好的對(duì)話路徑,即它們不具備開(kāi)放式對(duì)話、連續(xù)式對(duì)話的能力。很多語(yǔ)音助手“智障”就體現(xiàn)在這一方面:它只能孤立地理解我們的提問(wèn),孤立地理解和提供答案,它們既不會(huì)聯(lián)系上下文語(yǔ)境,也沒(méi)法長(zhǎng)時(shí)期跟我們聊下去。
LaMDA問(wèn)世后被人稱(chēng)為“黑科技”,就是因?yàn)樗梢酝ㄟ^(guò)閱讀句子或段落,來(lái)“破譯”對(duì)話意圖,發(fā)現(xiàn)單詞之間的關(guān)聯(lián),并預(yù)測(cè)接下來(lái)可能出現(xiàn)的單詞,從而做出合乎語(yǔ)境的回答。這也就是所謂的“開(kāi)放域”(Open Domain)對(duì)話能力。
出自谷歌的一段資料顯示,當(dāng)被問(wèn)道“(成為)一架真正好的紙飛機(jī)的秘訣是什么?”時(shí),LaMDA表示:“我首先要反問(wèn)你,你指的‘好’,它的定義是什么?”通常來(lái)說(shuō),這種靈活性是我們之前的很多“智能助手”所不具備的。據(jù)谷歌介紹,LaMDA不僅追求事實(shí)、理智,甚至還會(huì)關(guān)注幽默感等能力。
圖源谷歌
工程師稱(chēng)AI聊天機(jī)器人有靈魂,谷歌:沒(méi)證據(jù)
爭(zhēng)吵現(xiàn)在出現(xiàn)了。
據(jù)《華爾街日?qǐng)?bào)》報(bào)道,谷歌軟件工程師勒莫因(Blake Lemoine)表示,他認(rèn)為L(zhǎng)aMDA是一個(gè)有權(quán)利(rights)、甚至還可能有靈魂的“人”。據(jù)《紐約時(shí)報(bào)》報(bào)道,該言論其實(shí)由來(lái)已久:近幾個(gè)月來(lái),勒莫因一直在和谷歌的經(jīng)理、人力和高管爭(zhēng)執(zhí),勒莫因堅(jiān)稱(chēng),LaMDA具有意識(shí)(consciousness)和靈魂(soul)。
不過(guò)谷歌方面很快否認(rèn)了他的說(shuō)法。谷歌發(fā)言人表示,包括倫理學(xué)家和技術(shù)專(zhuān)家在內(nèi)的公司專(zhuān)家已經(jīng)展開(kāi)了評(píng)估,相關(guān)證據(jù)并不支持勒莫因的說(shuō)法。“數(shù)以百計(jì)的研究人員和工程師與LaMDA進(jìn)行了對(duì)話,就我們所知,沒(méi)有其他人像勒莫因那樣,對(duì)LaMDA進(jìn)行了廣泛的認(rèn)定或擬人化。”
谷歌方面還稱(chēng),人工智能領(lǐng)域的一些人,正在考慮人工智能具有感知力的長(zhǎng)期可能性,但“通過(guò)將沒(méi)有感知力的對(duì)話工具擬人化來(lái)這樣做,是沒(méi)有意義的”。谷歌稱(chēng),像LaMDA這樣的系統(tǒng),其運(yùn)行方式是模仿數(shù)以百萬(wàn)句人類(lèi)對(duì)話中的交流模型,從而讓AI能夠展開(kāi)深入的交流。
Meta首席科學(xué)家、圖靈獎(jiǎng)獲得者Yann LeCun表示,谷歌的技術(shù),即科學(xué)家所說(shuō)的神經(jīng)網(wǎng)絡(luò),是通過(guò)分析大量數(shù)據(jù)來(lái)學(xué)習(xí)技能的數(shù)學(xué)系統(tǒng)。近年來(lái),谷歌等企業(yè)通過(guò)從大量散文、書(shū)籍、百科文章,對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí),讓這些“語(yǔ)言模型”可以適用于很多任務(wù),比如寫(xiě)文章、回答問(wèn)題等等。
但是它們有極大的缺陷:比如它們不穩(wěn)定,有時(shí)候會(huì)寫(xiě)出完美的散文,有時(shí)候則胡說(shuō)八道;它們依賴于重現(xiàn)(recreating)自己過(guò)去看到的模式,但它們無(wú)法像人類(lèi)一樣推理思考(reason)。
道德問(wèn)題引爭(zhēng)議,谷歌和員工再鬧不愉快
雙方的矛盾,不僅僅停留在“LaMDA是不是人”層面,它還衍生出了有關(guān)倫理和道德的爭(zhēng)吵。
“在過(guò)去的六個(gè)月里,LaMDA在其溝通中表現(xiàn)出令人難以置信的一致性,即它想要什么,以及它認(rèn)為它作為一個(gè)人的權(quán)利是什么,”美國(guó)陸軍出身的勒莫因認(rèn)為,LaMDA的智識(shí)相當(dāng)于“7歲或者8歲的孩子”。既然LaMDA具有開(kāi)放式對(duì)話的能力,那么谷歌在對(duì)它展開(kāi)實(shí)驗(yàn)之前,應(yīng)該先征求它的同意。
勒莫因稱(chēng),谷歌對(duì)此建議置之不顧,反倒建議他休精神健康假,“他們一直在質(zhì)疑我的理智,還問(wèn)我:你去看過(guò)精神病醫(yī)生了嗎?”據(jù)《紐約時(shí)報(bào)》透露,勒莫因還在在線出版平臺(tái)Medium上的一篇文章中寫(xiě)道:“讓我感到困惑的是,它(LaMDA)的要求如此簡(jiǎn)單,而且對(duì)谷歌來(lái)說(shuō)毫無(wú)成本,谷歌卻極其強(qiáng)烈地抵制給予它想要的東西。”
在采訪中,勒莫因表示,因?yàn)檫`反公司的保密政策,他已經(jīng)于6月6日被安排帶薪行政休假。他解釋稱(chēng),他并不是想激怒公司,而是想為他認(rèn)為正確的事情發(fā)聲。雖然他很希望自己能保住在谷歌的工作,但是在一篇Medium帖子中,勒莫因透露,他可能很快就會(huì)被解雇。
這不是谷歌圍繞人工智能倫理問(wèn)題,第一次和員工鬧不愉快了。
去年12月,知名AI學(xué)者、人工智能倫理研究員格布魯(Timnit Gebru)被谷歌開(kāi)除。消息稱(chēng),谷歌在阻止格布魯有關(guān)人工智能系統(tǒng)偏見(jiàn)的研究發(fā)表后解雇了她。在推特等社交媒體上,隨后有上千名谷歌員工、科技行業(yè)專(zhuān)家和學(xué)者對(duì)她進(jìn)行了聲援。不少人指出,谷歌的行為,證明了它在AI倫理方面的不足,更可能使其員工不敢發(fā)表那些可能會(huì)傷害谷歌利益的重要研究成果。
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責(zé)任編輯: 周毅 
-
亞洲金融危機(jī)以來(lái)最低:日元跌破135關(guān)口
2022-06-13 17:59 觀網(wǎng)財(cái)經(jīng)-海外 -
股價(jià)一度暴漲100%,直播帶貨救活新東方?
2022-06-13 17:56 -
國(guó)辦:加強(qiáng)地方政府債務(wù)管理
2022-06-13 17:37 地方債 -
“同花順崩了”登上熱搜:受華為云影響、故障已恢復(fù)
2022-06-13 14:59 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
賈躍亭再被強(qiáng)制執(zhí)行1.48億元
2022-06-13 11:39 觀網(wǎng)財(cái)經(jīng)-互聯(lián)網(wǎng) -
林毅夫:面對(duì)美國(guó)如意算盤(pán),中國(guó)要看到自身有利條件
2022-06-13 09:34 觀網(wǎng)財(cái)經(jīng)-宏觀 -
面板行業(yè)遭遇“至暗時(shí)刻”,京東方TCL大減產(chǎn)救市?
2022-06-12 23:12 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
上合+RCEP,青島的新使命是什么?
2022-06-11 19:17 觀網(wǎng)財(cái)經(jīng)-金融 -
如何理解美國(guó)通脹再創(chuàng)新高?
2022-06-11 16:53 觀網(wǎng)財(cái)經(jīng)-海外 -
美國(guó)5月CPI同比上漲8.6%,創(chuàng)40年新高
2022-06-10 21:03 美國(guó)經(jīng)濟(jì) -
專(zhuān)家:當(dāng)前情況不同以往,建議盡快向居民發(fā)放直接生活補(bǔ)貼
2022-06-10 16:22 觀網(wǎng)財(cái)經(jīng)-宏觀 -
5月社融增量2.79萬(wàn)億元,比上年同期多8399億元
2022-06-10 16:15 觀網(wǎng)財(cái)經(jīng)-宏觀 -
寧德時(shí)代否認(rèn)“期貨投資損失”傳聞
2022-06-10 12:52 觀網(wǎng)財(cái)經(jīng)-汽車(chē) -
中芯國(guó)際:美法院裁決,全部駁回對(duì)公司的民事訴訟
2022-06-10 11:16 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
英外相抗議赴烏參戰(zhàn)英國(guó)人被判死刑,被懟:你才是罪魁禍?zhǔn)?/a>
2022-06-10 11:14 烏克蘭之殤
相關(guān)推薦 -
-
“中國(guó)在非洲真正贏得了民心,就連斯威士蘭…” 評(píng)論 75“日企抱團(tuán)是絕望之舉,中國(guó)工廠效率質(zhì)量都是第一” 評(píng)論 123“她下月訪華,盡管特朗普?qǐng)F(tuán)隊(duì)表達(dá)了擔(dān)憂” 評(píng)論 54最新聞 Hot
-
“中國(guó)在非洲真正贏得了民心,就連斯威士蘭…”
-
“日企抱團(tuán)是絕望之舉,中國(guó)工廠效率質(zhì)量都是第一”
-
“中國(guó)有能力讓夢(mèng)想照進(jìn)現(xiàn)實(shí),將贏得史詩(shī)般競(jìng)爭(zhēng)”
-
被災(zāi)民暴罵到當(dāng)場(chǎng)破防,馬克龍發(fā)飆:你該慶幸你在法國(guó)!
-
美高校敦促國(guó)際學(xué)生抓緊回來(lái):萬(wàn)一把中印拉黑名單呢
-
美國(guó)政府“逃過(guò)一劫”
-
“澤連斯基要求歐盟新外長(zhǎng):對(duì)華批評(píng)要降調(diào)”
-
澳大利亞來(lái)了,中國(guó)就得走人?澳總理這么回應(yīng)
-
美媒感慨:基建狂魔發(fā)力,我們又要被超越了
-
英國(guó)剛公布新任大使,特朗普顧問(wèn)就痛罵:傻X
-
“來(lái)自中國(guó)的老大哥能確保我們…”
-
俄羅斯的報(bào)復(fù)來(lái)了
-
澤連斯基罵普京“傻子”,俄方怒斥
-
還在扯皮中國(guó),“涉華條款全刪了”
-
中國(guó)“光伏OPEC”發(fā)文嚴(yán)厲質(zhì)問(wèn)央企,怎么回事?
-
“最后一道貿(mào)易障礙,中國(guó)解除了!”
-