-
熊節(jié):算法推薦終于可關(guān)閉,中國《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》開世界先河
【導(dǎo)讀】 3月1日起,國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式施行?!跋蛴脩籼峁┍憬莸年P(guān)閉算法推薦服務(wù)的選項”等規(guī)定,貼近用戶實際需求,而且在全球范圍內(nèi)開啟對具體算法加以監(jiān)管的先河,因此廣受關(guān)注。本文分析了相關(guān)規(guī)定的來龍去脈,以及未來可能的發(fā)展。
【文/ 觀察者網(wǎng)專欄作者 熊節(jié)】
手機上的App會“讀心術(shù)”早已不是秘密了。很多人有過這樣的體驗:剛和朋友聊天說到什么想買什么,轉(zhuǎn)眼就在某App里看見了這件商品;剛瀏覽了幾條某個主題的新聞,突然某App里就全是關(guān)于這件事的回答。
長期來,許多網(wǎng)民對這種情況感到不滿,甚至有點恐懼。
如今,一個開關(guān)“千呼萬喚始出來”,在許多常用App的“設(shè)置”頁,您應(yīng)該能找到“關(guān)閉個性化推薦”之類的選項。
筆者找到了“知乎”和“淘寶”的相關(guān)開關(guān)并親測:
為何各個常見的App悄悄給出了關(guān)閉個性化推薦的選項?原因是今年1月4日正式公布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(下文簡稱《規(guī)定》)中有這么一條:
第十七條 算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對其個人特征的選項,或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項。用戶選擇關(guān)閉算法推薦服務(wù)的,算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。
這份由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布的《規(guī)定》將于今年3月1日正式起施行。
據(jù)筆者所知,這是全世界第一個對算法推薦行為加以具體約束的法案。
歐洲的《數(shù)字市場法案》(DMA)中也有“不允許利用數(shù)據(jù)優(yōu)勢向用戶投放指向性廣告,除非獲得用戶明確許可”的約定,但DMA去年11月才獲得歐洲議會內(nèi)部市場委員會通過,與歐洲各國政府的談判還未啟動,完成立法仍有一段距離。
而中國各大互聯(lián)網(wǎng)企業(yè)已經(jīng)在以實際行動迎接《規(guī)定》的落地。
算法推薦的潛在危害
2006年,哈佛大學(xué)凱斯·桑斯坦教授在《信息烏托邦》一書中提出,人類社會存在一種“信息繭房”現(xiàn)象。他認為,在信息傳播中人們自身的信息需求并非全方位的,只會注意選擇自己想要的、能使自己愉悅的信息,久而久之接觸的信息就越來越局限,就像蠶吐出來的絲一樣,細細密密地把自己包裹起來,最終將自己桎梏在“信息繭房”內(nèi),失去接觸和了解不同觀念的機會。
算法推薦則有可能強化信息繭房效應(yīng):你越是對某種事物感興趣、傾向于某種觀念,算法就會越是給你推薦關(guān)于這種事物、支持這種觀念的材料,讓你不斷強化自己的興趣和傾向。而且,算法推薦還可能被有目的性地引導(dǎo)人群,從而影響公眾觀念,甚至影響政治決策。因此,美國數(shù)學(xué)家凱西·奧尼爾在《算法霸權(quán)》一書中將推薦算法稱作“數(shù)學(xué)大殺器”(weapons of math destruction)。在過去幾年中,這件“大殺器”已經(jīng)在現(xiàn)實世界中多次產(chǎn)生效果。
2016年,在支持特朗普競選的“阿拉莫項目”(Project Alamo)中,來自臉書、谷歌、推特等幾個主要社交網(wǎng)絡(luò)平臺的顧問在圣安東尼奧的同一間辦公室并肩工作,在數(shù)字廣告上投放了大約9千萬美元。阿拉莫項目采用了精妙的算法推薦技術(shù)來影響選民:當(dāng)一位互聯(lián)網(wǎng)用戶被識別為“關(guān)鍵選民”(例如搖擺州的搖擺縣的搖擺選民),社交網(wǎng)絡(luò)就會給這樣的用戶定向投放具有引導(dǎo)性的內(nèi)容,從而用相對不多的經(jīng)費影響競選結(jié)果。
就在美國大選前幾個月,英國的劍橋分析(Cambridge Analytica)公司使用來自臉書的用戶數(shù)據(jù)操縱了英國脫歐(Brexit)公投,令脫歐派意外獲勝——與特朗普意外當(dāng)選如出一轍。
在正式用于影響英美政局之前,類似的手段已經(jīng)在多個發(fā)展中國家做過實驗。2010年,在特立尼達和多巴哥,一場起源于臉書的“Do So”運動讓大批非洲裔選民拒絕投票,從而使印度裔主導(dǎo)的聯(lián)合民族大會(UNC)在大選中受益。2015年,部分尼日利亞用戶在臉書上看到暴力血腥、仇視穆斯林的視頻短片,其目的是恐嚇選民、操縱選舉。算法推薦一旦被濫用,真的可以成為“大殺器”。
即使不是被故意濫用,算法推薦也可能暗含社會的偏見和歧視。去年10月,推特的推薦算法被發(fā)現(xiàn)“無意中放大了右翼團體內(nèi)容的傳播”:政治右翼當(dāng)選官員發(fā)布的推文在算法上被放大的程度超過政治左翼;右翼媒體比左翼媒體的影響力更大。
更早之前,職場社交網(wǎng)站領(lǐng)英的搜索算法(也可以看作一種形式的推薦算法:根據(jù)搜索關(guān)鍵詞推薦“最匹配”的內(nèi)容)被發(fā)現(xiàn)存在性別歧視,男性求職者會被放在更高的位置。谷歌的廣告平臺AdSense被發(fā)現(xiàn)存在種族偏見,如果搜索關(guān)鍵詞看起來像是黑人的名字,AdSense就會有更大概率推薦犯罪記錄查詢相關(guān)的廣告。
因為算法推薦有這些潛在危害的風(fēng)險,歐美一些研究者很早就提出對推薦算法加以管制。本次《規(guī)定》中要求的算法機制機理審核、科技倫理審查、允許用戶關(guān)閉算法推薦等措施,在國外都早有人提過建議。然而國際互聯(lián)網(wǎng)大廠從未將這些建議落地,還經(jīng)常辯稱“基于深度學(xué)習(xí)的算法無法被審核”。為了幫助讀者理解《規(guī)定》的重要意義,筆者將簡要介紹算法推薦背后的技術(shù)原理。
-
本文僅代表作者個人觀點。
- 責(zé)任編輯: 周遠方 
-
俄外長:克里米亞地位不能談判
2022-03-02 20:19 -
“雙減”半年教培機構(gòu)眾生相:集體虧損、跨界轉(zhuǎn)型
2022-03-02 17:53 大公司 -
郭樹清談螞蟻等整改:自查基本結(jié)束,還有一些問題需繼續(xù)探索
2022-03-02 17:53 阿里帝國 -
郭樹清:我國房地產(chǎn)泡沫化金融化勢頭得到根本扭轉(zhuǎn)
2022-03-02 16:04 -
《士兵突擊》制片人吳毅被捕,浙文影業(yè)擬起訴追償2.64億元
2022-03-02 15:11 -
大公司早報 | 張勇卸任海底撈CEO 華為稱不會退出海外市場
2022-03-02 09:08 大公司 -
百度2021年總營收1245億,23%花在研發(fā)上
2022-03-01 23:04 大公司 -
看到東京地標(biāo)亮燈,烏克蘭大使激動發(fā)推,結(jié)果尷尬了…
2022-03-01 21:31 烏克蘭之殤 -
工信部發(fā)聲,半年漲價300%的鋰電材料要降溫了?
2022-03-01 20:26 觀網(wǎng)財經(jīng)-科創(chuàng) -
供應(yīng)商遭遇網(wǎng)絡(luò)攻擊,豐田日本國內(nèi)工廠全部停產(chǎn)
2022-03-01 15:06 觀網(wǎng)財經(jīng)-汽車 -
美加商家抵制伏特加,北約酒商躺槍
2022-03-01 13:43 觀網(wǎng)財經(jīng)-海外 -
紫光展銳CEO遭董事會解職,市占率已反超華為、三星
2022-03-01 11:40 觀網(wǎng)財經(jīng)-科創(chuàng) -
大公司早報 | 董明珠連任格力董事長 阿里將校招數(shù)百名頂尖技術(shù)人才
2022-03-01 09:11 大公司 -
中國開始從烏克蘭撤出首批公民
2022-03-01 00:35 烏克蘭之殤 -
德邦物流因重大事項停牌,業(yè)績創(chuàng)新低后將何去何從?
2022-02-28 19:54 大公司 -
不談融資,先搶賽道?蔚來將在港股二次上市
2022-02-28 19:16 觀網(wǎng)財經(jīng)-汽車 -
比亞迪、一汽共建135億元電池項目
2022-02-28 18:27 汽車工業(yè) -
58同城因未核驗商戶真實信息被罰
2022-02-28 18:19 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
俄羅斯暫時禁止外國人出售證券
2022-02-28 17:07 觀網(wǎng)財經(jīng)-海外 -
應(yīng)烏克蘭要求,F(xiàn)acebook限制部分俄官媒賬戶
2022-02-28 15:19 俄羅斯與世界
相關(guān)推薦 -
最新聞 Hot
-
“他,殺死了美國司法”
-
避免特朗普加稅,歐盟想……
-
“他們連餅都不愿畫,我們必須反方向跑了”
-
五角大樓“緊張”:一旦他下這種命令,該如何應(yīng)對?
-
“甩鍋大戲”開鑼
-
這個對華“鷹派”,即將回鍋?
-
“重大轉(zhuǎn)變”!拜登政府解除這一禁令
-
“澤連斯基祝賀,馬斯克接了電話”
-
看完這部紀(jì)錄片,網(wǎng)友吵起來了
-
“特朗普回歸,這個領(lǐng)域又讓中國贏一局”
-
“特朗普贏了,他們要回家了”
-
“從中國懷里拉走”?
-
美國農(nóng)民@特朗普:又我挨中國揍?
-
法國外長到訪前,以色列在“法國領(lǐng)地”扣押兩名法國憲兵
-
美聯(lián)儲降息25個基點,鮑威爾:若特朗普...
-
德高官焦慮:若特朗普從烏克蘭抽身,中國就贏了
-