-
熊節:算法推薦終于可關閉,中國《互聯網信息服務算法推薦管理規定》開世界先河
【導讀】 3月1日起,國家網信辦等四部門聯合發布的《互聯網信息服務算法推薦管理規定》正式施行。“向用戶提供便捷的關閉算法推薦服務的選項”等規定,貼近用戶實際需求,而且在全球范圍內開啟對具體算法加以監管的先河,因此廣受關注。本文分析了相關規定的來龍去脈,以及未來可能的發展。
【文/ 觀察者網專欄作者 熊節】
手機上的App會“讀心術”早已不是秘密了。很多人有過這樣的體驗:剛和朋友聊天說到什么想買什么,轉眼就在某App里看見了這件商品;剛瀏覽了幾條某個主題的新聞,突然某App里就全是關于這件事的回答。
長期來,許多網民對這種情況感到不滿,甚至有點恐懼。
如今,一個開關“千呼萬喚始出來”,在許多常用App的“設置”頁,您應該能找到“關閉個性化推薦”之類的選項。
筆者找到了“知乎”和“淘寶”的相關開關并親測:
為何各個常見的App悄悄給出了關閉個性化推薦的選項?原因是今年1月4日正式公布的《互聯網信息服務算法推薦管理規定》(下文簡稱《規定》)中有這么一條:
第十七條 算法推薦服務提供者應當向用戶提供不針對其個人特征的選項,或者向用戶提供便捷的關閉算法推薦服務的選項。用戶選擇關閉算法推薦服務的,算法推薦服務提供者應當立即停止提供相關服務。
這份由國家互聯網信息辦公室、工業和信息化部、公安部、國家市場監督管理總局聯合發布的《規定》將于今年3月1日正式起施行。
據筆者所知,這是全世界第一個對算法推薦行為加以具體約束的法案。
歐洲的《數字市場法案》(DMA)中也有“不允許利用數據優勢向用戶投放指向性廣告,除非獲得用戶明確許可”的約定,但DMA去年11月才獲得歐洲議會內部市場委員會通過,與歐洲各國政府的談判還未啟動,完成立法仍有一段距離。
而中國各大互聯網企業已經在以實際行動迎接《規定》的落地。
算法推薦的潛在危害
2006年,哈佛大學凱斯·桑斯坦教授在《信息烏托邦》一書中提出,人類社會存在一種“信息繭房”現象。他認為,在信息傳播中人們自身的信息需求并非全方位的,只會注意選擇自己想要的、能使自己愉悅的信息,久而久之接觸的信息就越來越局限,就像蠶吐出來的絲一樣,細細密密地把自己包裹起來,最終將自己桎梏在“信息繭房”內,失去接觸和了解不同觀念的機會。
算法推薦則有可能強化信息繭房效應:你越是對某種事物感興趣、傾向于某種觀念,算法就會越是給你推薦關于這種事物、支持這種觀念的材料,讓你不斷強化自己的興趣和傾向。而且,算法推薦還可能被有目的性地引導人群,從而影響公眾觀念,甚至影響政治決策。因此,美國數學家凱西·奧尼爾在《算法霸權》一書中將推薦算法稱作“數學大殺器”(weapons of math destruction)。在過去幾年中,這件“大殺器”已經在現實世界中多次產生效果。
2016年,在支持特朗普競選的“阿拉莫項目”(Project Alamo)中,來自臉書、谷歌、推特等幾個主要社交網絡平臺的顧問在圣安東尼奧的同一間辦公室并肩工作,在數字廣告上投放了大約9千萬美元。阿拉莫項目采用了精妙的算法推薦技術來影響選民:當一位互聯網用戶被識別為“關鍵選民”(例如搖擺州的搖擺縣的搖擺選民),社交網絡就會給這樣的用戶定向投放具有引導性的內容,從而用相對不多的經費影響競選結果。
就在美國大選前幾個月,英國的劍橋分析(Cambridge Analytica)公司使用來自臉書的用戶數據操縱了英國脫歐(Brexit)公投,令脫歐派意外獲勝——與特朗普意外當選如出一轍。
在正式用于影響英美政局之前,類似的手段已經在多個發展中國家做過實驗。2010年,在特立尼達和多巴哥,一場起源于臉書的“Do So”運動讓大批非洲裔選民拒絕投票,從而使印度裔主導的聯合民族大會(UNC)在大選中受益。2015年,部分尼日利亞用戶在臉書上看到暴力血腥、仇視穆斯林的視頻短片,其目的是恐嚇選民、操縱選舉。算法推薦一旦被濫用,真的可以成為“大殺器”。
即使不是被故意濫用,算法推薦也可能暗含社會的偏見和歧視。去年10月,推特的推薦算法被發現“無意中放大了右翼團體內容的傳播”:政治右翼當選官員發布的推文在算法上被放大的程度超過政治左翼;右翼媒體比左翼媒體的影響力更大。
更早之前,職場社交網站領英的搜索算法(也可以看作一種形式的推薦算法:根據搜索關鍵詞推薦“最匹配”的內容)被發現存在性別歧視,男性求職者會被放在更高的位置。谷歌的廣告平臺AdSense被發現存在種族偏見,如果搜索關鍵詞看起來像是黑人的名字,AdSense就會有更大概率推薦犯罪記錄查詢相關的廣告。
因為算法推薦有這些潛在危害的風險,歐美一些研究者很早就提出對推薦算法加以管制。本次《規定》中要求的算法機制機理審核、科技倫理審查、允許用戶關閉算法推薦等措施,在國外都早有人提過建議。然而國際互聯網大廠從未將這些建議落地,還經常辯稱“基于深度學習的算法無法被審核”。為了幫助讀者理解《規定》的重要意義,筆者將簡要介紹算法推薦背后的技術原理。
-
本文僅代表作者個人觀點。
- 責任編輯: 周遠方 
-
俄外長:克里米亞地位不能談判
2022-03-02 20:19 -
“雙減”半年教培機構眾生相:集體虧損、跨界轉型
2022-03-02 17:53 大公司 -
郭樹清談螞蟻等整改:自查基本結束,還有一些問題需繼續探索
2022-03-02 17:53 阿里帝國 -
郭樹清:我國房地產泡沫化金融化勢頭得到根本扭轉
2022-03-02 16:04 -
《士兵突擊》制片人吳毅被捕,浙文影業擬起訴追償2.64億元
2022-03-02 15:11 -
大公司早報 | 張勇卸任海底撈CEO 華為稱不會退出海外市場
2022-03-02 09:08 大公司 -
百度2021年總營收1245億,23%花在研發上
2022-03-01 23:04 大公司 -
看到東京地標亮燈,烏克蘭大使激動發推,結果尷尬了…
2022-03-01 21:31 烏克蘭之殤 -
工信部發聲,半年漲價300%的鋰電材料要降溫了?
2022-03-01 20:26 觀網財經-科創 -
供應商遭遇網絡攻擊,豐田日本國內工廠全部停產
2022-03-01 15:06 觀網財經-汽車 -
美加商家抵制伏特加,北約酒商躺槍
2022-03-01 13:43 觀網財經-海外 -
紫光展銳CEO遭董事會解職,市占率已反超華為、三星
2022-03-01 11:40 觀網財經-科創 -
大公司早報 | 董明珠連任格力董事長 阿里將校招數百名頂尖技術人才
2022-03-01 09:11 大公司 -
中國開始從烏克蘭撤出首批公民
2022-03-01 00:35 烏克蘭之殤 -
德邦物流因重大事項停牌,業績創新低后將何去何從?
2022-02-28 19:54 大公司 -
不談融資,先搶賽道?蔚來將在港股二次上市
2022-02-28 19:16 觀網財經-汽車 -
比亞迪、一汽共建135億元電池項目
2022-02-28 18:27 汽車工業 -
58同城因未核驗商戶真實信息被罰
2022-02-28 18:19 觀網財經-互聯網 -
俄羅斯暫時禁止外國人出售證券
2022-02-28 17:07 觀網財經-海外 -
應烏克蘭要求,Facebook限制部分俄官媒賬戶
2022-02-28 15:19 俄羅斯與世界
相關推薦 -
馬上走人了,還要對中國無人機動手 評論 86促消費為什么沒有起色?這與搞創新不矛盾 評論 161中國首次實現!“領先馬斯克的星鏈” 評論 28815死!新年首日,“恐襲”疑云籠罩美國 評論 173這一領域,普京指示要確保同中國合作 評論 124最新聞 Hot
-
時隔40年,美國遺留的毒垃圾終于處理了
-
沙特處決6名伊朗人,伊方:不可接受!
-
馬上走人了,還要對中國無人機動手
-
馬斯克:拜登,100%叛國
-
“美歐經濟學家們集體搖頭”
-
“流入中國的主權基金激增21%”
-
中國首次實現!“領先馬斯克的星鏈”
-
“我倆聊吧,氣瘋他們”
-
以防長放話:如果哈馬斯不放人,加沙將遭到久違的猛烈打擊
-
《經濟學人》“勉強”承認:中國量子發展模式“也許”更好
-
15死!新年首日,“恐襲”疑云籠罩美國
-
“美國農民買中國貨,原因很簡單”
-
美國首席大法官:那誰試圖恐嚇法官
-
“波蘭外長,你被CIA收買了?”
-
他宣布辭職,炮轟內塔尼亞胡政府
-
更多細節:美國公民、退伍老兵、案發時揮舞ISIS旗…
-