-
字節(jié)跳動大模型訓練被實習生攻擊,涉事者已被辭退
界面新聞從知情人士處獲悉,此事發(fā)生在今年6月,起因是某高校的博士在字節(jié)跳動商業(yè)化技術(shù)團隊實習,因?qū)F隊資源分配不滿,使用攻擊代碼破壞團隊的模型訓練任務。
10月18日,多個微信群流傳一則消息:“某頭部大廠的大模型訓練被實習生入侵,注入了破壞代碼,導致其訓練成果不可靠,可能需要重新訓練。據(jù)稱遭到入侵的代碼注入了8000多張卡,帶來的損失可能超過千萬美元。”
界面新聞從知情人士處獲悉,該頭部大廠為字節(jié)跳動。此事發(fā)生在今年6月,起因是某高校的博士在字節(jié)跳動商業(yè)化技術(shù)團隊實習,因?qū)F隊資源分配不滿,使用攻擊代碼破壞團隊的模型訓練任務。
界面新聞向字節(jié)跳動方面求證此事,截至目前,官方未進行回應。
傳聞顯示,該田姓實習生利用了HF(huggingface)的漏洞,在公司的共享模型里寫入破壞代碼,導致模型的訓練效果忽高忽低,無法產(chǎn)生預期的訓練效果,而且AML團隊無法核查原因。但傳聞曝出之后,該實習生還在某微信群里辟謠稱,自己發(fā)完論文后就從字節(jié)跳動離職,這個當口有另一個人鉆漏洞改模型代碼,把鍋扣到自己頭上。
界面新聞從知情人士處了解到,字節(jié)跳動內(nèi)部已經(jīng)調(diào)查明確此事為田姓實習生所為。目前,該實習生已被辭退,字節(jié)跳動同時把此事同步給陽光誠信聯(lián)盟和企業(yè)反舞弊聯(lián)盟,以及該實習生所在的學校。但這名實習生被辭退后到處“辟謠”甩鍋,稱是其他人所為。
但該實習生攻擊的并不是豆包大模型,而是商業(yè)化技術(shù)團隊的模型訓練任務,影響了該技術(shù)團隊的一些業(yè)務進展,但整體對公司造成的損失并沒有傳聞中的超過千萬美元那么大。
一位技術(shù)安全專家告訴界面新聞,HF漏洞產(chǎn)生肯定是單一性集中訓練,此事暴露了字節(jié)跳動技術(shù)訓練存在安全管理問題。公司既沒做權(quán)限隔離,也沒有做好共用代碼的審計。正常情況下,每次大的代碼變動必須做審計,無論誰做操作都有痕跡記錄,一個人想動代碼是不可能的。
上述技術(shù)安全專家表示,目前行業(yè)通用的做法是做三級隔離導向性部署,每一級只有鏡像,每次先掃描。調(diào)用按次算、必須密鑰。每一級完成后,才能進入下一級,而上一級自動刪除,進行分級訓練。
(界面新聞記者 肖芳)
- 原標題:字節(jié)跳動大模型訓練被實習生攻擊,涉事者已被辭退
- 責任編輯: 林鈴錦 
-
政策組合拳下,四季度經(jīng)濟怎么走?
2024-10-19 09:02 觀網(wǎng)財經(jīng)-宏觀 -
印度手機出貨單季增長9%,vivo超小米首成第一
2024-10-18 22:09 觀網(wǎng)財經(jīng)-科創(chuàng) -
科大訊飛三季度扭虧,前三季度回款150億
2024-10-18 20:58 觀網(wǎng)財經(jīng)-科創(chuàng) -
?三季度經(jīng)濟增速4.6%,全年5%目標如何實現(xiàn)?
2024-10-18 20:38 觀網(wǎng)財經(jīng)-宏觀 -
外媒稱蘋果曾與比亞迪秘密合作開發(fā)汽車電池,比亞迪否認
2024-10-18 18:20 觀網(wǎng)財經(jīng)-科創(chuàng) -
第十批藥品集采開啟,62品種263品規(guī)創(chuàng)歷年之最
2024-10-18 18:17 觀網(wǎng)財經(jīng)-健康 -
自然資源部:涉及國家安全,必須存儲于境內(nèi)
2024-10-18 18:14 -
京東金融:不存在網(wǎng)傳“擠兌”情況
2024-10-18 17:16 觀網(wǎng)財經(jīng)-金融 -
學會反思的國產(chǎn)大模型,真變強了?
2024-10-18 16:17 -
滬指大漲近3%,創(chuàng)業(yè)板指飆升近8%!兩市成交額創(chuàng)9日以來新高
2024-10-18 15:12 金融觀察 -
滬深兩市成交突破1.5萬億,芯片行業(yè)ETF放量飆升
2024-10-18 14:10 觀網(wǎng)財經(jīng)-金融 -
吳清:加快落實中長資金入市,嚴懲違規(guī)減持
2024-10-18 13:59 觀網(wǎng)財經(jīng)-宏觀 -
央行兩項新工具今日實施!“預計還有降準降息”
2024-10-18 12:50 觀網(wǎng)財經(jīng)-金融 -
諾基亞在中國裁員近2000人,在華份額已不到5%
2024-10-18 11:19 觀網(wǎng)財經(jīng)-科創(chuàng) -
李德仁院士提出“時空智能學”
2024-10-18 10:00 觀網(wǎng)財經(jīng)-科創(chuàng) -
歐洲央行宣布降息25個基點
2024-10-17 20:34 金融觀察 -
美的科技月:累計獎勵超5億元,加強全球人才引入
2024-10-17 20:26 觀網(wǎng)財經(jīng)-科創(chuàng) -
存量房貸下調(diào)后還有紅包:下月起定價機制可重新協(xié)商?
2024-10-17 18:35 觀網(wǎng)財經(jīng)-金融 -
?茅臺在香港降價千元?門店員工稱暫未接到通知
2024-10-17 18:04 觀網(wǎng)財經(jīng)-消費 -
成都將迎大規(guī)模拆遷?房小團發(fā)布澄清聲明
2024-10-17 16:23 觀網(wǎng)財經(jīng)-房產(chǎn)
相關(guān)推薦 -
“對中國,歐洲就是美國拴著皮帶的小狗” 評論 238普京:金磚國家GDP全球占比已超G7,差距還將擴大 評論 121美西方歡呼“勝利”,哈馬斯迅速任命代理領(lǐng)導人 評論 271央行兩項新工具今日實施!“預計還有降準降息” 評論 96辛瓦爾死了,以色列下一步怎么走? 評論 618最新聞 Hot
-
“對中國,歐洲就是美國拴著皮帶的小狗”
-
NASA局長:需要和中國談一談
-
他狂夸日本:對付中國,你排第一…
-
“為何中國男性個頭比印度高?”
-
普京:金磚國家GDP全球占比已超G7,差距還將擴大
-
美西方歡呼“勝利”,哈馬斯迅速任命代理領(lǐng)導人
-
孟加拉國法院對哈西娜發(fā)出逮捕令
-
歐盟、北約沉默
-
她對馬科斯發(fā)出“最強烈批評”
-
黎巴嫩總理罕見譴責伊朗“公然干涉”,召見伊朗臨時代辦
-
這個前蘇聯(lián)國家將決定是否加入歐盟
-
中企拿下!“這下歐盟要尷尬了”
-
美智庫最新報告:這樣做,中美能共存
-
“哈里斯已經(jīng)籌集到10多億美元,但她還想要更多”
-
中國邀請哥倫比亞,“美國急了”
-
央行兩項新工具今日實施!“預計還有降準降息”
-