-
機(jī)器學(xué)習(xí)并不“萬(wàn)能”
關(guān)鍵字:“如果一個(gè)人可以在1秒以內(nèi)完成一項(xiàng)思維任務(wù),那么可能在現(xiàn)在或者不久的將來(lái),我們可以使用人工智能(AI)來(lái)自動(dòng)化處理這項(xiàng)任務(wù)。”
——吳恩達(dá)
本文讀者大多數(shù)比較熟悉機(jī)器學(xué)習(xí),也會(huì)使用相關(guān)算法來(lái)根據(jù)數(shù)據(jù)對(duì)結(jié)果進(jìn)行分類和預(yù)測(cè)。然而,很重要的一點(diǎn),就是機(jī)器學(xué)習(xí)并不是解決一切問(wèn)題的萬(wàn)能鑰匙。機(jī)器學(xué)習(xí)如此有用,所以大家很難接受一個(gè)事實(shí)——有時(shí)候機(jī)器學(xué)習(xí)并不是一個(gè)問(wèn)題的最佳解決方法。
這篇文章就是想告訴大家,機(jī)器學(xué)習(xí)有時(shí)候是好的解決方案,有時(shí)候則不是。
眾所周知,機(jī)器學(xué)習(xí)作為人工智能的一部分,在過(guò)去十年對(duì)世界產(chǎn)生了革命性的影響。信息爆炸引起了大數(shù)據(jù)的采集,尤其是像臉書、谷歌這樣的大公司。數(shù)據(jù)量加上處理器功耗和計(jì)算機(jī)并行處理的快速發(fā)展,使得大數(shù)據(jù)的獲取和學(xué)習(xí)變得相對(duì)容易。
今天,對(duì)機(jī)器學(xué)習(xí)和人工智能的吹捧無(wú)處不再。這可能是對(duì)的,因?yàn)檫@個(gè)領(lǐng)域的潛力是巨大的。人工智能公司數(shù)量在過(guò)去幾年里爆發(fā)式增加,根據(jù) Indeed 的一份報(bào)告,2015-2018 年,與人工智能相關(guān)的崗位數(shù)量增加了 100%。
截至2018年12月,福布斯發(fā)現(xiàn) 47% 的企業(yè)在其業(yè)務(wù)流程中包含至少一個(gè)人工智能功能。根據(jù) Deloitte 的報(bào)告,內(nèi)置 AI 和基于云的 AI 開(kāi)發(fā)服務(wù)在企業(yè)軟件的滲透率估計(jì)分別達(dá)到 87% 和 83%。這些數(shù)據(jù)是非常驚人的——如果近期你想做些職業(yè)變動(dòng),人工智能看上去是個(gè)不錯(cuò)的選擇。
一切看上去都挺美好的?公司滿意,想來(lái)消費(fèi)者也是滿意的——否則企業(yè)是不會(huì)使用人工智能的。
這很好,因?yàn)槲沂菣C(jī)器學(xué)習(xí)和人工智能的超級(jí)粉絲。然而,有時(shí)候使用機(jī)器學(xué)習(xí)就沒(méi)什么必要,也說(shuō)不通,甚至在操作的時(shí)候會(huì)給人帶來(lái)困難。
局限1——倫理
眾所周知,機(jī)器學(xué)習(xí)作為人工智能的一部分,在過(guò)去十年對(duì)世界產(chǎn)生了革命性的影響。信息爆炸引起了大數(shù)據(jù)的采集,尤其是像臉書、谷歌這樣的大公司。數(shù)據(jù)量加上處理器功耗和計(jì)算機(jī)并行處理的快速發(fā)展,使得大數(shù)據(jù)的獲取和學(xué)習(xí)變得相對(duì)容易。
不難理解為什么機(jī)器學(xué)習(xí)會(huì)對(duì)世界產(chǎn)生如此大的影響,不用再明確它的能力是什么,可能更重要的,是知道它的局限是什么。尤瓦爾·赫拉利創(chuàng)造了有名的“數(shù)據(jù)主義”一詞,指的是我們正在進(jìn)入的一個(gè)假定的文明新階段,在這個(gè)階段里,我們對(duì)算法和數(shù)據(jù)的信任超過(guò)了對(duì)我們自身判斷和邏輯的信任。
雖然會(huì)覺(jué)得這個(gè)想法可笑,但你想想上次去旅行的時(shí)候,是不是跟著 GPS 的導(dǎo)航而不是自己看著地圖走——你質(zhì)疑過(guò) GPS 的判斷嗎?人們盲目地跟隨 GPS 的指引,結(jié)果掉進(jìn)了湖里...
信任數(shù)據(jù)和算法超過(guò)自身的判斷,有利有弊。顯然地,我們從算法中獲益,不然一開(kāi)始也不會(huì)使用。算法通過(guò)可用數(shù)據(jù)作出預(yù)期判斷來(lái)實(shí)現(xiàn)自動(dòng)化處理。雖然有時(shí)候,這意味著某個(gè)人的工作會(huì)被一種算法取代,產(chǎn)生一些倫理問(wèn)題。加之,如果事情變得糟糕,我們應(yīng)歸責(zé)于誰(shuí)?
最近討論最廣泛的例子就是自動(dòng)駕駛——我們應(yīng)該如何選擇汽車在撞死人后應(yīng)該作出的反應(yīng)?未來(lái)我們?cè)谫?gòu)買汽車的時(shí)候,也不得不選擇自己購(gòu)買自動(dòng)駕駛車輛的倫理框架嗎?
如果我的自動(dòng)駕駛車在路上撞死了人,那么是誰(shuí)的責(zé)任?
這些都是引人深思的問(wèn)題,但并不是本文的主要目的。顯然,機(jī)器學(xué)習(xí)不能告訴我們應(yīng)該接受什么規(guī)范價(jià)值,即在世界上特定的處境里,應(yīng)該如何采取行動(dòng)。就像大衛(wèi)·休謨著名諺語(yǔ)所說(shuō),一個(gè)人永遠(yuǎn)不能從“本來(lái)如此”得出“應(yīng)該如此”。
限制2——確定性問(wèn)題
這是我個(gè)人必須面對(duì)的一個(gè)問(wèn)題,因?yàn)槲业膶I(yè)領(lǐng)域是環(huán)境科學(xué),它嚴(yán)重依賴于計(jì)算建模和使用傳感器/物聯(lián)網(wǎng)設(shè)備。
機(jī)器學(xué)習(xí)對(duì)于傳感器來(lái)說(shuō)是非常強(qiáng)大的,當(dāng)連接到其他測(cè)量環(huán)境變量(如溫度、壓力和濕度)的傳感器時(shí),機(jī)器學(xué)習(xí)可以幫助校準(zhǔn)和校正傳感器。這些傳感器信號(hào)之間的相關(guān)性可以用來(lái)發(fā)展自校準(zhǔn)程序,這在我研究的大氣化學(xué)研究領(lǐng)域中是一個(gè)熱點(diǎn)研究課題。
然而,當(dāng)涉及到計(jì)算建模時(shí),事情會(huì)變得更有趣。
運(yùn)行模擬全球天氣、地球的排放和這些排放的傳輸?shù)挠?jì)算模型在計(jì)算上是非常昂貴的。事實(shí)上,計(jì)算成本太高,即使在超級(jí)計(jì)算機(jī)上運(yùn)行,研究級(jí)的模擬也可能需要數(shù)周的時(shí)間。
MM5和WRF是這方面的很好的例子,它們是用于氣候研究和在早間新聞上給你天氣預(yù)報(bào)的數(shù)值天氣預(yù)報(bào)模型。知道天氣預(yù)報(bào)員一整天都做些什么嗎?答案:運(yùn)行并研究這些模型。
運(yùn)行天氣模型是很好,但是現(xiàn)在我們有了機(jī)器學(xué)習(xí),我們是否可以用它來(lái)獲取我們的天氣預(yù)報(bào)呢?我們能利用衛(wèi)星、氣象站的數(shù)據(jù),并使用基本的預(yù)測(cè)算法來(lái)判斷明天是否會(huì)下雨嗎?
令人驚訝,答案是肯定的。如果我們了解某一區(qū)域周圍的空氣壓力、空氣中的濕度水平、風(fēng)速、與相鄰點(diǎn)及其自身變量有關(guān)的信息,就有可能訓(xùn)練,例如,神經(jīng)網(wǎng)絡(luò)。但代價(jià)是什么?
用一個(gè)有上千個(gè)輸入的神經(jīng)網(wǎng)絡(luò)來(lái)確定明天波士頓是否會(huì)下雨是可能的。然而,利用神經(jīng)網(wǎng)絡(luò)忽略了整個(gè)天氣系統(tǒng)的物理過(guò)程。
機(jī)器學(xué)習(xí)是隨機(jī)的,而不是確定性的。
神經(jīng)網(wǎng)絡(luò)不理解牛頓第二定律,或者說(shuō)密度不可能是負(fù)的-沒(méi)有物理約束。
然而,這可能不會(huì)是一個(gè)長(zhǎng)期的限制。有多個(gè)研究人員正在研究在神經(jīng)網(wǎng)絡(luò)和其他算法中加入物理約束,以便它們能夠被用于類似這樣的目的。
局限3——數(shù)據(jù)
這是最明顯的限制。模型喂得不好,輸出結(jié)果就不好,主要表現(xiàn)為兩種方式:缺乏數(shù)據(jù)和缺乏優(yōu)質(zhì)數(shù)據(jù)。
缺乏數(shù)據(jù)
許多機(jī)器學(xué)習(xí)算法在給出有用結(jié)果之前需要大量的數(shù)據(jù),一個(gè)好的例子就是神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)是需要大量訓(xùn)練數(shù)據(jù)的數(shù)據(jù)喂養(yǎng)機(jī)器。網(wǎng)絡(luò)的架構(gòu)越大,產(chǎn)生可用結(jié)果需要的數(shù)據(jù)就越多。重復(fù)使用數(shù)據(jù)是不好的想法,一定程度上數(shù)據(jù)增強(qiáng)是有用的,但是有更多的數(shù)據(jù)往往是更好的解決方法。
如果可以獲得數(shù)據(jù),那就用上。
缺乏優(yōu)質(zhì)數(shù)據(jù)
雖然看上去相似,這種情況和上述情況也是不同的。我們來(lái)想象一下,你認(rèn)為你可以通過(guò)給神經(jīng)網(wǎng)絡(luò)放入1萬(wàn)個(gè)生成的假數(shù)據(jù)來(lái)蒙混過(guò)關(guān),當(dāng)你把它們放進(jìn)入的時(shí)候,會(huì)發(fā)生什么?
網(wǎng)絡(luò)會(huì)自己訓(xùn)練自己,當(dāng)你用一組沒(méi)見(jiàn)過(guò)的數(shù)據(jù)測(cè)試網(wǎng)絡(luò)的時(shí)候,效果就不會(huì)好:你有了數(shù)據(jù),但是數(shù)據(jù)的質(zhì)量沒(méi)有達(dá)到標(biāo)準(zhǔn)。
同樣地,缺乏優(yōu)質(zhì)的特征會(huì)導(dǎo)致算法表現(xiàn)不佳,缺乏優(yōu)質(zhì)的正確標(biāo)注數(shù)據(jù)也會(huì)限制模型的能力。沒(méi)有一家公司愿意使用比人工水平誤差還大的機(jī)器學(xué)習(xí)模型。
類似地,將在一種情況下一組數(shù)據(jù)訓(xùn)練出地模型應(yīng)用于另一種情況,效果并不相當(dāng)。目前為止我發(fā)現(xiàn)最好的例子,就是乳腺癌預(yù)測(cè)。
胸部X光數(shù)據(jù)庫(kù)包含了大量照片,但是近幾年這些數(shù)據(jù)庫(kù)面臨一個(gè)共同的引發(fā)熱議的問(wèn)題——幾乎所有的X光片都來(lái)源于白人女性。這聽(tīng)起來(lái)不像什么大事,但實(shí)際上,因?yàn)闄z測(cè)和獲取醫(yī)療的差異等各種因素,黑人女性死于乳腺癌的概率已達(dá)到了42%。因此,主要基于白人女性訓(xùn)練出的算法,對(duì)黑人女性并不友好。
在這個(gè)例子里,需要的就是在訓(xùn)練集中增加更多黑人病人的 X 光片數(shù)量。更多與導(dǎo)致這42%增加的相關(guān)特征,以及通過(guò)相關(guān)性進(jìn)行數(shù)據(jù)分層的更客觀的算法。
如果你還有疑問(wèn)或想要了解更多,建議閱讀這篇文章。
局限4——誤用
和前面第二個(gè)討論的局限性相關(guān),不管是自然界中的確定性問(wèn)題還是統(tǒng)計(jì)性問(wèn)題,人們盲目地使用機(jī)器學(xué)習(xí)來(lái)嘗試分析系統(tǒng),于是形成了所謂的“學(xué)術(shù)研究中機(jī)器學(xué)習(xí)的危害”。
在局限 2 中討論原因的時(shí)候提到,將機(jī)器學(xué)習(xí)應(yīng)用于統(tǒng)計(jì)性系統(tǒng)是可行的,但算法不會(huì)學(xué)習(xí)兩個(gè)變量間的關(guān)系,也不知道何時(shí)違背了物理定律。我們只是給網(wǎng)絡(luò)一些輸入和輸出,告訴它們?nèi)W(xué)習(xí)聯(lián)系——就像一個(gè)人將字典又用文字翻譯一遍,算法只是掌握簡(jiǎn)單的基礎(chǔ)物理。
對(duì)于統(tǒng)計(jì)性(隨機(jī))系統(tǒng),情況就不太明顯。機(jī)器學(xué)習(xí)用于統(tǒng)計(jì)性系統(tǒng)的危害主要有兩種表現(xiàn)形式:
P 值篡改
分析范圍
P 值篡改
當(dāng)一個(gè)人可以獲得大量數(shù)據(jù),可能上百、上千,甚至上百萬(wàn)的變量,就不難發(fā)現(xiàn)顯著性統(tǒng)計(jì)結(jié)果(假設(shè)大多數(shù)研究設(shè)定的顯著性水平 p分析范圍
統(tǒng)計(jì)模型和機(jī)器學(xué)習(xí)的分析范圍存在本質(zhì)區(qū)別——統(tǒng)計(jì)模型本質(zhì)是確定性的,機(jī)器學(xué)習(xí)本質(zhì)是探索性的。
我們可以把確定性分析和模型看成某人的博士課題或研究領(lǐng)域。想象一下,你和一個(gè)顧問(wèn)合作,試著建立一個(gè)理論框架來(lái)學(xué)習(xí)一些真實(shí)世界的系統(tǒng)。這個(gè)系統(tǒng)有一組受其影響的預(yù)定義特征,并且,在仔細(xì)設(shè)計(jì)實(shí)驗(yàn)和開(kāi)發(fā)假設(shè)后,可以運(yùn)行測(cè)試以確定假設(shè)的有效性。
另一方面,探索性缺乏和確定性分析的相關(guān)的一些特點(diǎn)。事實(shí)上,在真正大量數(shù)據(jù)和信息的情況下,由于數(shù)據(jù)的巨大體量,確認(rèn)性方法完全無(wú)法使用。換言之,在存在上百個(gè)、上千個(gè),乃至上百萬(wàn)個(gè)特征的情況下,根本不可能仔細(xì)地布置一組有限的可測(cè)試假設(shè)。
因此從廣義上講,在有大量數(shù)據(jù)和可計(jì)算負(fù)責(zé)特征的情況下,機(jī)器學(xué)習(xí)算法和方法是探索預(yù)測(cè)模型和分類的最佳選擇。一些人認(rèn)為它們可以用于“小”數(shù)據(jù),但為什么在經(jīng)典的多變量統(tǒng)計(jì)方法這樣做時(shí),信息更多呢?
機(jī)器學(xué)習(xí)是一個(gè)領(lǐng)域,很大程度上解決了來(lái)自信息技術(shù)、計(jì)算機(jī)科學(xué)等領(lǐng)域的重要問(wèn)題,這些問(wèn)題既有理論性的也有應(yīng)用問(wèn)題。正如此,機(jī)器學(xué)習(xí)和像物理、數(shù)學(xué)、概率論、統(tǒng)計(jì)學(xué)等領(lǐng)域也相關(guān),但它也確實(shí)是一個(gè)獨(dú)立的領(lǐng)域。機(jī)器學(xué)習(xí)領(lǐng)域不會(huì)受其他學(xué)科提出問(wèn)題的影響。大多是機(jī)器學(xué)習(xí)專家和從業(yè)者提出的解決方法都犯了嚴(yán)重錯(cuò)誤...但他們還是完成了工作。
局限5——可解釋性
可解釋性是機(jī)器學(xué)習(xí)的主要問(wèn)題之一。一家人工智能公司試圖向一家只使用傳統(tǒng)統(tǒng)計(jì)方法的企業(yè)講解,但如果他們認(rèn)為模型不可解釋,就可以停止了。如果你不能向客戶確保你明白算法是如何得到結(jié)果的,那如何讓他們信任你和你的專業(yè)度?
正如《商業(yè)數(shù)據(jù)挖掘——機(jī)器學(xué)習(xí)視角》中所言:
“在商務(wù)項(xiàng)目中,如果機(jī)器學(xué)習(xí)的結(jié)果是可解釋的,那么商業(yè)經(jīng)理人會(huì)更傾向于機(jī)器學(xué)習(xí)的推薦。”
除非可以解釋這些模型,不然它們顯得無(wú)能為力,而且人類解釋過(guò)程遵守的規(guī)則,遠(yuǎn)遠(yuǎn)超出技術(shù)能力。因此,可解釋性成為機(jī)器學(xué)習(xí)應(yīng)用于實(shí)踐需要實(shí)現(xiàn)的一個(gè)重要指標(biāo)。
特別地,興起的組學(xué)科學(xué)(基因組學(xué),蛋白質(zhì)組學(xué),代謝組學(xué)等)已經(jīng)成為機(jī)器學(xué)習(xí)研究者的主要目標(biāo),因?yàn)檫@些科學(xué)對(duì)大型和有意義數(shù)據(jù)庫(kù)具有依賴性。然而,盡管取得了明顯的成功,但他們的方法缺乏可解釋性。
總結(jié)及Peter Voss" 列表
不可否認(rèn),在人工智能開(kāi)辟了大量有前景機(jī)會(huì)的同時(shí),也導(dǎo)致了一種被稱為“人工智能解決主義”的心態(tài)的出現(xiàn)。這種心態(tài)是一種哲學(xué),假定數(shù)據(jù)足夠多,機(jī)器學(xué)習(xí)算法就可以解決所有的人類問(wèn)題。
希望我在文中清楚表示了在目前情況下機(jī)器學(xué)習(xí)存在的一些限制,從而防止一些情況的發(fā)生。神經(jīng)網(wǎng)絡(luò)永遠(yuǎn)不會(huì)告訴我們?nèi)绾巫鲆粋€(gè)好人,至少現(xiàn)在不會(huì),也不會(huì)理解牛頓運(yùn)動(dòng)定律和愛(ài)因斯坦相對(duì)論。
機(jī)器學(xué)習(xí)基礎(chǔ)理論——計(jì)算學(xué)習(xí)理論里也存在基本限制,主要是統(tǒng)計(jì)限制。我們已經(jīng)討論了分析范圍和 p 值篡改危害的相關(guān)問(wèn)題,這些會(huì)帶來(lái)虛假結(jié)論。還有結(jié)果可解釋性的問(wèn)題,如果不能讓客戶和投資者確信他們的方法是準(zhǔn)確可信的,就對(duì)商業(yè)會(huì)產(chǎn)生消極影響。
我己經(jīng)在文章內(nèi)大量介紹了人工智能的最重要的局限,最后,我會(huì)把Peter Voss’在 2016 年 10 月發(fā)布的文章列一張表,整理更全面的關(guān)于人工智能的局限。雖然目前在細(xì)小領(lǐng)域內(nèi)主流技術(shù)是非常強(qiáng)大的,但它們通常會(huì)列出部分或所有約束列表,我在這里進(jìn)行完整引用:
每個(gè)特定的應(yīng)用都需要經(jīng)過(guò)專門訓(xùn)練
需要大量手工標(biāo)記的結(jié)構(gòu)化的數(shù)據(jù)
學(xué)習(xí)通常必須要受監(jiān)督:訓(xùn)練數(shù)據(jù)必須被標(biāo)記
需要冗長(zhǎng)的離線/批量訓(xùn)練
不要實(shí)時(shí)地以增量或交互的方式學(xué)習(xí)
遷移學(xué)習(xí)、模型重復(fù)使用和集成的能力差
系統(tǒng)不透明,很難進(jìn)行調(diào)試
“長(zhǎng)尾”效應(yīng)難以審核和保證
它們編碼相關(guān)性,而不是因果關(guān)系或本體論關(guān)系
實(shí)體之間不進(jìn)行實(shí)體或空間的編碼
只能處理自然語(yǔ)言里非常局限的部分
不適合高層次,象征推理或計(jì)劃
話雖如此,機(jī)器學(xué)習(xí)和人工智能將繼續(xù)為工業(yè)帶來(lái)革命,而且在未來(lái)幾年只會(huì)變得更加普及。雖然我建議大家最大限度地利用機(jī)器學(xué)習(xí)和人工智能,但我也建議你記住手里工具的局限性——畢竟,沒(méi)有什么是完美的。(雷鋒網(wǎng))
- 原標(biāo)題:機(jī)器學(xué)習(xí)并不“萬(wàn)能”
- 責(zé)任編輯:劉響
- 最后更新: 2019-08-16 12:15:33
-
臺(tái)積電高管:摩爾定律還沒(méi)死
2019-08-16 12:00 -
專利暗示戴爾正在打造折疊屏PC 且鉸鏈部分很窄
2019-08-16 11:58 -
蘋果確認(rèn)封殺iPhone第三方電池!
2019-08-16 11:56 -
微軟系統(tǒng)更新又出錯(cuò):Surface Book 2處理器被限頻
2019-08-16 11:53 -
鄔賀銓:5G是高科技戰(zhàn)略必爭(zhēng)高地 我國(guó)必須掌握自主權(quán)
2019-08-16 10:33 -
5G如何改進(jìn)芯片制造?三星在美國(guó)工廠進(jìn)行試點(diǎn)
2019-08-16 10:33 -
紅米跟realme,就看誰(shuí)被打臉!盧偉冰:6400萬(wàn)像素新機(jī)已量產(chǎn)
2019-08-16 09:05 大公司 -
中國(guó)鐵塔今年預(yù)計(jì)應(yīng)梯次利用電池約5GWh,替換鉛酸電池約15萬(wàn)噸
2019-08-16 09:00 大公司 -
寒武紀(jì)宣布云端AI芯片思元270:自主指令集 性能提升4倍
2019-08-16 08:55 大公司 -
華為首款5G手機(jī)預(yù)約量破100萬(wàn)
2019-08-15 18:52 華為 -
第7代微軟小冰亮相,落地場(chǎng)景從手機(jī)智能音箱拓展到汽車平臺(tái)
2019-08-15 18:34 商業(yè) -
全球第三大晶圓廠GF賣廠
2019-08-15 16:01 -
打了免費(fèi)廣告 華為手機(jī)在臺(tái)灣反響熱烈賣斷貨
2019-08-15 15:52 -
中國(guó)聯(lián)通:5G套餐最低190元
2019-08-15 15:42 5G -
美光擴(kuò)建NAND閃存工廠但不增產(chǎn) 128層閃存有重大變化
2019-08-15 13:06 -
鴻蒙來(lái)了!國(guó)產(chǎn)操作系統(tǒng)到底能不能頂上去?
2019-08-15 12:19 -
華碩推出30周年限定版筆記本,高端定制售價(jià)過(guò)萬(wàn)
2019-08-15 10:25 -
14nm工藝再次續(xù)命:牙膏廠真會(huì)玩
2019-08-15 09:54 -
華為Mate 30無(wú)線充電器獲FCC認(rèn)證:最高支持30W
2019-08-15 09:04 -
我國(guó)成立研發(fā)中心攻關(guān)集成電路硅材料和高純特種氣體關(guān)鍵技術(shù)
2019-08-15 08:14
相關(guān)推薦 -
外媒緊盯:中方又要出手? 評(píng)論 54馬上走人了,還要對(duì)中國(guó)無(wú)人機(jī)動(dòng)手 評(píng)論 108促消費(fèi)為什么沒(méi)有起色?這與搞創(chuàng)新不矛盾 評(píng)論 181中國(guó)首次實(shí)現(xiàn)!“領(lǐng)先馬斯克的星鏈” 評(píng)論 29315死!新年首日,“恐襲”疑云籠罩美國(guó) 評(píng)論 174最新聞 Hot
-
中方黑客盯上“美方制裁名單”?外交部駁斥
-
應(yīng)沙特邀請(qǐng),敘新當(dāng)局外長(zhǎng)、防長(zhǎng)、情報(bào)主管首次出訪
-
外媒緊盯:中方又要出手?
-
拜登給前共和黨眾議員切尼授勛,還打算提前赦免她
-
確定恐襲!FBI還改口:嫌犯單獨(dú)行動(dòng)
-
時(shí)隔40年,美國(guó)遺留的毒垃圾終于處理了
-
沙特處決6名伊朗人,伊方:不可接受!
-
馬上走人了,還要對(duì)中國(guó)無(wú)人機(jī)動(dòng)手
-
馬斯克:拜登,100%叛國(guó)
-
“美歐經(jīng)濟(jì)學(xué)家們集體搖頭”
-
“流入中國(guó)的主權(quán)基金激增21%”
-
中國(guó)首次實(shí)現(xiàn)!“領(lǐng)先馬斯克的星鏈”
-
“我倆聊吧,氣瘋他們”
-
以防長(zhǎng)放話:如果哈馬斯不放人,加沙將遭到久違的猛烈打擊
-
《經(jīng)濟(jì)學(xué)人》“勉強(qiáng)”承認(rèn):中國(guó)量子發(fā)展模式“也許”更好
-
15死!新年首日,“恐襲”疑云籠罩美國(guó)
快訊- 姚洋:不這樣做,就會(huì)走偏到西方福利社會(huì)
- 中國(guó)10年期國(guó)債收益率跌破1.6%
- 學(xué)校拖欠餐費(fèi)170萬(wàn)元,還派人向睡在被窩老人潑冷水?當(dāng)?shù)赝▓?bào)
- 李強(qiáng)在山東調(diào)研時(shí)強(qiáng)調(diào) 從頭抓緊推動(dòng)各項(xiàng)工作落地見(jiàn)效 努力實(shí)現(xiàn)今年經(jīng)濟(jì)發(fā)展良好開(kāi)局
- 美股五連跌,特斯拉跌超6%
- 韓國(guó)公調(diào)處在總統(tǒng)官邸與警衛(wèi)部隊(duì)對(duì)峙
- 拜登給前共和黨眾議員切尼授勛,還打算提前赦免她
- 央行啟動(dòng)第二次互換便利操作,金額550億元
-