久久久久精品免费福利电影,国产又黄又大又粗视频,A级毛片免费播放无码,人人妻人人爽人人澡欧美一区

當(dāng)?shù)貢r(shí)間3月17日，特斯拉首席執(zhí)行官（CEO）馬斯克的AI創(chuàng)企xAI正式發(fā)布3140億參數(shù)的混合專家模型Grok-1。xAI官方網(wǎng)站稱，其遵照Apache 2.0協(xié)議開放模型權(quán)重和架構(gòu)。

xAI官方網(wǎng)站截圖

據(jù)第一財(cái)經(jīng)報(bào)道，Grok-1參數(shù)量遠(yuǎn)超OpenAI GPT-3.5的1750億，是迄今參數(shù)量最大的開源大語言模型。

17日，馬斯克還在社交平臺(tái)上發(fā)文對(duì)OpenAI進(jìn)行了嘲諷：“告訴我們更多關(guān)于OpenAI開放部分的信息。”

2023年11月，xAI官網(wǎng)發(fā)布文章，公布了Grok的詳細(xì)進(jìn)展。

文章稱，Grok是一款仿照《銀河系漫游指南》設(shè)計(jì)的AI，幾乎可以回答任何問題，它甚至可以建議要問什么問題。“Grok回答問題時(shí)略帶機(jī)智和叛逆，所以如果你討厭幽默，請(qǐng)不要使用它”。

xAI官方網(wǎng)站截圖

文章介紹說，Grok的一個(gè)獨(dú)特且基本的優(yōu)勢(shì)是，它可以通過X平臺(tái)實(shí)時(shí)了解世界。它還將回答被其它大多數(shù)AI系統(tǒng)拒絕的尖銳問題。

文章指出，Grok仍然是一個(gè)非常早期的測(cè)試版產(chǎn)品，是“我們?cè)?個(gè)月的訓(xùn)練中所能做到的最好產(chǎn)品，期望在您的幫助下每周都能快速改進(jìn)”。

文章表示，Grok-1的研發(fā)經(jīng)歷了四個(gè)月。期間，Grok-1經(jīng)歷了多次迭代。“宣布創(chuàng)立xAI后，我們訓(xùn)練了一個(gè)330億參數(shù)的LLM原型（Grok-0）。這個(gè)早期模型在標(biāo)準(zhǔn)LM測(cè)試基準(zhǔn)上接近LLaMA 2（70B）的能力，但只使用了一半的訓(xùn)練資源。在過去兩個(gè)月里，我們?cè)谀Ｐ偷耐评砗途幋a能力方面取得了顯著進(jìn)步，Grok-1終于誕生。”

文章稱，這是一款功能更為強(qiáng)大的SOTA語言模型，在HumanEval編碼任務(wù)中達(dá)到了63.2%，在MMLU中達(dá)到了73%。

為了了解對(duì)Grok-1所做的性能改進(jìn)，xAI使用了一些旨在衡量數(shù)學(xué)和推理能力的標(biāo)準(zhǔn)機(jī)器學(xué)習(xí)基準(zhǔn)，對(duì)其進(jìn)行一系列評(píng)估。

在這些基準(zhǔn)測(cè)試中，Grok-1顯示出了強(qiáng)勁的性能，超過了其計(jì)算類別中的所有其它模型，包括ChatGPT-3.5和Inflection-1。只有使用大量訓(xùn)練數(shù)據(jù)和計(jì)算資源訓(xùn)練的模型，例如GPT-4，才能超越它。“這展示了我們?cè)诟咝в?xùn)練LLM方面取得的快速進(jìn)展”。

同時(shí)，文章也指出，由于這些基準(zhǔn)可以在網(wǎng)上找到，并且他們不能排除模型無意中進(jìn)行了相應(yīng)的訓(xùn)練。因此，他們?cè)谑占陻?shù)據(jù)集之后，根據(jù)去年5月底公布的2023年匈牙利全國(guó)高中數(shù)學(xué)期末考試題，對(duì)他們的模型（以及Claude-2和GPT-4模型）進(jìn)行了人工評(píng)分。結(jié)果，Grok以C級(jí)（59%）通過考試，Claude-2也取得了類似的成績(jī)（55%），而GPT-4則以68%的成績(jī)獲得了B級(jí)。文章稱，他們沒有為應(yīng)對(duì)這個(gè)考試而特別準(zhǔn)備或調(diào)整模型。

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。