1. 創(chuàng)業(yè)頭條
  2. 前沿領(lǐng)域
  3. 人工智能
  4. 正文

ChatGPT攪動AI又一波風(fēng)潮,卻扒出了百度的長板

 2023-02-08 08:38  來源:A5專欄  我來投稿 撤稿糾錯

  域名預(yù)訂/競價,好“米”不錯過

文|智能相對論

作者| 葉一城

野火燎原,openAI搞出的chatGPT大有當(dāng)年alphaGo的架勢,攪動整個AI業(yè)界春心蕩漾。

從openAI的大金主微軟,到昔日明星alphaGo的爸爸Google,都火急火燎地要出來表態(tài)——前者要彰顯主權(quán)并在內(nèi)部全面應(yīng)用,后者作為全球AI領(lǐng)頭羊怎么能失了對稱的地位,要發(fā)布對應(yīng)的產(chǎn)品。

國內(nèi)科技圈自然也發(fā)揚了聞風(fēng)而動的優(yōu)良品格,在元宇宙概念疲軟后,有關(guān)的沒關(guān)的都紛紛貼上來。股市上各種妖魔鬼怪橫行,對于上漲,某些董秘的回復(fù)中,否定或許還帶著撿漏的竊喜。

而“AI大戶”百度在宣布發(fā)布類似的產(chǎn)品“文心一言”后,股價也立刻上漲。

股民們冤不冤?這次可能不太冤,因為就“中國版ChatGPT”而言,不管騰訊、阿里怎么站位的,某種程度上百度確實最有技術(shù)資格,也最能從ChatGPT的落地應(yīng)用中獲得現(xiàn)實的商業(yè)價值。

判斷誰能在技術(shù)的風(fēng)口上占便宜,第一步永遠(yuǎn)是先看技術(shù)的本質(zhì)。

ChatGPT從產(chǎn)品形態(tài)上,是“一個使用自然語言處理技術(shù)實現(xiàn)和人類互動對話的產(chǎn)品”,而其內(nèi)在本質(zhì),就是一個預(yù)訓(xùn)練大模型。所謂“大”,就是在巨量到一般人無法想象的數(shù)據(jù)訓(xùn)練下?lián)碛旋嫶蟮膮?shù)規(guī)模,因為“大”而見識多,博學(xué)多才,任何領(lǐng)域都懂,只要稍微調(diào)教一下就能出產(chǎn)特定場景的應(yīng)用。

ChatGPT并不是一次性發(fā)展而來的,其屬于openAI的一系列預(yù)訓(xùn)練模型,所謂GPT,即Generative Pre-Trained Transformer,就是通過Transformer為基礎(chǔ)模型,使用預(yù)訓(xùn)練技術(shù)得到通用的文本模型。從已經(jīng)公布的論文看,從2018年起,GPT家族已經(jīng)先后擁有GPT-1,GPT-2,GPT-3,以及圖像預(yù)訓(xùn)練iGPT等模型,而目前火得一塌糊涂的ChatGPT,更像是一個GPT-4之前的過渡版本GPT-3.5,因為強大的對話能力突然爆火起來。

不同的是,ChatGPT采用了新的指示學(xué)習(xí)(Instruction Learning)和人工反饋的強化學(xué)習(xí)(Reinforcement Learning from Human Feedback,RLHF)來指導(dǎo)模型的訓(xùn)練,前者為ChatGPT帶來理解能力,后者通過人工標(biāo)注反饋的方式來增強模型的效果,實現(xiàn)GPT的進(jìn)化。

在一系列進(jìn)化下,ChatGPT的參數(shù)總量與GPT-3一致,達(dá)到了1750億,實現(xiàn)了從GPT-2的15億的跳躍。

說到底,ChatGPT就是一個積累已久、有著特殊訓(xùn)練方式的大模型,它的發(fā)展是有技術(shù)進(jìn)化路線的。

而“巧合”的是,百度大力投入的產(chǎn)業(yè)級知識增強文心大模型ERNIE,具備跨模態(tài)、跨語言的深度語義理解與生成能力,其技術(shù)演進(jìn)幾乎走出了同樣的進(jìn)程。

早在2019年3月,百度就做出了文心 ERNIE 1.0,這一技術(shù)創(chuàng)新與“同類”GPT-1、BERT的差距都只有幾個月,而且百度積累的大規(guī)模知識和海量多元數(shù)據(jù),讓文心得以快速發(fā)展——搜索業(yè)務(wù)給大模型所需要的龐大數(shù)據(jù)訓(xùn)練量帶來了天然的便利。

例如,在文心的發(fā)展過程中,2021年,ERNIE 3.0大模型即擁有千億參數(shù);與超強算力方聯(lián)合的鵬城-百度·文心作為一款融合了自然語言理解和自然語言生成的大模型,其參數(shù)量達(dá)到了2600億,相對GPT-3和ChatGPT提升了50%。

去年9月,百度CEO李彥宏判斷人工智能發(fā)展在“技術(shù)層面和商業(yè)應(yīng)用層面,都有方向性改變”。據(jù)推測,百度那時候就開始做文心一言。

除了參數(shù)規(guī)模擴大、能力增強,文心與ChatGPT一樣,也在適應(yīng)不同需要進(jìn)行技術(shù)進(jìn)化。目前文心大模型總量已經(jīng)有36個,以其中的知識增強輕量級大模型ERNIE 3.0 Tiny為例,該模型能夠通過多任務(wù)知識蒸餾手段將千億多任務(wù)大模型的所學(xué)遷移至輕量級模型中,訓(xùn)練了10億級、億級、千萬級不同體量大小的輕量級大模型,實現(xiàn)了優(yōu)秀的泛化能力。

回過頭來看,百度在技術(shù)上一直在做與GPT相同的事,但是晦澀的技術(shù)決定了它始終缺乏足夠的曝光度,直到大洋彼岸的ChatGPT突然搞出了“大新聞”,舉起了旗幟,于是,這就成了百度彰顯自身技術(shù)能力的契機。

從GPT-3到ChatGPT,與從“文心”到“文心一言”(英文名ERNIE Bot)的命名方式,也“驚人巧合”——原本就是一樣的技術(shù)迭代過程罷了,百度之所以3月就能馬上做出來,甚至按目前的節(jié)奏內(nèi)測還可能提前,原因就在于ChatGPT要的那些技術(shù)百度都有,產(chǎn)品上再加入對話算法等,很快就能對齊。

至少在NLP領(lǐng)域,目前國內(nèi)還沒用企業(yè)能夠看齊百度。

而在現(xiàn)實價值方面,實際上ChatGPT做的各種對話、各種輔助功能,都與百度的業(yè)務(wù)線較為契合,無論是內(nèi)部的搜索+信息流,還是對外提供的諸如智慧城市等B端解決方案中,都能得到很好的利用。

尤其是,AI與搜索的契合一直是百度近些年的努力方向,以傳統(tǒng)精確搜索為主、“文心一言”的工具型搜索為輔的方式,也更符合未來搜索的形態(tài)。

當(dāng)然,其他輔助的,比如芯片(算力相關(guān))、開發(fā)框架(飛槳),百度也都有成熟的“基建配套”了,

不過,百度面臨的問題還是那個老生常談的話題:能不能持續(xù)投入下去,等待真正的商業(yè)價值回報?畢竟,ChatGPT吹得再響,現(xiàn)實的問題肯定少不了,得有一個成熟的過程。

說白了,在沒有進(jìn)入強人工智能時代,ChatGPT再厲害其本質(zhì)也只是“小孩學(xué)舌”,學(xué)得更多當(dāng)然就更像,但也只是“知其然不知其所以然”。

這不是說小孩學(xué)舌就沒有用,能夠?qū)W起來很像、能解決一些問題,價值也很大。只不過,帶過孩子的都知道,小孩學(xué)舌在面臨認(rèn)知問題時,會出現(xiàn)很多邏輯尷尬。

目前ChatGPT在一些對話上就出現(xiàn)了這個問題,例如解一道簡單的數(shù)學(xué)題,能給你扯一大堆,但結(jié)果就是不對。又例如很多專業(yè)領(lǐng)域的會話,和官樣文章一樣看似內(nèi)容很多、邏輯嚴(yán)密,但就是言之無物。

一些程序界大佬驚呼ChatGPT的健壯性遠(yuǎn)超人類,要開除外包程序員,實際危言聳聽。所謂健壯性無非就是設(shè)定規(guī)則的執(zhí)行,就像數(shù)數(shù),人從0數(shù)到300,肯定容易出錯,機器數(shù),當(dāng)然就不會出錯,沒啥好驚奇的。

無論如何,ChatGPT還有一些路要走,最有資格也最能得益的百度,在風(fēng)潮面前仍然要咬牙繼續(xù)堅持才好,這其中的投入或許會更大。

*本文圖片均來源于網(wǎng)絡(luò)

此內(nèi)容為【智能相對論】原創(chuàng),

僅代表個人觀點,未經(jīng)授權(quán),任何人不得以任何方式使用,包括轉(zhuǎn)載、摘編、復(fù)制或建立鏡像。

部分圖片來自網(wǎng)絡(luò),且未核實版權(quán)歸屬,不作為商業(yè)用途,如有侵犯,請作者與我們聯(lián)系。

•AI產(chǎn)業(yè)新媒體;

•澎湃新聞科技榜單月度top5;

•文章長期“霸占”鈦媒體熱門文章排行榜TOP10;

•著有《人工智能 十萬個為什么》

•【重點關(guān)注領(lǐng)域】智能家電(含白電、黑電、智能手機、無人機等AIoT設(shè)備)、智能駕駛、AI+醫(yī)療、機器人、物聯(lián)網(wǎng)、AI+金融、AI+教育、AR/VR、云計算、開發(fā)者以及背后的芯片、算法等。

申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!

相關(guān)標(biāo)簽
ai技術(shù)

相關(guān)文章

  • 匯聚中國AI頂尖力量 云天勵飛參與華為AI大模型聯(lián)合創(chuàng)新

    2023年7月6日,第六屆世界人工智能大會(WAIC2023)在上海開幕,“人工智能大模型”是本屆大會的備受矚目的話題,據(jù)悉,在昇騰AI大模型的創(chuàng)新研發(fā)中,華為聯(lián)手26家行業(yè)領(lǐng)軍企業(yè),組建了一支協(xié)同創(chuàng)新的“AI明星隊”,云天勵飛作為中國人工智能企業(yè)的杰出代表,和互聯(lián)網(wǎng)大廠、運營商、科研院所等優(yōu)秀團(tuán)隊

    標(biāo)簽:
    ai技術(shù)
  • 用友大易:邁入AI招聘2.0時代,讓人力資源回歸本質(zhì)

    這幾個月來,以ChatGPT為代表的生成式AI展現(xiàn)出的能力令世界驚嘆。自從2016年AlphaGo戰(zhàn)勝李世石掀起了一波AI浪潮后,AI仿佛已經(jīng)沉寂了很久,ChatGPT的橫空出世就如同一束耀眼的光芒,讓AI這個名詞重回C位。過去在AI1.0時代,主要通過訓(xùn)練模型來實現(xiàn)圖像識別、聲音識別、語言處理等特

    標(biāo)簽:
    ai技術(shù)
  • 新發(fā)布的PaaS2.0,能否助力涂鴉智能再起飛?

    文:互聯(lián)網(wǎng)江湖作者:志剛2023年的IoT需要一個新故事。6月29日,涂鴉智能在開發(fā)者大會上,發(fā)布了企業(yè)級戰(zhàn)略PaaS2.0,希望通過一個平臺+四大開發(fā)服務(wù),建立起IoT生態(tài)。對于這場發(fā)布會,市場的態(tài)度是積極的。美東時間6月29日收盤,涂鴉智能美股股價上漲5.6%,來到1.87美元/股。近日股價穩(wěn)定

    標(biāo)簽:
    ai技術(shù)
  • 大模型難掩AI制藥的悲傷:越過山丘,無人等候

    美團(tuán)曾經(jīng)的二號人物王慧文對標(biāo)OpenAI的創(chuàng)業(yè)項目光年之外,以20億賣給美團(tuán),再度引發(fā)市場對大模型的熱議。

    標(biāo)簽:
    ai技術(shù)
  • 拾起王慧文的AI夢,美團(tuán)沖向“光年之外”?

    2020年底,王慧文在朋友圈寫下這句話時,外界本以為這位伴隨中國互聯(lián)網(wǎng)發(fā)展而持續(xù)創(chuàng)業(yè)20年的人物即將告別創(chuàng)業(yè)舞臺。但是,一個曾經(jīng)多次創(chuàng)業(yè),正值壯年的互聯(lián)網(wǎng)老將心中的創(chuàng)業(yè)熱情是難以熄滅的。

    標(biāo)簽:
    ai技術(shù)
  • “創(chuàng)造市場”與“算法進(jìn)化”,中美AI競速的岔路口

    “人工智能的商業(yè)模式,是要創(chuàng)造一個市場,而非一個算法”。這是世界AI泰斗MichaelI.Jordan的觀點。而當(dāng)前的全球AI市場,占據(jù)主導(dǎo)地位的中美雙方,卻也走出了兩條截然不同的技術(shù)路徑,前者執(zhí)著于前沿技術(shù)的探索,后者則發(fā)力應(yīng)用優(yōu)化和商業(yè)化落地。南轅北轍的兩個方向,或許已經(jīng)無法直接進(jìn)行排位先后、優(yōu)

    標(biāo)簽:
    ai智能
  • 智能體進(jìn)化發(fā)展了一年,現(xiàn)在的RPA Agent迭代到什么程度了?

    智能體進(jìn)化發(fā)展了一年,現(xiàn)在的RPAAgent迭代到什么程度了?從實在智能最新發(fā)布的實在Agent7.0,看RPAAgent的迭代升級抓取豆瓣信息、自己制作PPT,這款A(yù)IAgent真的實現(xiàn)了流程全自動化AIAgent構(gòu)建到執(zhí)行全自動化,持續(xù)進(jìn)化RPAAgent再次降低智能體應(yīng)用門檻實在智能重磅發(fā)布實

  • 崔大寶:大模型降溫背后的難點、卡點、節(jié)點

    崔大寶|節(jié)點財經(jīng)創(chuàng)始人進(jìn)入2024年,大模型似乎有熄火之勢:資本市場,與之關(guān)聯(lián)的概念炒不動了,英偉達(dá)股價動輒暴跌重挫,引發(fā)“泡沫戳破”的擔(dān)憂;消費市場,BATH們的推新活動少了,產(chǎn)品更新迭代的速度慢了,民眾的關(guān)注度降了……熱鬧的大概只剩下兩場酣仗:自5月15日字節(jié)跳動宣布“以厘計費”,打響國內(nèi)大模型

    標(biāo)簽:
    大模型
  • 這一屆“出道”的數(shù)字人,已經(jīng)拿捧上了“鐵飯碗”

    文|智能相對論作者|陳泊丞好消息!你心心念念的事業(yè)單位發(fā)錄取公告了!壞消息!他們沒錄你,錄了個數(shù)字人。圖片來源網(wǎng)絡(luò)隨著數(shù)字人技術(shù)的突破,越來越多的傳統(tǒng)企業(yè)和機構(gòu)開始用上了“數(shù)字員工”。甚至很多中國人心心念念的“鐵飯碗”,也被這些數(shù)字人給捧上了。數(shù)字人捧上了“鐵飯碗”簡單翻看一下全國各地事業(yè)單位的“錄

    標(biāo)簽:
    數(shù)字人
  • 來到IPO關(guān)口,地平線離“三分天下”還有多遠(yuǎn)?

    黑芝麻智能敲鐘后,港交所門口又有一些智駕芯片企業(yè)引發(fā)關(guān)注。據(jù)悉,近日地平線已通過中國證監(jiān)會IPO備案,擬發(fā)行不超過11.5億股境外上市普通股并在香港聯(lián)合交易所上市,預(yù)計籌集約5億美元資金。從天眼查可以了解到,該公司成立于2015年,是一家乘用車高級輔助駕駛(ADAS)和高階自動駕駛(AD)解決方案供

  • 機器人大會引領(lǐng)產(chǎn)業(yè)動向,卓翼飛思繪制無人系統(tǒng)教科研新藍(lán)圖

    8月21日,萬眾矚目的2024世界機器人大會暨博覽會在北京亦創(chuàng)國際會展中心盛大開幕。這場為期5天,集“展覽”“論壇”“賽事”于一體的機器人盛會,反映了當(dāng)下機器人領(lǐng)域的繁榮生態(tài)。據(jù)官方統(tǒng)計數(shù)據(jù),今年現(xiàn)場逛展觀眾高達(dá)25萬人次,比去年增加25%。機器人行業(yè)有多火?看看2024世界機器人大會火爆程度便可知

  • 卓翼智能:超大載重高烈度環(huán)境特種智能系留無人平臺的應(yīng)用與未來

    瞄準(zhǔn)場景需求,打造國內(nèi)領(lǐng)先的自主可控、高質(zhì)量超大載重高烈度環(huán)境特種智能系留無人平臺。卓翼智能亮相HICOOL峰會以科技實力榮摘創(chuàng)業(yè)大賽一等獎這個比賽5年培育出16家“獨角獸”HICOOL2024全球創(chuàng)業(yè)者峰會暨創(chuàng)業(yè)大賽已于8月25日在北京圓滿落下帷幕,大賽共吸引了124個國家和地區(qū)的7406個創(chuàng)業(yè)項

  • 60萬獎金召喚AI創(chuàng)新者,2024無錫國際人工智能創(chuàng)新應(yīng)用大賽火熱進(jìn)行中!

    人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。無錫市作為中國的科技創(chuàng)新中心之一,正通過構(gòu)建人工智能"算力+算法+數(shù)據(jù)"三要素齊備的產(chǎn)業(yè)生態(tài),為產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用提供強大支撐,通過“AI+”行動推動人工智能與多個產(chǎn)業(yè)交叉融合,實現(xiàn)技術(shù)落地和產(chǎn)業(yè)化,加速形成新質(zhì)生產(chǎn)力,打造具有國際競爭力的產(chǎn)業(yè)創(chuàng)新智造

  • “云+AI”驅(qū)動操作系統(tǒng)創(chuàng)新升級,龍蜥堅持可持續(xù)發(fā)展路線

    近日,2024龍蜥操作系統(tǒng)大會(OpenAnolisConference)在北京圓滿召開,此次大會由中國計算機學(xué)會開源發(fā)展委員會、中關(guān)村科學(xué)城委員會、海淀區(qū)委網(wǎng)信辦、中國開源軟件推進(jìn)聯(lián)盟指導(dǎo),龍蜥社區(qū)主辦,阿里云、浪潮信息、Intel、中興通訊、Arm、中科方德等24家理事單位共同承辦,主題為“進(jìn)化