1. 創(chuàng)業(yè)頭條
  2. 前沿領(lǐng)域
  3. 人工智能
  4. 正文

昆侖芯×飛槳:共創(chuàng)智能計(jì)算“芯”生態(tài)

 2022-05-26 11:50  來(lái)源:互聯(lián)網(wǎng)  我來(lái)投稿 撤稿糾錯(cuò)

  域名預(yù)訂/競(jìng)價(jià),好“米”不錯(cuò)過

WAVE SUMMIT 2022深度學(xué)習(xí)開發(fā)者峰會(huì)上周圓滿落幕,來(lái)自產(chǎn)學(xué)研界的專家學(xué)者和資深A(yù)I工程師在七大平行論壇帶來(lái)了精彩的技術(shù)分享。 本次峰會(huì)專設(shè)【智能硬核 生態(tài)共創(chuàng)】平行論壇,昆侖芯科技生物計(jì)算研發(fā)總監(jiān)鄭煥鑫受邀參會(huì),并進(jìn)行“昆侖芯×飛槳:共創(chuàng)智能計(jì)算‘芯’生態(tài)”的主題演講 。

昆侖芯適配百度飛槳等主流框架,支持推理和訓(xùn)練場(chǎng)景,生態(tài)建設(shè)正在逐漸完備,已在豐富的業(yè)務(wù)場(chǎng)景落地。作為國(guó)內(nèi)人工智能芯片領(lǐng)域的先行者,昆侖芯科技依托團(tuán)隊(duì)多年耕耘芯片和智能計(jì)算領(lǐng)域的行業(yè)影響力,致力于攜手上下游合作伙伴,打造智能計(jì)算“芯”生態(tài)。

以下內(nèi)容來(lái)自演講實(shí)錄:

大家好,我是來(lái)自昆侖芯科技的鄭煥鑫。

昆侖芯科技是一家AI芯片公司,2021年4月完成了獨(dú)立融資,首輪估值約130億元。公司前身是百度智能芯片及架構(gòu)部,在實(shí)際業(yè)務(wù)場(chǎng)景中深耕AI加速領(lǐng)域已十余年,是一家在體系結(jié)構(gòu)、芯片實(shí)現(xiàn)、軟件系統(tǒng)和場(chǎng)景應(yīng)用均有深厚積累的AI芯片企業(yè)。

昆侖芯科技研發(fā)實(shí)力雄厚,團(tuán)隊(duì)成員擁有全球頂尖學(xué)術(shù)背景,并提出了100%自研的通用AI計(jì)算處理器核心架構(gòu)昆侖芯XPU,研究成果也在Hot Chips、ISSCC等國(guó)際頂級(jí)學(xué)術(shù)會(huì)議中成功發(fā)表。

在落地實(shí)現(xiàn)上,昆侖芯1代在百度搜索引擎、小度等業(yè)務(wù)中部署超過2萬(wàn)片,是國(guó)內(nèi)唯一一款經(jīng)歷過互聯(lián)網(wǎng)大規(guī)模核心算法考驗(yàn)的云端AI芯片產(chǎn)品。昆侖芯2代采用7nm制程,也已于2021年8月量產(chǎn)。更先進(jìn)的昆侖芯3代、自動(dòng)駕駛芯片等多個(gè)產(chǎn)品均已啟動(dòng)研發(fā)。

隨著AI越來(lái)越普及,其依托的算力需求也越來(lái)越大。在這個(gè)時(shí)代背景下,昆侖芯的愿景是“成為劃時(shí)代,全球領(lǐng)先的智能計(jì)算公司”,為AI發(fā)展提供算力賦能。

昆侖芯在AI芯片上經(jīng)歷了超過10年的發(fā)展歷程。我們?cè)?011年啟動(dòng)FPGA AI加速器項(xiàng)目,到2015年部署5000片,2017年部署超過12000片,是業(yè)界最大的量;2017年發(fā)布自研架構(gòu)昆侖芯XPU;2018年啟動(dòng)昆侖芯;2020年昆侖芯1代大規(guī)模部署;2021年昆侖芯2代量產(chǎn)。

昆侖芯軟硬件架構(gòu)及兩代產(chǎn)品

不同于GPU的發(fā)展歷程,昆侖芯1代在AI發(fā)展相對(duì)成熟的時(shí)候量產(chǎn),在設(shè)計(jì)階段就更好地理解了AI場(chǎng)景,提供了更多的加速計(jì)算單元,并且保留了足夠的通用計(jì)算單元,最終達(dá)到了更好的性價(jià)比。

這是我們的昆侖芯XPU架構(gòu):SDNN-軟件定義神經(jīng)網(wǎng)絡(luò)引擎,是我們自研的核心張量計(jì)算單元,用于加速卷積和矩陣乘法;Cluster為我們的通用計(jì)算部件;我們也是國(guó)內(nèi)業(yè)界率先支持GDDR6的廠商之一;我們的Shared Memory片上共享內(nèi)存,有力保證了計(jì)算單元的高并發(fā)、低時(shí)延訪問;提供高達(dá)200GB/s的片間互聯(lián)帶寬,有效提升了大規(guī)模分布式訓(xùn)練中的數(shù)據(jù)傳輸效率,減少通訊延時(shí);支持PCIe第四代接口,雙向帶寬可達(dá)到64GB/s。

這是我們的軟件架構(gòu)圖:在應(yīng)用層,我們支持訓(xùn)練、推理以及科學(xué)計(jì)算;在框架層,除了深度合作的PaddlePaddle,還支持TensorFlow,PyTorch等;我們提供了豐富的SDK,包括編輯器、圖引擎、高性能算子庫(kù)、高性能通訊庫(kù),以及驅(qū)動(dòng);在環(huán)境部署上,我們支持公有云服務(wù)、智算中心、智能邊緣設(shè)備等。

這是我們的產(chǎn)品研發(fā)路線,昆侖芯1代采用14nm工藝,昆侖芯2代采用7nm工藝,此外我們的昆侖芯3代、昆侖芯4代都在研發(fā)路徑中。

昆侖芯1代產(chǎn)品包括兩種形式,其中K100是K200的算力一半版本,主要用在邊緣端。昆侖芯2代產(chǎn)品中,R200 AI加速卡主要用于推理,支持INT8/INT16/INT32/FP16/FP32等精度,非常值得一提的是昆侖芯R200 AI加速卡支持視頻編解碼能力;R480-X8 AI加速器組是我們的單機(jī)8卡訓(xùn)練方案,提供200GB/s的片間互聯(lián)帶寬。

概括起來(lái),昆侖芯2代有如下特點(diǎn):

1.通用計(jì)算能力顯著增強(qiáng),可靈活支持AI算法的演進(jìn),提升資源投入效用;

2.硬件虛擬化,提升AI算力資源的利用率;

3.高性能分布式AI系統(tǒng),加速AI數(shù)據(jù)并行和模型并行中的高速數(shù)據(jù)交換。

介紹完硬件參數(shù),我們看看昆侖芯的軟件參數(shù)。以R200 AI加速卡為例,相比較于業(yè)界主流產(chǎn)品,典型AI負(fù)載性能提升1.5倍左右,其中GEMM矩陣乘法性能為1.7倍,BERT典型自然語(yǔ)言處理性能加速比為1.4倍。對(duì)Transformer類有同樣的效果;Yolov3,Yolov5性能加速1.3倍;ResNet50視覺分類算法加速1.2倍。

昆侖芯AI算力賦能千行百業(yè)

昆侖芯科技前身為百度智能芯片及架構(gòu)部,天然對(duì)互聯(lián)網(wǎng)AI應(yīng)用有深入了解。以百度搜索場(chǎng)景為例,我們實(shí)現(xiàn)了過萬(wàn)片的部署,與飛槳聯(lián)合優(yōu)化模型:DeepFM、Wide&Deep。此外,我們?cè)诎ò俣仍趦?nèi)的多家互聯(lián)網(wǎng)公司上均有不錯(cuò)的落地表現(xiàn)

在智能城市領(lǐng)域,萬(wàn)級(jí)別攝像機(jī)收集視頻流,通過芯片編解碼獲取圖片,對(duì)圖片進(jìn)行人臉檢索以及比對(duì)。該場(chǎng)景主要是以CV類算法為主,我們和飛槳聯(lián)合優(yōu)化模型包括:ResNet50、MobileNet-v3、Unet、Yolov3-DarkNet53、SSD-ResNet34 。

工業(yè)質(zhì)檢場(chǎng)景,高清工業(yè)相機(jī)拍攝零件照片進(jìn)行質(zhì)量檢測(cè)。搭載國(guó)產(chǎn)AI算力機(jī)的質(zhì)檢設(shè)備替代人工質(zhì)檢,大大節(jié)省了人力,14個(gè)月即可收回成本。同時(shí),“5G+AI+工業(yè)互聯(lián)網(wǎng)”解決方案大大提高了整廠的智能化水平,幫助企業(yè)降低損耗,提升約10%的良品率。在這個(gè)方向上,我們和飛槳聯(lián)合開發(fā)了Yolov3-DarkNet53、SSD-ResNet34。

在目前國(guó)內(nèi)前沿的生物計(jì)算領(lǐng)域,我們也對(duì)基因測(cè)序算法Blast以及蛋白質(zhì)折疊預(yù)測(cè)算法進(jìn)行了硬件適配,并取得了不錯(cuò)的加速比。

綜上,我們?cè)诨ヂ?lián)網(wǎng)、智慧城市、智慧工業(yè)、生物計(jì)算、智慧金融、智慧政務(wù)、智算中心以及智慧交通等各行業(yè) AI 應(yīng)用落地場(chǎng)景中均提供了多種解決方案。

總結(jié)來(lái)看,昆侖芯科技最獨(dú)特優(yōu)勢(shì)在于:在百度搜索引擎、小度等業(yè)務(wù)中部署超過2萬(wàn)片,是國(guó)內(nèi)唯一一款經(jīng)歷了互聯(lián)網(wǎng)大規(guī)模核心算法考驗(yàn)的云端AI芯片,產(chǎn)品的可用性、可靠性、穩(wěn)定性、魯棒性得到了驗(yàn)證,也證明了團(tuán)隊(duì)在芯片架構(gòu)、軟件棧、工程化系統(tǒng)層級(jí)的技術(shù)實(shí)力。此外,昆侖芯靈活支持多個(gè)AI場(chǎng)景,如視覺、語(yǔ)音、NLP和推薦等;不僅如此,昆侖芯也支持HPC、生物計(jì)算等算法的加速。

申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!

相關(guān)標(biāo)簽
人工智能
ai芯片

相關(guān)文章

  • IoT開發(fā)者為王,涂鴉智能硬核“靠邊站”

    IoT盛宴:涂鴉向下,產(chǎn)品向上

    標(biāo)簽:
    人工智能
  • IPO觀察丨黑芝麻智能遞表港交所,車芯行業(yè)已邁向量產(chǎn)決戰(zhàn)期?

    雖然我國(guó)汽車芯片行業(yè)還處在發(fā)展初期,但已經(jīng)迸發(fā)出無(wú)限潛力。一方面,智能汽車的發(fā)展不斷帶動(dòng)需求增長(zhǎng);另一方面,政策引導(dǎo)下,汽車芯片企業(yè)持續(xù)搶占高地。對(duì)此,在7月5日-7日舉辦的2023年中國(guó)汽車論壇上,中國(guó)汽車工業(yè)協(xié)會(huì)副秘書長(zhǎng)李邵華就做出表示,“中國(guó)將成為未來(lái)汽車芯片發(fā)展的集聚地”。車規(guī)芯片行業(yè)近日的

    標(biāo)簽:
    人工智能
  • 倒計(jì)時(shí)2天丨云天勵(lì)飛將亮相世界人工智能大會(huì)

    2023世界人工智能大會(huì)將于7月6日至8日在上海舉辦。云天勵(lì)飛將在大會(huì)上展示自主設(shè)計(jì)開發(fā)的新一代邊緣計(jì)算芯片DeepEdge10系列SoC芯片,并公布“天書”大模型的最新動(dòng)態(tài)。歡迎蒞臨上海世博展覽館H1-C801展臺(tái)參觀交流!同時(shí),云天勵(lì)飛也將與中國(guó)電子、中國(guó)信通院、華為等合作伙伴,在WAIC的舞臺(tái)

    標(biāo)簽:
    人工智能
  • 酷學(xué)院智能產(chǎn)品發(fā)布會(huì):引領(lǐng)中大型企業(yè)學(xué)習(xí)新潮流

    近日,酷學(xué)院智能產(chǎn)品發(fā)布會(huì)在深圳閃亮登場(chǎng)。近200位現(xiàn)場(chǎng)觀眾和近萬(wàn)人次在線觀看,共同見證了這一激動(dòng)人心的時(shí)刻。發(fā)布會(huì)上,酷學(xué)院引領(lǐng)大家探索企業(yè)培訓(xùn)學(xué)習(xí)和人才發(fā)展領(lǐng)域的新高度,并揭幕其全新的產(chǎn)品智能升級(jí)和突破??釋W(xué)院產(chǎn)品負(fù)責(zé)人徐晨通過形象生動(dòng)、邏輯嚴(yán)謹(jǐn)?shù)闹v述,揭曉了全新的智能企業(yè)培訓(xùn)和人才發(fā)展平臺(tái),以

    標(biāo)簽:
    人工智能
  • 青少年在科創(chuàng)新活動(dòng)中受益:人工智能教育開啟未來(lái)的可能性

    隨著人工智能技術(shù)的快速發(fā)展,各行各業(yè)都受到了深刻影響,特別是中小學(xué)人工智能教育的普及,已經(jīng)成為當(dāng)今不可忽視的重要課程。ChatGPT等人工智能技術(shù)的出現(xiàn),讓我們看到了人工智能將成為未來(lái)推動(dòng)科技跨越發(fā)展、生產(chǎn)力整體躍升的重要驅(qū)動(dòng)力量之一。在這個(gè)背景下,中小學(xué)教育已經(jīng)將人工智能作為重要學(xué)習(xí)內(nèi)容,并將科技

    標(biāo)簽:
    人工智能
  • AI加速時(shí)代的“進(jìn)度條”,我們撥動(dòng)了百分之幾?

    “技術(shù)日新月異,人類生活方式正在快速轉(zhuǎn)變,這一切給人類歷史帶來(lái)了一系列不可思議的奇點(diǎn)。我們?cè)?jīng)熟悉的一切,都開始變得陌生?!庇?jì)算機(jī)之父約翰·馮·諾依曼曾這樣說(shuō)到。

    標(biāo)簽:
    ai智能
  • AI視頻賽道,要變天了

    “毀滅你,與你何干?”,這是在劉慈欣的科幻小說(shuō)《三體》里用來(lái)形容人類與三體人之間的戰(zhàn)爭(zhēng)的一句話。

    標(biāo)簽:
    ai智能
  • “創(chuàng)造市場(chǎng)”與“算法進(jìn)化”,中美AI競(jìng)速的岔路口

    “人工智能的商業(yè)模式,是要?jiǎng)?chuàng)造一個(gè)市場(chǎng),而非一個(gè)算法”。這是世界AI泰斗MichaelI.Jordan的觀點(diǎn)。而當(dāng)前的全球AI市場(chǎng),占據(jù)主導(dǎo)地位的中美雙方,卻也走出了兩條截然不同的技術(shù)路徑,前者執(zhí)著于前沿技術(shù)的探索,后者則發(fā)力應(yīng)用優(yōu)化和商業(yè)化落地。南轅北轍的兩個(gè)方向,或許已經(jīng)無(wú)法直接進(jìn)行排位先后、優(yōu)

    標(biāo)簽:
    ai智能
  • 智能體進(jìn)化發(fā)展了一年,現(xiàn)在的RPA Agent迭代到什么程度了?

    智能體進(jìn)化發(fā)展了一年,現(xiàn)在的RPAAgent迭代到什么程度了?從實(shí)在智能最新發(fā)布的實(shí)在Agent7.0,看RPAAgent的迭代升級(jí)抓取豆瓣信息、自己制作PPT,這款A(yù)IAgent真的實(shí)現(xiàn)了流程全自動(dòng)化AIAgent構(gòu)建到執(zhí)行全自動(dòng)化,持續(xù)進(jìn)化RPAAgent再次降低智能體應(yīng)用門檻實(shí)在智能重磅發(fā)布實(shí)

  • 崔大寶:大模型降溫背后的難點(diǎn)、卡點(diǎn)、節(jié)點(diǎn)

    崔大寶|節(jié)點(diǎn)財(cái)經(jīng)創(chuàng)始人進(jìn)入2024年,大模型似乎有熄火之勢(shì):資本市場(chǎng),與之關(guān)聯(lián)的概念炒不動(dòng)了,英偉達(dá)股價(jià)動(dòng)輒暴跌重挫,引發(fā)“泡沫戳破”的擔(dān)憂;消費(fèi)市場(chǎng),BATH們的推新活動(dòng)少了,產(chǎn)品更新迭代的速度慢了,民眾的關(guān)注度降了……熱鬧的大概只剩下兩場(chǎng)酣仗:自5月15日字節(jié)跳動(dòng)宣布“以厘計(jì)費(fèi)”,打響國(guó)內(nèi)大模型

    標(biāo)簽:
    大模型
  • 這一屆“出道”的數(shù)字人,已經(jīng)拿捧上了“鐵飯碗”

    文|智能相對(duì)論作者|陳泊丞好消息!你心心念念的事業(yè)單位發(fā)錄取公告了!壞消息!他們沒錄你,錄了個(gè)數(shù)字人。圖片來(lái)源網(wǎng)絡(luò)隨著數(shù)字人技術(shù)的突破,越來(lái)越多的傳統(tǒng)企業(yè)和機(jī)構(gòu)開始用上了“數(shù)字員工”。甚至很多中國(guó)人心心念念的“鐵飯碗”,也被這些數(shù)字人給捧上了。數(shù)字人捧上了“鐵飯碗”簡(jiǎn)單翻看一下全國(guó)各地事業(yè)單位的“錄

    標(biāo)簽:
    數(shù)字人

編輯推薦