近日,信也科技(NYSE:FINV)推出的9¾模型管理平臺在信也科技開放日上首次亮相。9¾平臺能夠提供一站式人工智能模型服務(wù),它以AI技術(shù)服務(wù)集團業(yè)務(wù)全鏈路,助力金融科技行業(yè)集成創(chuàng)新。
據(jù)了解,9¾平臺的名稱靈感來源于哈利·波特系列中的9¾站臺,該站臺可以通往魔法學(xué)院開啟奇妙世界,而信也科技的9¾平臺,則是通過人工智能技術(shù)支持集團科技業(yè)務(wù),并為合作伙伴賦能。
為眾人所熟知的是,人工智能發(fā)展數(shù)載,它潛移默化地影響著人們的生活,在越來越多的領(lǐng)域發(fā)揮著舉足輕重的作用。無論是行業(yè)巨頭還是新興企業(yè),均在人工智能領(lǐng)域發(fā)力,力圖將此技術(shù)推廣到更多的應(yīng)用場景。
9¾ 模型管理 平臺:我從哪里來?
AI模型訓(xùn)練平臺,基于核心模塊和應(yīng)用場景的不同,又可以稱為深度學(xué)習(xí)平臺、機器學(xué)習(xí)平臺、人工智能平臺。用戶在AI平臺能夠使用不同的機器學(xué)習(xí)框架進行大規(guī)模的訓(xùn)練,對數(shù)據(jù)集與模型進行管理和迭代,同時通過API與本地部署等方式接入到具體業(yè)務(wù)場景中使用。
簡單地說,AI平臺=AI FAAS+(PAAS)+(IAAS)。業(yè)界不乏優(yōu)秀的機器學(xué)習(xí)平臺,如微軟的Azure、亞馬遜的AWS Machine Learning、阿里的PAI平臺、百度的Paddle以及騰訊的TI平臺。一般的平臺產(chǎn)品基于基礎(chǔ)的機器學(xué)習(xí)和深度學(xué)習(xí)計算框架進行二次開發(fā),提供一站式的生態(tài)化服務(wù),為用戶提供從模型訓(xùn)練、模型評估、模型在線預(yù)測的全流程開發(fā)和部署支持,以期降低算法專家在工程化時的使用門檻。
9¾ 模型管理 平臺 : 我的解決方案
AI平臺在搭建與落地的過程中,均會遇到機器學(xué)習(xí)門檻高、落地慢、實施周期長等問題。結(jié)合日常工作流程中遇到的問題,9¾平臺提供了一系列的解決方案,以解決模型落地上的一系列難題。具體問題如下:
1、模型環(huán)境構(gòu)建難,從模型到服務(wù)轉(zhuǎn)化慢。2、多個模型共用一套環(huán)境,但模型需要獨立更新,對環(huán)境的維護需格外謹(jǐn)慎,變更風(fēng)險巨大。3、模型服務(wù)交付周期長,工程環(huán)節(jié)耗時長,人力投入大。4、模型服務(wù)回退慢,模型發(fā)布后,如發(fā)現(xiàn)有問題嘗試退回到上一個版本需要數(shù)分鐘,乃至數(shù)小時。5、模型服務(wù)擴容慢,面對突發(fā)流量時,響應(yīng)延遲。
針對以上難題,9¾平臺可提供詳盡的解決方案,具體體現(xiàn)在以下五方面:
1、模型環(huán)境標(biāo)準(zhǔn)化描述,提供一套簡單、統(tǒng)一、覆蓋廣的規(guī)范來定義模型環(huán)境,加快流程。2、將統(tǒng)一標(biāo)準(zhǔn)描述下的模型環(huán)境鏡像化,支持模型容器化運行,提供模型環(huán)境隔離和模型運營隔離。3、工程環(huán)節(jié)代碼采用自動生成技術(shù),實現(xiàn)人力零投入,降低邊際成本。4、模型發(fā)布環(huán)節(jié)采用藍綠發(fā)布與金絲雀發(fā)布,提供操作簡單的快速版本切換與流量切分。5、利用使用率、飽和度指標(biāo)配合彈性伸縮算法,提供秒級的擴容,快速響應(yīng)突發(fā)流量。
9¾ 模型管理 平臺:我的架構(gòu)設(shè)計
根據(jù)企業(yè)不同的規(guī)模、資源及業(yè)務(wù)場景,AI平臺往往有不一樣的定位。例如AI和數(shù)據(jù)可同為一個中臺、AI平臺可視為業(yè)務(wù)中臺的一部分、AI平臺整合進技術(shù)中臺或后臺等。規(guī)模較小、資源有限的企業(yè)通常會選擇使用第三方AI平臺對業(yè)務(wù)進行服務(wù),而非自建AI平臺。但信也科技已有數(shù)據(jù)中臺,因此信也科技的AI平臺更多承擔(dān)的是作為業(yè)務(wù)前臺的模型算法供給角色,在數(shù)據(jù)中臺的支持下,起到承載業(yè)務(wù),對接數(shù)據(jù)與技術(shù)底層的作用。
9¾平臺的架構(gòu)設(shè)計
時下主流的AI平臺有兩種產(chǎn)品形態(tài):一種是趨向AutoML,主要為非算法專家提供的可視化訓(xùn)練平臺,通過拖拽、拉取等方式完成模型設(shè)計和訓(xùn)練中的組件排布,完成模型構(gòu)建,例如Azure;另一種是為專業(yè)人士提供的模型設(shè)計和訓(xùn)練工具,將模型訓(xùn)練和管理通過工程化平臺進行集成管理。也有集成兩種方式的AI平臺,例如阿里的PAI,為各種層次的人工智能工作者與愛好者提供不同專業(yè)程度的工具。
信也科技對AI平臺的定位是能夠快速解決問題、提高能效。因此,信也科技優(yōu)先選擇為算法和模型運維工程師提供針對模型生命周期管理的解決方案。
9¾平臺加速了模型生成和服務(wù)化,可提供一整套從模型管理、模型訓(xùn)練到模型部署、模型監(jiān)控的全生命周期解決方案。它不僅可幫助算法專家解決訓(xùn)練環(huán)境與訓(xùn)練過程中的保存管理問題,還可幫助解決在模型部署和上線時的各種問題,并提供線上部署模型的監(jiān)控服務(wù)。
目前9¾模型管理平臺已部署各類模型數(shù)百個,實現(xiàn)模型日服務(wù)量超過1000萬;可在秒級內(nèi)獲取合適資源;能自動使用CPU、GPU資源,實現(xiàn)自動擴容,性能提升60%;模型上線僅需1分鐘,大大節(jié)約了部署時間。
9¾平臺的 模型訓(xùn)練與線上服務(wù)
此外,9¾平臺為模型訓(xùn)練提供了多套WorkSpace(工作區(qū))容器。一個WorkSpace中包含多種模型開發(fā)時的工具,包括Jupyter、一些常用的IDE與一個終端界面。一個模型從準(zhǔn)備到訓(xùn)練結(jié)束,產(chǎn)出代碼均可在工作區(qū)內(nèi)直接完成,在工作區(qū)內(nèi)可安裝各種依賴、嘗試各種方法,甚至提交代碼至Git,直至算法專家獲得滿意的模型。
針對模型的部署,信也科技獨創(chuàng)了“流水線”的概念,模型的發(fā)布流水線只需4個步驟,一般發(fā)布一個模型不超過5分鐘。
針對無需在實時場景下執(zhí)行、或無法在實時調(diào)用場景下執(zhí)行的耗時較久的模型,9¾提供了發(fā)布為Job任務(wù)的部署方式,用戶可通過Job任務(wù)執(zhí)行回溯任務(wù)或更新訓(xùn)練數(shù)據(jù),整個過程非常游刃有余。
模型的代碼和內(nèi)部邏輯將作為一個黑盒,被打包為一個docker鏡像,因此模型無論以何種方式發(fā)布,發(fā)布在何種環(huán)境內(nèi),都是絕對安全可靠的。通過管理模塊與實際的服務(wù)模塊,用戶能夠完成AI項目的管理和API、Job、鏡像APP等上層應(yīng)用的產(chǎn)出,整個過程無需任何運維人員、工程人員的干預(yù),算法專家即可獨立操作完成。
9¾平臺的 模型管理模塊
9¾ 模型管理 平臺: 未來,我去往何方?
信也科技于12月17日成功舉辦首屆科技開放日,并于當(dāng)日首次揭秘了自身的科技全景圖,用圖譜的形式直觀展示了大數(shù)據(jù)、人工智能、智能決策產(chǎn)品等硬核科研成果。目前9¾平臺可支持信也科技所有科技業(yè)務(wù),覆蓋多個業(yè)務(wù)場景,同時支持多家外部合作伙伴。未來,信也科技的人工智能平臺將在增強模型評估功能、在線預(yù)測平臺化、支持分布式訓(xùn)練等方面持續(xù)深入探索。
信也科技全景圖
9¾平臺的成功發(fā)布將進一步促進人工智能技術(shù)的研發(fā)落地,加強科研成果的轉(zhuǎn)化與輸出。信也科技也將通過不斷的科技創(chuàng)新,深度參與科技賦能,與合作伙伴共謀發(fā)展,助力金融科技行業(yè)創(chuàng)新,使人工智能成為企業(yè)發(fā)展的重要推動力,讓科技更好地服務(wù)人類社會。
申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!
2023年7月6日,第六屆世界人工智能大會(WAIC2023)在上海開幕,“人工智能大模型”是本屆大會的備受矚目的話題,據(jù)悉,在昇騰AI大模型的創(chuàng)新研發(fā)中,華為聯(lián)手26家行業(yè)領(lǐng)軍企業(yè),組建了一支協(xié)同創(chuàng)新的“AI明星隊”,云天勵飛作為中國人工智能企業(yè)的杰出代表,和互聯(lián)網(wǎng)大廠、運營商、科研院所等優(yōu)秀團隊
這幾個月來,以ChatGPT為代表的生成式AI展現(xiàn)出的能力令世界驚嘆。自從2016年AlphaGo戰(zhàn)勝李世石掀起了一波AI浪潮后,AI仿佛已經(jīng)沉寂了很久,ChatGPT的橫空出世就如同一束耀眼的光芒,讓AI這個名詞重回C位。過去在AI1.0時代,主要通過訓(xùn)練模型來實現(xiàn)圖像識別、聲音識別、語言處理等特
文:互聯(lián)網(wǎng)江湖作者:志剛2023年的IoT需要一個新故事。6月29日,涂鴉智能在開發(fā)者大會上,發(fā)布了企業(yè)級戰(zhàn)略PaaS2.0,希望通過一個平臺+四大開發(fā)服務(wù),建立起IoT生態(tài)。對于這場發(fā)布會,市場的態(tài)度是積極的。美東時間6月29日收盤,涂鴉智能美股股價上漲5.6%,來到1.87美元/股。近日股價穩(wěn)定
美團曾經(jīng)的二號人物王慧文對標(biāo)OpenAI的創(chuàng)業(yè)項目光年之外,以20億賣給美團,再度引發(fā)市場對大模型的熱議。
2020年底,王慧文在朋友圈寫下這句話時,外界本以為這位伴隨中國互聯(lián)網(wǎng)發(fā)展而持續(xù)創(chuàng)業(yè)20年的人物即將告別創(chuàng)業(yè)舞臺。但是,一個曾經(jīng)多次創(chuàng)業(yè),正值壯年的互聯(lián)網(wǎng)老將心中的創(chuàng)業(yè)熱情是難以熄滅的。
“人工智能的商業(yè)模式,是要創(chuàng)造一個市場,而非一個算法”。這是世界AI泰斗MichaelI.Jordan的觀點。而當(dāng)前的全球AI市場,占據(jù)主導(dǎo)地位的中美雙方,卻也走出了兩條截然不同的技術(shù)路徑,前者執(zhí)著于前沿技術(shù)的探索,后者則發(fā)力應(yīng)用優(yōu)化和商業(yè)化落地。南轅北轍的兩個方向,或許已經(jīng)無法直接進行排位先后、優(yōu)
智能體進化發(fā)展了一年,現(xiàn)在的RPAAgent迭代到什么程度了?從實在智能最新發(fā)布的實在Agent7.0,看RPAAgent的迭代升級抓取豆瓣信息、自己制作PPT,這款A(yù)IAgent真的實現(xiàn)了流程全自動化AIAgent構(gòu)建到執(zhí)行全自動化,持續(xù)進化RPAAgent再次降低智能體應(yīng)用門檻實在智能重磅發(fā)布實
崔大寶|節(jié)點財經(jīng)創(chuàng)始人進入2024年,大模型似乎有熄火之勢:資本市場,與之關(guān)聯(lián)的概念炒不動了,英偉達股價動輒暴跌重挫,引發(fā)“泡沫戳破”的擔(dān)憂;消費市場,BATH們的推新活動少了,產(chǎn)品更新迭代的速度慢了,民眾的關(guān)注度降了……熱鬧的大概只剩下兩場酣仗:自5月15日字節(jié)跳動宣布“以厘計費”,打響國內(nèi)大模型
文|智能相對論作者|陳泊丞好消息!你心心念念的事業(yè)單位發(fā)錄取公告了!壞消息!他們沒錄你,錄了個數(shù)字人。圖片來源網(wǎng)絡(luò)隨著數(shù)字人技術(shù)的突破,越來越多的傳統(tǒng)企業(yè)和機構(gòu)開始用上了“數(shù)字員工”。甚至很多中國人心心念念的“鐵飯碗”,也被這些數(shù)字人給捧上了。數(shù)字人捧上了“鐵飯碗”簡單翻看一下全國各地事業(yè)單位的“錄
黑芝麻智能敲鐘后,港交所門口又有一些智駕芯片企業(yè)引發(fā)關(guān)注。據(jù)悉,近日地平線已通過中國證監(jiān)會IPO備案,擬發(fā)行不超過11.5億股境外上市普通股并在香港聯(lián)合交易所上市,預(yù)計籌集約5億美元資金。從天眼查可以了解到,該公司成立于2015年,是一家乘用車高級輔助駕駛(ADAS)和高階自動駕駛(AD)解決方案供
8月21日,萬眾矚目的2024世界機器人大會暨博覽會在北京亦創(chuàng)國際會展中心盛大開幕。這場為期5天,集“展覽”“論壇”“賽事”于一體的機器人盛會,反映了當(dāng)下機器人領(lǐng)域的繁榮生態(tài)。據(jù)官方統(tǒng)計數(shù)據(jù),今年現(xiàn)場逛展觀眾高達25萬人次,比去年增加25%。機器人行業(yè)有多火?看看2024世界機器人大會火爆程度便可知
瞄準(zhǔn)場景需求,打造國內(nèi)領(lǐng)先的自主可控、高質(zhì)量超大載重高烈度環(huán)境特種智能系留無人平臺。卓翼智能亮相HICOOL峰會以科技實力榮摘創(chuàng)業(yè)大賽一等獎這個比賽5年培育出16家“獨角獸”HICOOL2024全球創(chuàng)業(yè)者峰會暨創(chuàng)業(yè)大賽已于8月25日在北京圓滿落下帷幕,大賽共吸引了124個國家和地區(qū)的7406個創(chuàng)業(yè)項
人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。無錫市作為中國的科技創(chuàng)新中心之一,正通過構(gòu)建人工智能"算力+算法+數(shù)據(jù)"三要素齊備的產(chǎn)業(yè)生態(tài),為產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用提供強大支撐,通過“AI+”行動推動人工智能與多個產(chǎn)業(yè)交叉融合,實現(xiàn)技術(shù)落地和產(chǎn)業(yè)化,加速形成新質(zhì)生產(chǎn)力,打造具有國際競爭力的產(chǎn)業(yè)創(chuàng)新智造
近日,2024龍蜥操作系統(tǒng)大會(OpenAnolisConference)在北京圓滿召開,此次大會由中國計算機學(xué)會開源發(fā)展委員會、中關(guān)村科學(xué)城委員會、海淀區(qū)委網(wǎng)信辦、中國開源軟件推進聯(lián)盟指導(dǎo),龍蜥社區(qū)主辦,阿里云、浪潮信息、Intel、中興通訊、Arm、中科方德等24家理事單位共同承辦,主題為“進化