1. 創(chuàng)業(yè)頭條
  2. 前沿領(lǐng)域
  3. 人工智能
  4. 正文

護(hù)航AI時代網(wǎng)絡(luò)安全的,為什么會是這個“小巨人”企業(yè)?

 2021-11-23 09:52  來源:A5專欄  我來投稿 撤稿糾錯

  域名預(yù)訂/競價,好“米”不錯過

文丨智能相對論

作者丨陳選濱

科學(xué)技術(shù)是把雙刃劍,在為我們生活帶來便利的同時,也在引發(fā)一系列的社會問題,比如當(dāng)前比較熱門的AI人臉識別詐騙、聲紋識別欺騙等。

在今年的凈網(wǎng)2021專項行動中,南通警方就破獲了一起AI人臉識別詐騙案件。據(jù)官方介紹,該犯罪團(tuán)伙主要利用AI軟件偽造人臉識別認(rèn)證來解綁用戶賬號,再以低廉的價格將賬號賣給下游的詐騙份子,從而非法牟利。

除了“人臉”之外,“聲音”也同樣可以借助AI技術(shù)進(jìn)行克隆模仿。國外就有一個犯罪團(tuán)伙利用人工智能語音生成軟件,成功模仿并冒充一家英國能源公司的德國母公司CEO,來欺騙其多位同事和合作伙伴,非法牟利約173萬人民幣,令人咋舌。

因此,在當(dāng)前,反AI欺詐基本已經(jīng)成為一個社會性的問題,如何以“魔法打敗魔法”,用技術(shù)手段來解決技術(shù)問題,是市場和行業(yè)共同努力的方向。特別是在AI應(yīng)用越來越普遍的國內(nèi)市場,更多的企業(yè)投身于專業(yè)技術(shù)領(lǐng)域,正在用更領(lǐng)先的技術(shù)能力來壘砌反AI欺詐的圍墻。

比如,前不久,中關(guān)村科金就在FaceForensics++Benchmark(國際知名深度偽造學(xué)術(shù)榜單)通過基于自有億級海量圖片訓(xùn)練的人臉識別算法和獨有的AI技術(shù)將綜合準(zhǔn)確率提升至94.1%,成功登頂榜首,將我國的深度偽造防偽能力再提升一個段位,處于國際領(lǐng)先水平。

所謂深度偽造技術(shù)是指通過人工智能技術(shù)將一個人(比如目標(biāo)公司的CEO)視頻中的頭像幾乎完美嫁接到另一個視頻中的人(比如假的演員)身上。這樣的技術(shù)如果往壞的方向應(yīng)用就很容易構(gòu)成文章開篇所說的欺詐案件,但是如果往好的方向應(yīng)用,那將是反AI欺詐工程的重要技術(shù)支持。

反AI欺詐,便是目前中關(guān)村科金致力于產(chǎn)業(yè)賦能的一個技術(shù)應(yīng)用方向。 技術(shù)本身就帶有天然的辯證性,當(dāng)AI欺詐越來越普遍,反AI欺詐實際也正在逐漸形成一個產(chǎn)業(yè),只是外界關(guān)注得并不多,而正在與非法份子角力的也多是一些專精企業(yè),而非巨頭。

AI欺詐與反欺詐角力,引領(lǐng)產(chǎn)業(yè)機(jī)遇的卻不是“傳統(tǒng)”AI巨頭?

目前,AI欺詐案件很普遍,方式也是多種多樣,偽造郵件、克隆聲音、電話詐騙、人臉偽造等等層出不窮。

聚焦來看,這些AI詐騙的核心就是利用先進(jìn)的人工智能技術(shù)來偽造聲音、筆跡、人臉等特征,來獲取受害者的信任從而實現(xiàn)牟利。

這樣的方式相比以往的詐騙,就存在非常明顯的技術(shù)優(yōu)勢——在AI技術(shù)的加持下,偽造的“真實性”更強(qiáng),不僅是人,甚至連某些終端設(shè)備的攝像頭、傳感器都能騙過,可謂防不勝防。

因此,面對這種情況,簡單的呼吁和提高反詐騙意識是不夠,必須得利用技術(shù)手段來預(yù)防、解決。比如,國外的信息安全服務(wù)商Symantec就計劃用區(qū)塊鏈和IP語音(VoIP)呼叫的方法來辨別來電者的真實性,減少AI偽造詐騙電話。

在國內(nèi),類似的技術(shù)應(yīng)用與推廣也在開展,中國信通院就在牽頭組織“護(hù)臉計劃”成員加速相關(guān)技術(shù)的進(jìn)步和應(yīng)用落地。其中,成員之一的中關(guān)村科金依托強(qiáng)大的AI算法能力和人臉防偽技術(shù)正在助力銀行、保險、證券、信托、教育等行業(yè)實現(xiàn)智能化安全升級,規(guī)避AI欺詐風(fēng)險。

在這個過程中,反AI欺詐依托較高的技術(shù)門檻以及規(guī)?;膽?yīng)用,正逐步發(fā)展成為一個典型的“專精特新”產(chǎn)業(yè)。

值得一提的是,在這個新產(chǎn)業(yè),引領(lǐng)發(fā)展的往往并非是傳統(tǒng)意義上AI巨頭,而是一些深耕單一技術(shù)領(lǐng)域的專精企業(yè)。 這不難理解,AI欺詐與反AI欺詐之間的拉鋸大多是對應(yīng)某一單一技術(shù)領(lǐng)域的角力,“正義”的一方必然需要更專業(yè)、強(qiáng)大的技術(shù)能力。

因此,進(jìn)入這一領(lǐng)域的服務(wù)商必須要有過硬的技術(shù)能力,比如中關(guān)村科金,除了人臉識別技術(shù)之外,其聲紋識別能力同樣榮獲了國際權(quán)威聲紋識別賽事VoxSRC2021的Trick1和Trick2兩個賽道雙榜第二名,達(dá)到國際領(lǐng)先水平。

憑借人工智能技術(shù)展現(xiàn)出來的技術(shù)實力以及市場潛力,中關(guān)村科金同時也榮獲了2021北京市專精特新“小巨人”企業(yè)稱號。 而在反AI欺詐這個賽道內(nèi),往往就是這樣的小巨人企業(yè)憑借著技術(shù)的專注性做出了優(yōu)勢,引領(lǐng)著產(chǎn)業(yè)的方向。

三個動作,反AI欺詐走向產(chǎn)業(yè)突圍

在中國信通院牽頭組織的“可信AI:人臉識別評估”活動中,順利通過本次評估且系統(tǒng)安全防護(hù)能力達(dá)到優(yōu)秀級的企業(yè)就有中關(guān)村科金、云從科技等這樣專注AI領(lǐng)域的玩家。

如今,信息安全早已成為一個較為成熟的產(chǎn)業(yè),反AI欺詐只是其中的一種表現(xiàn),市場和行業(yè)正在從各個層面來增強(qiáng)整體的防護(hù)能力。聚焦中關(guān)村科金這樣的小巨人企業(yè)以及“可信AI:人臉識別評估”類似的權(quán)威測評,我們可以看到較為清晰的三大行動趨勢。

設(shè)置比AI欺詐進(jìn)攻路線更全面的“防御工事”。

首先,面對AI欺詐等技術(shù)風(fēng)險攻擊,只有做好從技術(shù)到產(chǎn)業(yè)的全面部署才能真正的有效做好防御。

因此,在本次“可信AI:人臉識別評估”活動中,中國信通院就設(shè)置了各種主流的攻擊方式測評,如人臉識別系統(tǒng)抵御電子屏攻擊、打印照片攻擊、挖孔照片攻擊、三維頭模攻擊、手機(jī)定制ROM注入攻擊等,全面、客觀地考驗企業(yè)的技術(shù)能力。

這種通過“技術(shù)來評估技術(shù)”的方法對應(yīng)的正是“用技術(shù)手段來解決技術(shù)問題”的產(chǎn)業(yè)思路,一切的核心都在技術(shù)之上。通過這樣的活動將持續(xù)倒逼企業(yè)專注于技術(shù)進(jìn)步,同時讓市場看到更多像中關(guān)村科金這樣的專精企業(yè),促成產(chǎn)業(yè)合作將信息安全的“防御工事”推動起來。

從擬真中快速獲取更豐富的防御技巧。

其次,對于企業(yè)而言,做好信息安全更要有先“敵人”一步,先市場一截的意識。那么,參與國內(nèi)外的頂尖賽事和評估活動,很大程度上不僅能得到權(quán)威的背書,還能為技術(shù)應(yīng)用創(chuàng)造一個擬真的場景,以獲取更豐富的防御技巧。

本次FaceForensics++Benchmark榜單就為參賽團(tuán)隊提出了極為困難的評估活動,其中換表情(NerualTexture、Face2Face)的深度偽造算法由于其微笑的編輯區(qū)域以及逼真的渲染技術(shù),辨別真?zhèn)坞y度極大。

同樣的,在其他評估活動中也設(shè)置了基于行業(yè)頂級標(biāo)準(zhǔn)的門檻。正是在這種極為嚴(yán)苛的測試條件下,越能看到一家企業(yè)應(yīng)對信息安全攻擊以及AI欺詐的技術(shù)能力。

經(jīng)受現(xiàn)實場景的嚴(yán)苛考驗,明確技術(shù)應(yīng)用方向。

最后,現(xiàn)實場景的應(yīng)用也是必不可少的。比起擬真訓(xùn)練,現(xiàn)實應(yīng)用更能看到“敵人”的攻擊方式、攻擊意圖以及攻擊思維,從而明確技術(shù)的迭代方向。

目前,社會上就存在一種新的高科技犯罪思路:犯罪分子先是摸清行方的大額轉(zhuǎn)賬業(yè)務(wù)全部流程中可能涉及的填報信息,然后搭建紅包釣魚網(wǎng)站,引誘客戶填報相關(guān)個人敏感信息。緊接著再使用專用的ROM劫持設(shè)備對行方系統(tǒng)進(jìn)行攝像頭麥克風(fēng)劫持,與客戶進(jìn)行視頻電話通信,引導(dǎo)客戶進(jìn)行相關(guān)點點頭、眨眨眼、張張嘴的操作,以此順利通過了行方的知識型個人信息校驗、生物型活體識別與人臉識別,實現(xiàn)非法牟利。

在這種情況下,市場上常規(guī)的動作活體技術(shù)的密碼空間相對狹小,兩輪動作也僅有幾十種可能性,非常容易被窮舉和傳遞誘導(dǎo),因此很難做好防御。因此,中關(guān)村科金正采用多模態(tài)生物防偽與安全平臺中的數(shù)字活體技術(shù)進(jìn)行加固,可以將密碼空間上升到幾十萬種,不僅要求在有限的時間內(nèi)將動態(tài)密碼轉(zhuǎn)述給客戶,還要求突破唇語校驗、語音校驗、音畫同步校驗。這樣就大大提高了犯罪分子的攻擊成本,從而保護(hù)客戶的財產(chǎn)安全。

因此,從實際應(yīng)用來看,現(xiàn)實場景的嚴(yán)苛考驗是非常關(guān)鍵的,只有越深入現(xiàn)實之中,才越能看清目前產(chǎn)業(yè)最需要解決的問題是什么,技術(shù)應(yīng)該怎么賦能。

“魔”“道”較量,AI時代網(wǎng)絡(luò)安全藍(lán)海才剛剛開始

回過頭來說,欺詐與反欺詐本身就是一個相互拉鋸的事情,加持了AI技術(shù)也同樣如此。對于這樣一個“魔高一尺道高一丈”的過程,一般很難出現(xiàn)終局,現(xiàn)在也只是開場。

或許,很快又會有新的攻擊方式和技術(shù)手段出現(xiàn),需要服務(wù)商不斷的應(yīng)對,迭代自家技術(shù),釋放產(chǎn)業(yè)價值。

我們可以看到的是,技術(shù)的進(jìn)步必然會帶來更多的價值,一方面是防范安全的價值,另一方面則是應(yīng)用優(yōu)化的價值。

比如,中關(guān)村科金攜手某全國性股份制商業(yè)銀行打造的互聯(lián)網(wǎng)銷售可回溯系統(tǒng),在保障互聯(lián)網(wǎng)產(chǎn)品銷售安全的同時,實際上也為銀行、客戶等多方帶來了顯而易見的新價值——對于銀行,系統(tǒng)可對有效訂單信息回溯數(shù)據(jù)并進(jìn)行算法壓縮+多重算法加密處理,保證回溯資料無損且安全,存儲效率高,成本低;對于客戶,系統(tǒng)采用輕感知采集,無需進(jìn)行過重操作,只需簡單操作便能看到整個互聯(lián)網(wǎng)產(chǎn)品的銷售過程,保障權(quán)益。據(jù)悉,該系統(tǒng)已合作銀行及保險機(jī)構(gòu)近15家,其中超過3家通過了銀保監(jiān)會駐點檢查。

由此可見,技術(shù)確實是一把雙刃劍,但是如果“好”的一面能夠用得好的話,不僅能給我們帶來安全可靠的保障,還能提供更為便捷高效的服務(wù)。

那么,在這場“魔”與“道”的較量中,反AI欺詐也好,信息安全也罷,都不止于“防護(hù)”二字,而是更為遠(yuǎn)大的目標(biāo),即更好地服務(wù)于生活、生產(chǎn)。

*本文圖片均來源于網(wǎng)絡(luò)

此內(nèi)容為【智能相對論】原創(chuàng),

僅代表個人觀點,未經(jīng)授權(quán),任何人不得以任何方式使用,包括轉(zhuǎn)載、摘編、復(fù)制或建立鏡像。

部分圖片來自網(wǎng)絡(luò),且未核實版權(quán)歸屬,不作為商業(yè)用途,如有侵犯,請作者與我們聯(lián)系。

智能相對論(微信ID:aixdlun):

•AI產(chǎn)業(yè)新媒體;

•今日頭條青云計劃獲獎?wù)逿OP10;

•澎湃新聞科技榜單月度top5;

•文章長期“霸占”鈦媒體熱門文章排行榜TOP10;

•著有《人工智能 十萬個為什么》

•【重點關(guān)注領(lǐng)域】智能家電(含白電、黑電、智能手機(jī)、無人機(jī)等AIoT設(shè)備)、智能駕駛、AI+醫(yī)療、機(jī)器人、物聯(lián)網(wǎng)、AI+金融、AI+教育、AR/VR、云計算、開發(fā)者以及背后的芯片、算法等。

申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!

相關(guān)標(biāo)簽
ai技術(shù)

相關(guān)文章

  • 匯聚中國AI頂尖力量 云天勵飛參與華為AI大模型聯(lián)合創(chuàng)新

    2023年7月6日,第六屆世界人工智能大會(WAIC2023)在上海開幕,“人工智能大模型”是本屆大會的備受矚目的話題,據(jù)悉,在昇騰AI大模型的創(chuàng)新研發(fā)中,華為聯(lián)手26家行業(yè)領(lǐng)軍企業(yè),組建了一支協(xié)同創(chuàng)新的“AI明星隊”,云天勵飛作為中國人工智能企業(yè)的杰出代表,和互聯(lián)網(wǎng)大廠、運(yùn)營商、科研院所等優(yōu)秀團(tuán)隊

    標(biāo)簽:
    ai技術(shù)
  • 用友大易:邁入AI招聘2.0時代,讓人力資源回歸本質(zhì)

    這幾個月來,以ChatGPT為代表的生成式AI展現(xiàn)出的能力令世界驚嘆。自從2016年AlphaGo戰(zhàn)勝李世石掀起了一波AI浪潮后,AI仿佛已經(jīng)沉寂了很久,ChatGPT的橫空出世就如同一束耀眼的光芒,讓AI這個名詞重回C位。過去在AI1.0時代,主要通過訓(xùn)練模型來實現(xiàn)圖像識別、聲音識別、語言處理等特

    標(biāo)簽:
    ai技術(shù)
  • 新發(fā)布的PaaS2.0,能否助力涂鴉智能再起飛?

    文:互聯(lián)網(wǎng)江湖作者:志剛2023年的IoT需要一個新故事。6月29日,涂鴉智能在開發(fā)者大會上,發(fā)布了企業(yè)級戰(zhàn)略PaaS2.0,希望通過一個平臺+四大開發(fā)服務(wù),建立起IoT生態(tài)。對于這場發(fā)布會,市場的態(tài)度是積極的。美東時間6月29日收盤,涂鴉智能美股股價上漲5.6%,來到1.87美元/股。近日股價穩(wěn)定

    標(biāo)簽:
    ai技術(shù)
  • 大模型難掩AI制藥的悲傷:越過山丘,無人等候

    美團(tuán)曾經(jīng)的二號人物王慧文對標(biāo)OpenAI的創(chuàng)業(yè)項目光年之外,以20億賣給美團(tuán),再度引發(fā)市場對大模型的熱議。

    標(biāo)簽:
    ai技術(shù)
  • 拾起王慧文的AI夢,美團(tuán)沖向“光年之外”?

    2020年底,王慧文在朋友圈寫下這句話時,外界本以為這位伴隨中國互聯(lián)網(wǎng)發(fā)展而持續(xù)創(chuàng)業(yè)20年的人物即將告別創(chuàng)業(yè)舞臺。但是,一個曾經(jīng)多次創(chuàng)業(yè),正值壯年的互聯(lián)網(wǎng)老將心中的創(chuàng)業(yè)熱情是難以熄滅的。

    標(biāo)簽:
    ai技術(shù)
  • AI加速時代的“進(jìn)度條”,我們撥動了百分之幾?

    “技術(shù)日新月異,人類生活方式正在快速轉(zhuǎn)變,這一切給人類歷史帶來了一系列不可思議的奇點。我們曾經(jīng)熟悉的一切,都開始變得陌生?!庇嬎銠C(jī)之父約翰·馮·諾依曼曾這樣說到。

    標(biāo)簽:
    ai智能
  • AI視頻賽道,要變天了

    “毀滅你,與你何干?”,這是在劉慈欣的科幻小說《三體》里用來形容人類與三體人之間的戰(zhàn)爭的一句話。

    標(biāo)簽:
    ai智能
  • “創(chuàng)造市場”與“算法進(jìn)化”,中美AI競速的岔路口

    “人工智能的商業(yè)模式,是要創(chuàng)造一個市場,而非一個算法”。這是世界AI泰斗MichaelI.Jordan的觀點。而當(dāng)前的全球AI市場,占據(jù)主導(dǎo)地位的中美雙方,卻也走出了兩條截然不同的技術(shù)路徑,前者執(zhí)著于前沿技術(shù)的探索,后者則發(fā)力應(yīng)用優(yōu)化和商業(yè)化落地。南轅北轍的兩個方向,或許已經(jīng)無法直接進(jìn)行排位先后、優(yōu)

    標(biāo)簽:
    ai智能
  • 智能體進(jìn)化發(fā)展了一年,現(xiàn)在的RPA Agent迭代到什么程度了?

    智能體進(jìn)化發(fā)展了一年,現(xiàn)在的RPAAgent迭代到什么程度了?從實在智能最新發(fā)布的實在Agent7.0,看RPAAgent的迭代升級抓取豆瓣信息、自己制作PPT,這款A(yù)IAgent真的實現(xiàn)了流程全自動化AIAgent構(gòu)建到執(zhí)行全自動化,持續(xù)進(jìn)化RPAAgent再次降低智能體應(yīng)用門檻實在智能重磅發(fā)布實

  • 崔大寶:大模型降溫背后的難點、卡點、節(jié)點

    崔大寶|節(jié)點財經(jīng)創(chuàng)始人進(jìn)入2024年,大模型似乎有熄火之勢:資本市場,與之關(guān)聯(lián)的概念炒不動了,英偉達(dá)股價動輒暴跌重挫,引發(fā)“泡沫戳破”的擔(dān)憂;消費市場,BATH們的推新活動少了,產(chǎn)品更新迭代的速度慢了,民眾的關(guān)注度降了……熱鬧的大概只剩下兩場酣仗:自5月15日字節(jié)跳動宣布“以厘計費”,打響國內(nèi)大模型

    標(biāo)簽:
    大模型
  • 這一屆“出道”的數(shù)字人,已經(jīng)拿捧上了“鐵飯碗”

    文|智能相對論作者|陳泊丞好消息!你心心念念的事業(yè)單位發(fā)錄取公告了!壞消息!他們沒錄你,錄了個數(shù)字人。圖片來源網(wǎng)絡(luò)隨著數(shù)字人技術(shù)的突破,越來越多的傳統(tǒng)企業(yè)和機(jī)構(gòu)開始用上了“數(shù)字員工”。甚至很多中國人心心念念的“鐵飯碗”,也被這些數(shù)字人給捧上了。數(shù)字人捧上了“鐵飯碗”簡單翻看一下全國各地事業(yè)單位的“錄

    標(biāo)簽:
    數(shù)字人