tft每日頭條

 > 科技

 > 自主決策的ai安全分析

自主決策的ai安全分析

科技 更新时间:2024-09-18 07:23:47

十幾年前,還在美國佛羅裡達大學做教授的李曉林,做了一款名為“H-Trust”的算法,用于評估研究人員學術産出質量與水平,從而解決人的信任問題。

自主決策的ai安全分析(同盾科技李曉林)1

如今,這一前沿理念已經在同盾科技落地生根,而身為美國公立常春藤名校佛羅裡達大學終身教授的李曉林,也轉變了一個身份——同盾科技的合夥人及人工智能研究院院長。

在與筆者交流中,李曉林認為,知識聯邦可以成為可信人工智能時代構建新型生産關系的基石。作為一種安全的數據和知識交換框架體系,知識聯邦技術保證在數據安全的前提下實現知識的提煉與共享,賦能基于數據驅動的公共服務、商業活動與學術研究,充分發揮數據要素的效益倍增作用。

李曉林坦言,知識聯邦通過支撐數據新型生産資料在時空上的安全流通、轉換、交易來實現其價值,助力中國在全球率先突破下一代可信人工智能。

但在這個宏願目标之下,在以終為始的倒推中,看似咫尺卻任重道遠,中間途徑的将是一段漫長且複雜的探索和布局,在算力智庫與李曉林的對話中,他直言不諱,向我們分享了同盾科技的淵源、攻堅和未來規劃。

自主決策的ai安全分析(同盾科技李曉林)2

以實現客戶業務價值為導向不為隐私計算而隐私計算

算力智庫:

當下我們說的隐私計算技術服務商或隐私計算行業,大部分團隊和企業是因隐私計算風口而生的,天然就專注于隐私計算,但同盾科技是以決策智能起家,既是老大哥,也是獨角獸。在此背景下,同盾科技投身隐私計算是基于怎樣的定位,是風口機會,還是内生需求?

李曉林:

同盾科技成立了8年多,在金融風險、安全、政企數字化都做了比較久的積累,對數據安全的理解還是比較深刻。在做業務的過程中,我們發現數據隐私保護在全球受到關注,因此在國内我們是比較早關注到這個領域的,而不是它成了風口之後才進去。我們很早就看到數據安全将會成為未來剛需,于是2018年,我們就做了去标識、脫敏等技術工作。2019年,則開始探索做聯邦學習、MPC等技術。後來我們成立了AI研究院,對此進行了更前瞻性的探索。

另外,我們還具備做隐私計算天然的場景,同盾成立至今已有超過1萬家的客戶資源,覆蓋金融、政企、互聯網等多領域,結合最新的數據合規要求,同盾在為各行業客戶做分析決策服務的過程中,能夠迅速将隐私計算技術接入到客戶風控模型等底層平台中。

另一方面,我們不是為了隐私計算而做隐私計算,不追求短平快的方式,而是對行業有長期的準備。數據隐私雖然是風口,但全面爆發還需要時間,我們按照既定的計劃,有節奏地做短中長期的規劃。

算力智庫:

以同盾的行業經驗來看,隐私計算技術所代表的數據價值究竟給金融業帶來了哪些業務價值?是否能分享一個同盾的相關案例?在金融業之外,同盾在其他行業有哪些落地應用?

李曉林:

現在隐私計算确實是風口,但也會帶來一些不切實際的期望,而我們希望可以給客戶帶來一些實實在在的業務價值。結合客戶案例看,也的确做到了這一點,以銀保營銷的場景為例,利用具有精準人群标簽作為種子用戶,通過一定的算法評估模型,在保障安全的前提下,利用某銀行、某保險公司的特征互為補充,找到更多潛在關聯的相似人群,構建多維、準确、及時的全息用戶畫像。針對每類人群标簽,選取不同的樣本和标簽定義,基于知識聯邦進行聯邦建模,為銀行保險代理人提供用戶的精準人群标簽。成功被轉化的用戶,可作為優質客戶,優化和豐富種子用戶,進而不斷完善用戶畫像。該方案對保險公司自銷渠道預測效果提升了近300%。這是給客戶帶來了真正的業務價值,讓客戶看到了效果,增加了客戶粘性,我們的營收也會有可持續性。

在金融業之外,我們的隐私計算技術在數字政務、中小微企業金融服務平台、互聯網反欺詐判斷等方面都有很多有價值的應用。

自主決策的ai安全分析(同盾科技李曉林)3

擁抱雲原生,知識聯邦構建可信AI地基

算力智庫:

知識聯邦疊代已有幾個版本,主要包括哪些方面的升級,未來主要還将順應哪些需求選定哪些疊代方向?

李曉林:

我們從2019年開始推出1.0版,到2020年推出2.1~2.4版本,2021年推到了3.0版本。第一個版本我們實現了一些主要功能,第二版把性能大幅度提升了,比如支持高并發、兼容上10億的數據量級。3.0版本則實現了全面雲原生,同時支持各種如私有雲、公有雲、混合雲等輕量級的部署。

如果是簡單的标品,現在雲原生可以達到一鍵部署,以後可以大規模的在客戶側實施。未來4.0可能會向可信AI開放操作系統“天啟”發力。

算力智庫:

知識聯邦有自己的數據要素市場“智邦iData”,您認為智邦iData與近年來各地層出不窮的數據交易所或者未來更廣義的數據要素市場有什麼不同,是否存在競争或競合的關系?

李曉林:

智邦iData數據要素市場是在2020規劃,2021年推出的。智邦iData定位比較有前瞻性、獨特性,跟國家層面的數據交易所以合作為主,不存在競争。

第一,我們希望輔助它們,提供一些參考、技術輸出、平台輸出。未來,我們會跟包括北數所、上數所等諸多數據交易所合作。

第二,我們定位是做客戶之間的、相對規模較小的市場。既有的客戶可以在上面使用數據。智邦與iData是緊密結合的,是可插拔的。智邦的客戶有需求,我們可以天然地打通,讓它們對接更多的數據。

自主決策的ai安全分析(同盾科技李曉林)4

可信AI标準建設是當務之急先把蛋糕做大,而不是分蛋糕

算力智庫:

大部分業内企業都把隐私計算與數據流通或數據要素市場緊密關聯,有些也提出了更宏觀的大基礎設施體系,但同盾基于隐私計算技術不僅構建了知識聯邦的系統,還上升到可信 AI的高度,請問同盾語境下的可信AI生态系統與一般意義上的可信AI或負責任的AI有哪些交叉和并行關系?

李曉林:

同盾希望,考慮問題要相對長遠一些。知識聯邦在業内有一定獨特性,是融合了層次化的統一平台。我們從2019年開始就做知識聯邦,為了下一代AI,接下來我們将提出可信AI的開放操作系統——天啟平台。一方面為了面向下一代AI,另一方面要提供一個可信賴的、可靠的、安全的平台。

這個落地還是有難度的。我們現在正在不斷推進的過程中,現在說的可信AI,是數據安全隐私保護、可監管,屬于狹義的可信AI,這是我們目前的重點。但我們不會停留在這個地方,等做完之後,我們還會做更多功能的可信AI,包括可靠性、AI倫理等等。

我們目前的重點還是以數據合規、數據安全、隐私保護、監管科技為主。

自主決策的ai安全分析(同盾科技李曉林)5

2020年,我們開源了數據安全交換協議FLEX,有效利用多個參與方的協議标準,真正實現數據可用不可見,知識共創和共享;在此基礎上,我們又打造了全面互聯互通參考模型FIRM模型,這是一個多層次的互聯互通參考模型,把互聯互通分為五個層次,包括平台層、通信層、數據交換層、算法層、應用層;有了互聯互通,有了智邦平台的支撐,有了知識聯邦的理論框架,我們就可以進一步打通數據流通。基于合規的互聯互通,我們進一步打造出數據的要素市場,即智邦iData。

算力智庫:

構建可信AI至少包括俠義的數據和算法兩大方面,廣義還可包括AI機構可信度甚至公衆的AI認同等多方面,基于知識聯邦的可信AI理念是否主要聚焦于數據方面,您對于推動構建可信AI其他方面的發展有什麼建議?

李曉林:

我們的系統是開放的,每個人都能在上面評論,像社交網絡一樣。在這使用了别人的算法、數據,就可以給其打分。打分打得久了,算法的可信度、精度、性能等都會有了評分。那這個其實就像淘寶上你開個店。你的商品賣得比較好,大家可以打高分,這個對公衆參與AI建設及可信度的提升是有幫助的,也有一定的教育意義。

算力智庫:

同盾一直積極投身隐私計算行業标準的建設,在您看來标準對于技術、企業和行業發展的主要價值有哪些?另外我國在可信AI領域的标準制定尚遠落後于國際,那麼隐私計算相關标準與可信AI相關标準是否有可以協同之處?

李曉林:

同盾一直緻力于建立标準,标準對行業發展是非常重要的,我們一直在積極參與。标準制定過程,也是同行不斷溝通創新的過程,對技術提升也有幫助,現在行業遠沒到競争的時候,當前主要工作是把蛋糕做大,而不是分蛋糕。

隐私保護、數據保護、算法安全都在可信AI範疇内,可信AI标準建立起來難度還是比較大,是一攬子的标準,要實現全方位測評。同盾近年來也一直在積極參與人民銀行金标委、信安标委、中國信通院等多個數據安全相關标準的制定,從自身實踐中來,到行業發展中去,希望為行業的健康良性發展貢獻力量。

,

更多精彩资讯请关注tft每日頭條,我们将持续为您更新最新资讯!

查看全部

相关科技资讯推荐

热门科技资讯推荐

网友关注

Copyright 2023-2024 - www.tftnews.com All Rights Reserved