近年來,以深度學習為核心的人工智能技術發展迅速,視覺識别技術最為大衆所熟知,應用也最為廣泛。無論是互聯網大公司、傳統安防公司以及新興的人工智能技術公司都在這一領域大舉投入。
而其中的人臉識别技術在智能手機上更已經是标配,今天的我們刷臉解鎖、刷臉支付就像吃飯喝水一樣自然。雖然手機廠商往往會在發布手機的時候宣稱「破解人臉識别的幾率低至百萬分之一」,但雙胞胎解鎖對方手機的事情仍然偶爾會上新聞。
來自清華的 RealAI(瑞萊智慧)向我們展示了一項更為簡單的攻擊技術。在一副眼鏡的攻擊下,19款國産智能手機,不管是低端機,還是售價4000以上的高端手機,全都是秒級解鎖。
測試者隻需佩戴一副含有對抗樣本圖案的眼鏡就可以,而制作這副眼鏡的成本就是借用一台打印機和一張A4紙。
最終,除了一台 iPhone11,其餘安卓機型全部解鎖成功,完成整個破解過程隻花了15分鐘。攻擊測試人員成功解鎖手機後,任意翻閱機主的微信、信息、照片等個人隐私信息,甚至還可以通過手機銀行等個人應用APP的線上身份認證完成開戶。
為了進一步驗證,随後清華大學的研究機構又重新測試,将不同的人、不同的國産手機、不同的主人,都重新做了測試。幾乎所有的測試,國産手機都是破解無壓力!包括手機裡的圖片、視頻、APP應用、甚至手機銀行,全都能自由使用!
其實,對抗攻擊技術算不上新穎。2019年8月份,AI算法就在現實世界中首次實現攻擊。來自莫斯科國立大學、華為研究者們曾發布,在腦門上貼一張對抗樣本圖案,能讓公開的 Face ID系統識别出錯。
去年7月,微軟曠視開發了一套算法,隻在照片上做了小改動,就有如穿上“隐身衣”,導緻人臉識别系統無法破解。但這些攻擊,僅僅隻是讓識别系統識别不出目标,并沒有完成破解。
如今,RealAI團隊真正實現了破解過程,且整個操作時長不到15分鐘,這證實了對抗樣本攻擊在現實生活中能夠帶來安全威脅。這一漏洞涉及所有搭載人臉識别功能的應用和設備,一旦被黑客利用,隐私安全與财産安全都将受到威脅。
被“濫用”的人臉識别
人臉識别,最初在機場、高鐵站以及酒店等場景使用這項技術對個人身份進行驗證,随後商業銀行也開始采用人臉識别實現遠程開戶。再之後,刷臉支付、刷臉門禁也相繼出現,人臉識别逐漸從少數有限場景滲透到人們的日常生活之中。而今年以來新冠疫情,使得人臉識别的應用加速發展起來。
不可否認,人臉識别系統,在某一些方面确實很便利,如今人們大概已經對商場、辦公樓等場所入口處的測溫設備更是習以為常。這類設備融合了人臉檢測與紅外測溫技術,能夠實現“非接觸式測溫”,在疫情防控中被廣泛鋪開。
而人臉識别帶來便利的同時,随之而來的是它的“濫用”。睜眼的也采集,閉眼的瞬間也采集。個人信息安全層面和人臉識别技術在某些場景的應用侵犯個人隐私的情況都值得大家警惕起來。
比如,在沒有任何告知的情況下,直接就“人臉識别”掌握我們的隐私信息時。甚至,就連路邊一個小小的火鍋店、餐廳也能随便安裝幾十個、上百個攝像頭,正大光明地拍照、記錄人們的信息。
一項萬人參與的調查顯示,有超過六成以上的受訪者認為人臉識别技術存在濫用趨勢。其中,在交通安檢、實名登記、開戶銷戶、支付轉賬和門禁考勤等場景中存在突出的“強制使用”問題。甚至你戴口罩也沒用,現在的人臉識别技術已經先進到即使你戴着口罩,也能輕易識别的誇張地步。
如果,随便來一個人都能使用人臉識别,對你随便攝像。那我們這些路人在人臉識别的控制之下,人人都成為了“皇帝的新衣”。然而可怕的是,誰掌握了你的臉,誰就掌握了你的身份标識。
現在很多場合過分強調這項技術的便利性,卻對人臉數據洩露可能産生的後果考慮不足。比如人臉原始信息是否會被收集方保留以及會被如何處理?還有數據收集方采取何種技術和管理措施來保證收集的人臉信息安全,以及人臉信息目前被應用在什麼場景,是否變更了使用目的等問題,目前也都沒有相關的法律法規進行規範。
雖然一些技術較為領先的公司會提取面部的特征值來替代原始照片,這些特征值是匿名性數據,經過加密處理後即使被洩露也無法重新定位至某個具體的人。采用這種方式雖然能夠在一定程度上對個人信息進行保護。但現實情況是,當大公司們将深度學習算法框架開源之後,人臉識别技術的門檻已經大大降低。很多技術實力一般的公司通過開源平台擁有了算法能力,但在數據的收集和存儲環節卻無法保證同樣的安全性。這些公司的做法往往是直接收集和存儲原始的面部信息。
期望更安全、更可靠
有人問你要銀行卡密碼,你肯定特别警惕。但如果要人臉信息,好像很多人就覺得沒什麼,但實際這兩者在很多情況下是一樣的。人臉識别與個人隐私、個人身份、個人财産等等因素都息息相關,這個口子一旦被撕開,就可能會失控,這是大家都不想看到的。
在人臉識别技術的可靠程度方面,信息安全的本質是攻防,AI安全領域也是如此。科學家們通過不斷開展新的攻擊嘗試來試探對抗樣本攻擊的能力邊界。但人臉識别技術引發的擔憂遠不止于此,除了技術側的解決方案之外,最終填補漏洞還需要依賴社會對于人工智能安全問題的意識提升。
人臉識别在國内快速且廣泛的應用,背後既有政府部門對于維護公共安全的訴求,也有商業機構應用新技術提效降本的需求,更有人工智能技術公司尋求業務增長的沖動。我國目前雖然沒有出台專門針對人臉識别技術的法律規範,但《民法典》已規定,采集個人信息,必須符合必要性、合法性、正當性三原則,同時要征得信息主體的明确同意。
關于“人臉識别”的未來,我們期望可以看到有更具體明确的法律法規來進行規範。期望官方嚴格把控人臉識别設備生産、使用門檻等條件。在人臉識别遍地開花的社會,我們至少應該擁有選擇的權利,去選擇使用或者不使用,去選擇如何使用。
也期望有更可靠安全的識别技術被大家所熟知和應用,畢竟我們一直在用智慧和進步證明着科技改變生活這句話,不是嗎?
人工智能是柄雙刃劍,隻有合理利用,趨利避害,才能更好地促進行業發展。專注于人工智能領域的钛靈AI算法市場已于2020年5月18日上線,至今已經有超過58家AI算法企業合作入駐,累計提供算法種類超過1000種,讓千行百業的客戶可以快速、放心、安心得獲得和使用各種智能算法。
,更多精彩资讯请关注tft每日頭條,我们将持续为您更新最新资讯!