智東西(公衆号:zhidxcom)
作者 | 心緣
編輯 | 漠影
2020年已經完結撒花,這一年,人工智能(AI)領域可謂是一波未平一波又起,始終占據着人們關注的話題中心。
無論是美國限制AI軟件出口禁令生效,還是各種争議不休的數據亂象、AI算法偏見和AI應用泛濫等問題,都在持續牽扯着人們因疫情折磨已然脆弱不堪的神經。
自然換臉、去馬賽克、預測大選、下棋無敵……當AI開始展露過人的能力,如何保證科技至善而不會向惡蔓延?當AI持續深入更多産業和生活,如何保證算法不會被數據偏差所左右?
回顧2020年AI圈十大熱議焦點,或許能為AI接下來的發展方向提供些許的借鑒意義。
人工智能“出息”了!2020年才一開年,特朗普政府就頒布新規,要限制人工智能軟件的出口,而在去年,出口管制還主要是半導體等關鍵領域的軟硬件技術才享有的封鎖“待遇”。
新規規定,從美國出口特定類型地理空間影像軟件的公司必須申請許可,才能出口至海外。無論智能化傳感器、無人機以及其他自動化設備的目标識别軟件,都将受到管制。
美國新規限制地理空間圖像AI軟件出口
8月28日,中國商務部、科技部調整發布了最新版的《中國禁止出口限制出口技術目錄》,新增語音合成技術、人工智能交互界面技術、語音評測技術、智能閱卷技術、基于數據分析的個性化信息推送服務技術等AI相關技術條款。
也就是說,這些技術凡涉及向境外轉移,均需到省級商務主管部門申請技術出口許可,獲得批準後方可出口。
《中國禁止出口限制出口技術目錄》部分調整内容
2020年7月17日,在延遲123天播出的央視315晚會上,曝光了關于手機插件(SDK)違規手機用戶信息的數據采集亂象,其中涉事企業名單中不乏以AI技術為主的公司。
最可氣的是,在自己眼裡珍貴重要的人臉數據,在網絡黑市上被售賣時卻相當不值錢。央視10月報道稱,在某些網絡交易平台上,隻花2元錢就能買到上千張人臉照片,而且全都是真人照。
從手機号、身份證号、家庭住址等文本信息到指紋、人臉等生物特征信息,在日漸以數據為中心的時代,個人信息成為不法分子的牟利來源。
都說需經同意才能采集數據,可是多少家機構在收集數據時,真正公開透明、反複确認過被采集者的意願呢?
遠距離高清攝像頭,能在你毫無察覺地情況下,悄無聲息地采集完成你的人臉信息。這種便捷又高效的采集方式,緻使刷臉應用愈發盛行。
注冊App刷臉、買單刷臉、看房刷臉、打車刷臉、倒垃圾刷臉,連取廁紙都安裝上了人臉識别裝置……這年頭,刷臉帶來了方便,也帶來了無處不在的安全風險。
《人臉識别應用公衆調研報告(2020)》顯示,使用人臉識别的三成受訪者已經因為人臉信息洩露、濫用而遭受到隐私或财産損失。
類似案例屢見不鮮。2020年9月,廣西南甯十幾名業主因刷臉認證漏洞,被黑中介過戶房産騙了超千萬元;為了避免被售樓部采集人臉信息,購房者被迫“戴着頭盔去看房”。
刷臉固然方便,但如果方便無法抵消危險,那損失由誰來買單?
随着AI深度合成和深度僞造技術門檻降低,AI換臉技術逐漸深入大衆生活。
今年有幾部電視劇通過AI換臉技術怒刷一波存在感,不過換臉效果卻品質不一。
比如電視劇《三千鴉殺》中的女二使用AI換臉技術後,時而表情僵硬,時而面部扭曲,效果一言難盡。相比之下,電視劇《了不起的兒科醫生》用的AI換臉技術明顯更加走心,演員仝卓的臉被換得幾乎沒有違和感。
除了電視劇外,換臉技術也正離登陸電影大熒幕越來越近。今年6月,迪士尼展示了首個百萬像素逼真換臉技術,使得換臉技術有希望用于對高清有強新需求的大制作電影和電視節目。
11月,國外視頻網站上的一部《Step Brother》電影短片将史泰龍和施瓦辛格這兩位好萊塢頂級功夫巨星的臉,換到了兩名小衆演員的臉上。
12月,聖誕節這天,英國Channel 4電視頻道用AI換臉技術制造了以假亂真的惡搞版女王聖誕緻辭,全程高能吐槽。
英國Channel 4制作了惡搞版女王聖誕緻辭
AI換臉日益逼真,技術門檻越來越低,帶給影視内容應用更高效率、更低制作成本等好處,但随之而來的造假、造謠、欺詐等問題,真假混淆使得人們卻愈發缺失安全感。
在今年美國大選期間,換臉技術還成了政客互相攻擊的武器。比如特朗普今年4月在推特上轉發了一個僞造拜登吐舌頭的視頻,當晚視頻播放量超過1000萬次。随後特朗普在5月又轉發了用自己臉替換科幻電影《獨立日》中總統托馬斯·懷特摩爾、發表“我們要為我們的生存而戰”演講的視頻。
特朗普推特轉發拜登換臉惡搞視頻
不過,将從2021年1月1日起施行的《民法典》第1019條明确指出,任何組織或個人不得利用信息技術手段僞造等方式侵害他人的肖像權。
也就是說,明年再想用AI換臉技術制作鬼畜視頻或傳播不實訊息,需先掂量掂量能不能過法律這一關。
随着AI技術進步,修圖越變越省力了,省力到甚至能把打了馬賽克的文字和圖片還原。
今年12月,一個名為Depix的Github項目爆火,上線三天star數高達6.9k,它能從修複肉眼無法識别的被打碼文字,基本恢複原文信息。
Depix項目修複馬賽克文字
更早的時候,在今年6月,杜克大學推出的AI算法PULSE能将低分辨率的人臉圖像放大64倍,把原本模糊的人臉重新變得清晰可見。
PULSE算法并不能将糊圖恢複成真實面貌
不過好在這個技術不算真“還原”,因為恢複的人像建立在想象的基礎上,大多從模糊人像生成的清晰圖像是一張全新的虛拟面孔,甚至會将有色人種還原成白色人種。
這些技術可以為偵查提供高效的工具,但如果為思想不端者所用,任何想通過“打碼”保護的敏感信息都将不再安全。
人臉識别不僅作為身份識别工具,還被一些研究學者用于看面相。比如在今年6月,學術出版商《Springer Nature》原本計劃發表一篇通過AI看人臉來推斷一個人是否會犯罪的論文,但這遭到了1700名研究人員的聯名發公開信抵制。
論文稱其技術沒有種族偏見,根據照片中人臉特征預測是否為罪犯的準确性達到了80%。不過對于這種說法,其他AI研究者并不買賬。公開信的組織者之一Audrey Beard表示:“根本無法開發出不存在種族偏見的犯罪預測系統,因為刑事司法數據本身就是存在種族偏見的。”
《Springer Nature》推特回應:不會發表該論文
種族偏見長期是美國産學界的敏感話題。如果數據集本身存在偏見,那麼用這一數據集訓練出的AI算法很難做到客觀。在這一背景下,美國關于AI偏見的熱點事件層出不窮。
今年6月,IBM宣布不再提供任何人臉識别服務和人臉分析軟件,也不再繼續研發相關技術,理由是“反對将技術用于種族歧視和大規模監視”;7月,因為關于AI偏見能不能完全歸因于數據偏差的激烈争論,2018年圖靈獎得主、深度學習先驅Yann LeCun被氣得宣布退出推特。
Yann LeCun宣布退出推特
最新熱點聚焦于谷歌,12月初,谷歌AI倫理學家Timnit Gebru在推特上發消息稱自己遭解雇,而解雇原因竟是因為她撰寫了一篇指出大型語言模型存在偏見的論文。
因AI偏見與倫理本身就是熱點話題,加上Timnit Gebru是一位黑人女性,此事關注度一路上漲。随後谷歌CEO桑達爾·皮查伊(Sundar Pichai)在面向全體員工的内部郵件中向Timnit Gebru緻歉,并承諾将對解雇一事進行展開詳細調查。
谷歌AI倫理學家Timnit Gebru
種種事例一再說明,當前的AI算法并不完美,甚至可能使歧視和偏見長期化、永久化。
AI興起幾年了,但AI的“智障”行為依然不時出現在各種場合中,為人們不斷貢獻飯後笑料。
今年10月24日舉行的蘇格蘭足球冠軍聯賽,大概是轉播觀衆看得最不爽的球賽之一了。罪魁禍首就是嚴重犯蠢的AI攝像機,執着地将一位裁判的光頭誤認成足球,并且全場追拍,導緻觀衆無法通過實時轉播完整觀賽,還錯過了最重要、最精彩的射門進分畫面。
AI攝像機跑偏,執着追蹤一位裁判的光頭
網友們調侃說,這再次證明了AI的确存在偏見,相比足球,它更偏愛秃頭。
和往年一樣,每到能發揮“預言家”能力的時候,AI必不缺席。在今年的“熱門大戲”美國總統大選前期,多家公司及研究團隊用AI預測選舉結果。
總統大選塵埃落定後,幾家歡喜幾家憂。意大利的NLP公司Expert.ai根據往年選舉數據和相關數百萬社交網絡内容,較準确地預測了大選結果。
加州群體智能公司Unanimous.ai通過收集人群比如大宗商品投資者的預測和決策來做判斷,從9月的一次調查準确地預測了8個搖擺州的結果。
而此前正确預測20多次選舉和公投的Advanced Symbolics Inc.的系統Polly卻遭遇滑鐵盧,預測拜登會以372:166大勝并拿下佛羅裡達州,但實際上特朗普赢得了佛羅裡達州的支持,拜登雖赢了,卻是以306:232險勝。
今年12月初,據日本《讀賣新聞》報道,為了提高結婚率、生育率,日本政府計劃在下一财年撥款20億日元(約合1.3億人民币)推進用AI幫助人們尋找婚配對象的計劃。
AI婚配系統将在日本的25個縣實施,基于參加者提供的年齡、學曆、年薪、興趣、收入條件、價值觀等信息,用AI算法分析後推薦出合适人選。
實際效果還不錯,比如埼玉縣2019年結婚的38組新人中,有21對新人都是通過AI婚配系統的推薦而成為情侶。
日本政府對于導入和使用AI婚配系統的縣,還提供2/3的必要經費補助,而通過政府資助的婚配支援事業,個人僅需花費約1-2萬日元(約合500-1000人民币)。
當然啦,AI婚配系統主要依據用戶提供信息來提供判斷,雖然在大多數情況下能節約找對象的時間,卻也存在遇到虛假數據的風險。
今年11月,13歲韓國圍棋天才少女、韓國現役最年輕職業棋手金恩持,因用AI在比賽中作弊,被韓國棋院處以“資格停止一年”的懲戒處分。
金恩持下棋
在今年9月29日的一場線上比賽中,身為二段的金恩持戰勝了韓國頂級棋手李英九九段,被質疑使用AI的可能性後,韓國棋院、韓國國家隊邀請AI專家研究分析了相關棋譜,發現金恩持的棋譜與AI程序的推薦吻合率達到92%。
事後,金恩持承認使用AI的事實。而這不是韓國棋手首次因為AI作弊而受處罰,今年1月,一位棋手參加比賽時用大衣紐扣裡的微型攝像機将比賽實況發給同夥,然後通過微型耳機接收同夥發來的AI分析結果進行作弊,結果被當場抓獲,今年7月被判決一年有期徒刑。
這不免令人感到唏噓。科技進步是為了人類能更好的進步,而不該被用作投機取巧的工具。
别隻顧赢比賽,丢了競技精神和人品。
從這十大AI領域的熱議焦點,可以看到,信息安全是一場硬仗,在AI走向普及的道路上,信息安全戰役是一場持久戰,算法安全性、數據透明性、法規約束等都是必然要攻克的課題。
在接下來的一年,AI将在更多應用場景中發揮獨特的價值,科技進步必将為人所用,而這把“雙刃劍”會向善還是向惡,是會溫暖人心還是化作傷人利器,選擇權終究掌握在人類的手中。
,
更多精彩资讯请关注tft每日頭條,我们将持续为您更新最新资讯!