ai深度賦能行業?9月16日，以“共築AI安全 安享智能未來”為主題的AISC首屆人工智能安全大賽落幕本次大賽由國家工業信息安全發展研究中心、清華大學人工智能研究院和北京瑞萊智慧科技有限公司等單位聯合主辦，系首個全國性人工智能安全賽事，旨在推動人工智能攻防技術創新、實戰演練、場景挖掘和人才培養，今天小編就來聊一聊關于ai深度賦能行業?接下來我們就一起去研究一下吧!

ai深度賦能行業

9月16日，以“共築AI安全 安享智能未來”為主題的AISC首屆人工智能安全大賽落幕。本次大賽由國家工業信息安全發展研究中心、清華大學人工智能研究院和北京瑞萊智慧科技有限公司等單位聯合主辦，系首個全國性人工智能安全賽事，旨在推動人工智能攻防技術創新、實戰演練、場景挖掘和人才培養。

人工智能技術在快速發展的同時，也帶來了新的風險和隐患。北京瑞萊智慧科技有限公司首席執行官田天認為，人工智能技術風險發生的範圍正随着應用場景的日趨廣泛而逐步擴大，風險發生的可能性也随着其應用頻次的增長而持續提高。

AI應用的安全問題首要體現為技術的“兩面性”，存在AI濫用甚至“武器化”的問題，其典型代表是深度僞造技術，它的負向應用風險持續加劇且已産生實際危害。田天提到，以深度學習算法為核心的第二代人工智能是個“黑盒子”，具有不可解釋性，意味着系統存在結構性漏洞，可能受到不可預知的風險，通過在輸入數據中添加擾動，使得系統作出錯誤判斷。在人工智能的全生命周期，不僅存在算法層面的安全性問題，算力作為人工智能發展的重要基礎設施，也面臨着諸多風險，推動人工智能算力基礎設施安全發展具有重要意義。

構建人工智能的安全生态，一方面需要技術的持續演進，一方面也需要專項技術人才的培養。本次大賽通過實戰演練的方式，全方位驗證和提升選手實戰能力，為培育一批高水平、高層次的人工智能安全新型人才團隊提供通道。大賽共吸引來自全國70多所高等高校、科研院所、企業機構的超過400支團隊，共計600餘名選手的踴躍參與。上海交通大學聯合戰隊“AreYouFake”與北京交通大學戰隊“BJTU-ADaM”分别摘得深度僞造安全與自動駕駛安全賽道桂冠，北京理工大學戰隊“DeepDream”與建信金科戰隊“Tian Quan&LianYi”共同位列人臉識别賽道第一名。

大賽期間，由國家工業信息安全發展研究中心牽頭，聯合華為技術有限公司和北京瑞萊智慧科技有限公司共同撰寫的《人工智能算力基礎設施安全發展白皮書》正式發布。該白皮書圍繞人工智能算力基礎設施安全發展的意義、内涵與體系架構、安全管理現狀、發展建議等方面展開深入研究。白皮書指出，人工智能算力基礎設施不同于傳統的算力基礎設施，既是“基礎設施”，又是“人工智能算力”，也是“公共設施”，具有基建屬性、技術屬性、公共屬性三重屬性。相應地，推動人工智能算力基礎設施安全發展應從強化自身安全、保障運行安全、助力安全合規三個方面發力，通過強化自身的可靠性、可用性與穩定性，保障算法運行時的機密性與完整性，提升用戶的安全管控力、認可度與合規性等八個領域築牢人工智能安全防線，打造可信、可用、好用的人工智能算力底座，營造安全、健康、合規發展的人工智能産業生态。

與大賽同期舉辦的主題論壇，邀請多位院士專家、行業領袖、政企代表，共同探讨如何在未來智能的戰場打赢技術攻防之戰。與會專家表示，重視人工智能安全體系建設，既是當務之急，也是長遠考慮，需加快促進人工智能安全領域關鍵技術研究與攻防實踐。

人工智能對抗攻防包括模型隐私問題等多方面技術，中國科學院信息安全國家重點實驗室副主任陳恺提出“神經網絡手術刀”方法，通過定位引發錯誤的神經元，隻需極少量或無需數據樣本，即能夠大幅提升模型修複效果，進行精準“微創”修複。

“應形成從安全性測試到安全性分析與安全性加固的完整技術手段，最終形成标準化的測試流程。同時，未來的人工智能安全應該從數據、算法到系統各個層次上全面評測，同時配合從硬件到軟件一套整體的安全可信計算環境。”北京航空航天大學軟件開發環境國家重點實驗室副主任劉祥龍表示。

工商銀行金融研究院安全攻防實驗室主管專家蘇建明也建議，人工智能安全治理需要廣泛協作和開放創新，需加強政府、學術機構、企業等産業各參與方的互動合作，建立積極的生态規則。應加快人工智能的立法進程，加強對人工智能服務水平、技術支撐能力等專項監督考核力度；加大對人工智能安全研究的激勵投入，通過産學研合作模式加快科研成果的轉化與落地；此外，逐步推動人工智能技術由場景拓展向安全可信發展轉變，通過參與标準制定，推出産品服務，持續探索人工智能安全實踐及解決方案。

圓桌對話環節，北京交通大學教授、計算機與信息技術學院副院長景麗萍、清華大學人工智能研究院基礎理論研究中心主任朱軍、北京郵電大學網絡空間安全學院副院長鄧偉洪、北京科技大學計算機與通信工程學院教授陳健生、華為可信AI安全解決方案專家唐文圍繞人工智能安全技術發展、人工智能安全治理等話題作深入交流。專家認為，人工智能的安全問題還需從算法模型的原理上突破，持續加強基礎研究才能破解核心科學問題。（記者 孔繁鑫）

來源： 光明網

更多精彩资讯请关注tft每日頭條，我们将持续为您更新最新资讯!