人工智能治理八大原則?21世紀經濟報道記者李覽青 上海報道，接下來我們就來聊聊關于人工智能治理八大原則?以下内容大家不妨參考一二希望能幫到您!

人工智能治理八大原則

21世紀經濟報道記者李覽青 上海報道

自2018年上海首次舉辦世界人工智能大會以來，“人工智能倫理治理”相關内容已連續5年作為重點議題被提及。

在2022世界人工智能大會上，21世紀經濟報道記者關注到，共有2022人工智能治理論壇、2022世界人工智能大會法治論壇、亞洲科技倫理治理與可持續發展論壇、智能社會論壇、數字時代的技術責任等至少5個論壇，聚焦人工智能倫理與法治問題。

人工智能産業經過5年快速發展，治理進程如何？下一階段的AI治理重點在哪些方面？

從關注倫理到落地治理

回顧5年前，人工智能技術的安全應用話題進入大衆視野。

在2018人工智能大會上，李彥宏提出“遵循AI倫理”，他認為真正的AI公司不僅在技術層面與AI緊密結合，文化也必須“AI化”。他表示AI的四大原則，分别是安全可控、促進人類平等獲得技術能力、教人學習讓人成長、為人類帶來更多的自由和可能，其中“安全可控”是AI的最高原則。

也是在這一年的人工智能大會上，《人工智能安全發展上海倡議》發布，提出面向未來、以人為本、責任明晰、透明監管、隐私保護、算法公正、和平利用、國際合作等八大方面。

2019年5月，上海國家新一代人工智能創新發展試驗區揭牌，明确了建立健全政策法規、倫理規範和治理體系的相關任務。6月，國家新一代人工智能治理專業委員會發布了《新一代人工智能治理原則》，突出了負責任和開放協作的主題。在2019世界人工智能大會治理主題論壇上，發布了《中國青年科學家2019人工智能創新治理上海宣言》，強調人工智能發展需要遵循的四大責任，包括倫理責任、安全責任、法律責任和社會責任等。

2020年，新一代人工智能技術從“感知智能”邁向“認知智能”，讓機器實現理解、推理、決策、可解釋的認知智能正在成為AI研究的熱點和趨勢。在機器智能進一步升級的背景下，如何發展“負責任的人工智能”成為重要議題，在當年的世界人工智能大會上，多個論壇對AI法治、安全、倫理問題進行了集中讨論。

2021年，人工智能治理監管趨嚴、立法加速已成為大勢所趨。

一方面，我國對網絡安全、數據安全、個人隐私保護的立法逐步完善。2021年8月，國内首個針對人臉識别的司法解釋《最高人民法院關于審理使用人臉識别技術處理個人信息相關民事案件适用法律若幹問題的規定》正式實施；9月，《中華人民共和國數據安全法》實施；同年11月1日，《中華人民共和國個人信息保護法》正式實施；同月，《網絡數據安全管理條例（征求意見稿）》發布。全國各地也加快了數據立法、數據交易場所建設的進程。

另一方面，我國進一步推動算法治理，印發《關于加強互聯網信息服務算法綜合治理的指導意見》，《互聯網信息服務算法推薦管理規定》也在2022年3月正式實施。

同樣在這一年，科技倫理問題迎來集中治理。

2021年11月，聯合國教科文組織大會第41屆會議審議通過《人工智能倫理問題建議書》，這是全球首份人工智能倫理問題的全球性協議，呼籲各國政府加快能力建設，推動科技發展，呼籲充分尊重人權與人的尊嚴，環境保護與可持續性并緻力于創建一個公平、包容的社會，呼籲制定人工智能發展路徑，并關注人工智能的全生命周期等。

“目前人工智能帶來的主要風險不一定是技術的不成熟，而是AI技術的快速發展對倫理和社會文化上的影響已超越了我們的認知。”在2022世界人工智能治理論壇上，聯合國教科文組織駐華代表處社會科學及人文科學項目專員洪智偉表示，要減少使用AI技術帶來的社會和倫理風險，如加劇不平等現象、隐私侵犯、造成偏見等問題，需要在社會和文化價值觀的嵌入治理，亟需進行國際合作，形成多邊、靈活的AI治理政策，實現更有預見性的AI治理。

同時，我國科學倫理治理進程也在加速。今年3月，《關于加強科技倫理治理的意見》正式出台，進一步強調要健全科技倫理體制，壓實創新主體科技倫理管理主體責任。

“《關于加強科技倫理治理的意見》推動了我國科技倫理建制進入了新階段。”在亞洲科技倫理治理與可持續論壇上，上海現代服務業聯合會會長、原上海市人大常委會副主任鄭惠強指出，必須抛棄先發展後治理的模式，而應堅持在規範中發展、在發展中規範的模式，政産學研互通探尋可持續發展議題下的治理新模式。

為進一步建設人工智能産業發展“上海高地”，上海在人工智能立法方面同樣充分考慮了AI倫理建制。今年8月30日，在2022世界人工智能大會開幕前，《上海市促進人工智能産業發展條例（草案）》正式公開征求意見，其中提及設立人工智能倫理委員會，提倡創新分級治理，并對開發者倫理進行規範，要求企業合理應用人工智能技術，強化勞動者保護和特殊群體關照。

在“2022世界人工智能大會法治論壇—數字法治：供給和适用”主題論壇上，上海有關部門領導介紹了關于上海人工智能立法考慮的三大重點因素，包括以良法善治引領産業創新與深化改革發展、将相關産業實踐經驗固化為法律制度條文，促進人工智能技術創新與防範風險相統一等。尤其在立法保障産業安全，加強規範治理方面，上海條例前瞻預判，緻力于平衡好産業發展與安全規範之間的關系，在規制的同時，為新賽道、新産業在可控範圍内預留出發展空間。

共議“嵌入式”科技倫理治理模式

“随着人工智能技術的創新突破和加快應用，人工智能的治理出現了三大新特點。一是人工智能加速應用，産生了更加複雜多元的治理問題，治理的維度和廣度不斷拓展。二是正在形成更加體系化的人工智能治理模式，治理的方法和手段日益豐富。三是人工智能治理的國際交流與合作更加活躍，積極推動形成人工智能治理的國際共識和國際機制。” 科技部戰略規劃司副司長邢懷濱在2022世界人工智能大會治理論壇緻辭中指出。

在政府與行業協會的引導下，企業的AI倫理治理提升到了新高度，建立“嵌入式”科技倫理治理體系或是一大方向。

所謂“嵌入式”的科技倫理治理，即在科技創新發生初期，科技倫理就應當有所介入，對新興科技的發展和風險進行有效幹預和管理。

“随着AI産業的爆發式增長，AI領軍者們已經開始意識到，在技術投入使用之前，必須把道德切實納入考量，需要把AI治理原則置于整個部署過程之中。”澳鵬Appen全球高級副總裁、大中國區及北亞區總經理田小鵬指出，如果要部署負責任的AI，就必須要有負責任的數據。澳鵬Appen在全球提供AI訓練數據服務已逾26年，田小鵬在接受21世紀經濟報道記者專訪時提到，機器是對人工勞動力的補充，但機器的訓練依然需要大量人力尤其是專家能力的輔助，如何以高質量數據正确地訓練計算機，推動計算機學習與發展，是AI治理的一大難點。

上海交通大學凱原法學院院長、特聘教授彭誠信在發言中表示：數字社會中倫理之治的根本還在于人，企業倫理、科技的可信向善，歸根結底還是人的可信向善，因此需要完善法律監管、理清法律基本責任，确立人們的行為規範。

為進一步規範“人”在科技倫理治理中的作用，在今年3月發布的《關于加強科技倫理治理的意見》中要求，從事生命科學、醫學、人工智能等科技活動的機構，研究内容涉及科技倫理敏感領域的，應設立科技倫理（審查）委員會。

目前，國内多家大型企業已深度開展人工智能倫理與治理工作。

在2022世界人工智能大會上，阿裡巴巴集團宣布成立科技倫理治理委員會，并引入7位外部顧問委員，強化三方監督。委員會提出“以人為本、普惠正直、安全可靠、隐私保護、可信可控、開放共治”六大科技倫理準則，重點推動算法治理、隐私保護、倫理制度建設等工作，探索相關前沿技術，提升公司整體科技自省和自律的水平。

商湯科技則是在2020年1月統籌推進人工智能倫理治理工作體系建設，在今年發布《“平衡發展”的人工智能治理白皮書——商湯人工智能倫理與治理年度報告(2022年)》。報告指出，當前人工智能治理已進入到以技術驗證為主的落地實踐階段。基于此，商湯科技在去年“平衡發展”的人工智能倫理觀的基礎上，進一步提出了發展“負責任且可評估”的人工智能，并将其作為商湯開展人工智能治理的願景目标，打造倫理治理閉環。

更多内容請下載21财經APP

更多精彩资讯请关注tft每日頭條，我们将持续为您更新最新资讯!