激蕩全球:攜手應對人工智能風險 | 社會科學報

點擊上方「社會科學報」關注我們哦!

2018年9月17日至19日,世界人工智能大會(WAIC)在上海開幕,本屆大會以「人工智能賦能新時代」為主題。人工智能引領的第四次工業革命,帶動了新技術、新產業、新生產方式的快速興起,對全球社會的經濟、政治、安全、國際合作、法律規範等方方面面產生了顛覆性的影響。習近平主席在給大會的賀信中指出,「處理好人工智能在法律、安全、就業、道德倫理和政府治理等方面提出的新課題,需要各國深化合作、共同探討。中國願在人工智能領域與各國共推發展、共護安全、共享成果。」如何更好地利用人工智能為全人類謀福祉,同時減少人工智能帶來的巨大衝擊是國際社會共同的課題。

原文 :《激蕩全球:攜手應對人工智能風險》

本報記者 王立堯

圖片 | 網路

迎接人工智能新一波浪潮

人工智能是一個不斷演進中的概念,1956年在達特茅斯會議上首次被正式提出,到現在已經有60多年的歷史。通常意義上講,人工智能的發展被劃分為弱人工智能、強人工智能和超人工智能階段,目前還處於弱人工智能階段。國際社會對人工智能的利用以大數據計算能力為支撐,呈現加速發展的態勢,主要變現手段是以智能學習為主,看似智能,實則並不具備自主意識,更多地表現為工具性特徵,並不會對人類主導地位造成威脅。

  

自動駕駛、智能影像診療、語音圖像識別……人工智能技術在諸多領域都取得了重大突破。無人商店、智能家電已悄然出現在我們身邊,未來人們的日常生活場景中還會有更多人工智能產品的出現。中國工程院院士、國家新一代人工智能戰略咨詢委員會組長潘雲鶴指出,「自主智能裝備湧現,是人工智能發展的又一新端倪」。隨著人工智能走向2.0時代,在大數據智能、群體智能、跨媒體智能、人機協同智能、自主系統智能等五大領域將迎來全 新髮展。全球人工智能早期開拓者、中國工程院外籍院士羅傑·瑞迪認為,「我們該做好準備與人工智能相處。接下來的50至100年間,實時語音翻譯等人工智能技術將為更多人的生活、工作帶來幫助。未來,大數據資源能夠為每個人所用」。

  

人工智能作為引領未來的戰略性技術,已成為國際競爭的新焦點。美國高度重視人工智能對國家安全的影響。2018年3月20日,美國國會發起提案,建議成立「國家人工智能安全委員會」,並將制定「2018年國家安全委員會人工智能法」。歐盟在人工智能的發展上集中於人工智能對隱私、就業及倫理的影響。2018年3月27日,歐洲政治戰略中心發布了《人工智能時代:確立以人為本的歐洲戰略》,針對人工智能發展過程中可能遇到的勞力者被替代的問題和人工智能偏見的問題,提出了歐盟應該採取的對應策略。

  

2001年出品的美國電影《人工智能》海報

單從人工智能企業的數量上看,根據中國信通院數據研究中心的全球ICT監測平台數據,截至2018年上半年,在全球範圍內共監測到4998家人工智能企業。其中,美國以2039家位居第一,其次是中國1040家,其後依次是英國392家、加拿大287家、印度152家。除此之外,以色列、法國和德國的人工智能行業也在蓬勃發展,企業數量超過了100家。

  

同時,人工智能的國際技術標準制定也在不斷更新,而技術標準主要由技術社群主導建立。目前國際社會中以ISO/IEC JTC 1、ISO、IEC和ITU為代表的國際標準化組織,已經圍繞基礎標準、計算方法、可信賴和社會關注、工業機器人、智能金融、可穿戴設備等方面開展了大量工作。

在國內層面,2018年1月,人工智能標準化論壇在北京召開,並發布了《人工智能標準化白皮書》,呼籲社會各界共同加強人工智能領域的技術研究、標準建設與服務應用,推動產業發展。

  

2017年7月8日,國務院印發《新一代人工智能發展規劃》,明確指出人工智能是影響面廣的顛覆性技術,可能帶來改變就業結構、衝擊法律與社會倫理、侵犯個人隱私、挑戰國際關係準則等問題。中國互聯網發展基金會理事長馬利表示,對中國來說,如何利用好人工智能這一波發展機遇,成功應對新的挑戰,在國際舞台上發出中國聲音,是中國人工智能安全發展的重中之重。探索構建人工智能網路安全限制邊界,推動建立人工智能法律法規、倫理規範和政策體系,通過倡議等形式促進各項機制的落實,推進中國人工智能技術健康發展。

人工智能如何堅守國家安全底線

人工智能作為引領未來的戰略性技術,日益成為驅動經濟社會各領域從數字化、網路化向智能化加速躍升的重要引擎。然而,技術的進步往往是一把「雙刃劍」。人工智能作為一種通用目的技術,為保障國家網路空間安全、提升人類經濟社會風險防控能力等方面提供了新手段和新途徑。但同時,人工智能在技術轉化和應用場景落地過程中,由於技術的不確定性和應用的廣泛性,帶來衝擊網路安全、社會就業、法律倫理等問題,並對國家政治、經濟和社會安全帶來諸多風險和挑戰。

從1942年阿西莫夫提出「機器人三大定律」到2017年霍金、馬斯克參與發布的「阿西洛馬人工智能23原則」,如何促使人工智能更加安全和道德一直是人類長期思考和不斷深化的命題。當前,隨著人工智能技術快速發展和產業爆發,人工智能安全越發受到關注。比如人工智能是否有失控的風險?未來人的主體地位是否會被機器挑戰?「阿爾法狗」戰勝全球頂尖圍棋高手,人工智能是否能超越人類智力的極限?全球第一位機器公民「索菲亞」誕生,「她」是否享有與人類公民同樣的權力?

  

2018年,劍橋分析公司被曝出利用大量的臉書用戶數據影響美國2016大選,這已經充分說明技術公司掌握了利用個人信息干預國家政治的能力,無獨有偶,最近外媒報導稱Google公司也迎來了它的「劍橋分析」時刻。亞歷山大·克林伯格早在《黑暗網路:網路空間的戰爭》一書中就指出,「信息戰」一詞如今已經有了更具體的含義。而接踵而來的一大批人工智能新技術,又將對國家安全產生怎樣的影響?

  

2018世界人工智能大會·人工智能安全高端對話論壇上發布的《人工智能安全白皮書》中提到,人工智能對國家安全的風險分兩大類。第一即是可用於影響公眾政治意識形態間接威脅國家安全。而第二則是可用於構建新型軍事打擊力量直接威脅國家安全。世界主要國家加緊研制智能、無人武器裝備,可能導致大國間新一輪軍備競賽。

聯合國人工智能和機器人中心主任伊萊克利·伯利茲做了這樣一個驚人對比:在2003年,全世界軍用機器人的數量還是0,而僅僅15年之後,到2018年這一數字已經飆升至100萬。

國防科技大學國家安全與軍事戰略研究中心主任朱啟超指出:「從世界局勢來看,世界各國尤其是軍事強國都在搶先布局人工智能。美、俄等國家政府部門均發布了人工智能相關戰略或規劃,彰顯國家層面對人工智能的高度關注」,「各類智能化無人系統與作戰平台將在地面、空中、水面、水下、太空、網路空間以及人的認知空間獲得越來越多的應用,深刻改變未來戰爭人工智能的技術比重」。

  

伊萊克利·伯利茲認為,人工智能為解決網路安全事件、系統漏洞、信息保護等提供了更加高效、智慧的解決方案,但同時也容易被非法利用,對社會造成危害。因此,應對現階段人工智能的發展充分評估,並建立起各方參與的協同合作模式。歐亞集團科技戰略主任保羅·特里奧洛也在會上提到,「先見和敏捷的監管在促進創新和維護公共利益之間發揮著作用。要做到這一點,科學界和監管機構需要更好的溝通。」  

展望藍海 守護命運共同體

人工智能所帶來的風險具有全球屬性,超越了國家邊界。人工智能,這一曾經常於科幻作品中得見的詞匯,現在已經成為一個越來越向我們逼近的可預見的未來。在這場席卷全球的顛覆性變革中,任意一個問題都可能是全球性的問題,任何一個國家都可能無法獨立解決這一問題。耶路撒冷希伯來大學歷史系教授尤瓦爾·赫拉利在其最新著作《今日簡史》中提到:「計算機並不是彼此相異的獨立個體,因此很容易把計算機集成為一個單一、靈活的網路。」網路作為一個巨大的整體,無人駕駛、圍棋對弈、智能算法都只是其中的一部分,世界面臨的不是某個個體、職業被替代的問題,而是整個人類社會作為一個整體與網路、人工智能在對抗

  

目前各國推動人工智能發展的重點集中於大力扶持和創新,而應對風險的能力卻準備不足。在2018年6月的《大西洋月刊》上,美國前國務卿亨利·基辛格以啟蒙運動為對比,提醒人類社會目前無論從哲學領域還是智力層面,都還沒有對人工智能的崛起做好準備。他就此呼籲,對人工智能的研究應該上升到國家戰略層面。但或許在此基礎上,我們還應該設法讓人工智能研究的福祉惠及全人類。如何用好人工智能這把「雙刃劍」?本次大會上,人工智能大會「安全高端對話」專家組共同發起了《人工智能安全發展上海倡議》,倡議涵蓋「面向未來、以人為本、責任明晰、隱私保護、算法公正、透明監管、和平利用、開放合作」八個方面。

  

推進人工智能在理論研究、政策支持、產業落地方面的安全發展依然任重道遠。基礎理論研究和創新是推動人工智能突破的持續動力。推動跨國界人工智能學術研究合作,為各國人工智能實驗室搭建平台,為政策決策提供理論基礎,加速樹立行業標準,加強「產研合作」,孵化更多AI企業。加速人工智能技術的產業化落地,形成全面的生態圈。加強人工智能入門教育,向大眾普及人工智能應用與趨勢,致力於推動人工智能技術安全長遠發展。

2017年10月13日,中國人工智能產業發展聯盟(AIIA)在北京宣布成立,一系列跨國人工智能合作項目正在展開。騰訊首席執行官馬化騰在世界人工智能大會上表示,人工智能技術是一場跨國、跨學科的科學探索工程,對於任何一個企業、城市和國家來說,我們不能拒絕人工智能領域的「奧林匹克」,更不能「閉門造車」。人工智能安全風險是人工智能發展過程中各國必須直面的挑戰。在面臨共同的威脅時,最優的做法是攜手應對,通過相應的國際合作機制來降低安全威脅,增加合作空間,讓人工智能更好地服務於人類社會的發展,守護人類命運共同體。(文中部分專家觀點及資料由上海賽博網路安全產業創新研究院授權使用)

文章原載於社會科學報第1628期第1版,未經允許禁止轉載,文中內容僅代表作者觀點,不代表本報立場。

相關文章

觀點 | 人工智能創作物VS人類創作物,如何辨別真假?

人工智能:啟蒙運動如何結束? | 社會科學報

人類語言:一座人工智能至今無法跨越的大山 | 社會科學報

社會科學報

做優質的思想產品

官網

http://www.shekebao.com.cn/