排列3走势图预测|排列3近500期走势图

傅瑩:人工智能對國際關系的影響初析

來源:中國海洋發展研究中心   發布時間:2019-04-11 15:27:47 
分享到

清華大學國際戰略與安全研究中心于 2018 年啟動的人工智能與安全項目小組,重點探討人工智能技術的發展對國家安全和國際關系的影響以及構建共同準則的可能性。本文是基于對項目組相關信息的匯總而對人工智能與國際關系的相互影響的初步研究。

1950年,英國科學家圖靈提出了人工智能的概念。1956年,首屆人工智能研討會在美國新罕布什爾州達特茅斯舉行,人工智能作為一門科學正式為科學 界所承認。1997年,IBM 計算機程序“深藍”贏得與世界國際象棋特級大師卡斯帕羅夫的六盤大戰。進入21世紀的第二個十年,人工智能技術的研究和開發加快了步伐。2014年,谷歌 AlphaGo 戰勝世界圍棋冠軍李世石60年后的今天,人工智能在人類越來越多的生產和生活領域得到廣泛應用,在部分專門領域接近甚至超過人腦的表現。作為一種有潛力改造人類社會面貌的泛在性技術,人工智能在科技、產業、軍事、社會、倫理等領域被廣泛討論。

那么,人工智能是否會對國際關系產生影響? 會產生什么樣的影響?本文試圖對這些問題作一些探討。需要說明的是,人工智能技術本身存在復雜性、難以說明性和不確定性,筆者非人工智能技術專家,本文只是根據已經發生的人工智能事件或學術界普遍認可的發展趨勢,來分析人工智能對國際關系產生的影響,并試圖探討構建共同準則的必要性和可能性。 

誠然,對于科學技術會如何影響現代國際關系有不少過高的預期。例如,阿爾溫·托夫勒在1960年出版的?第三次浪潮?一書中預測,未來世界將充斥核武器風險,瀕臨經濟和生態崩潰,現存政治制度將迅速過時,世界將面臨嚴重危機。這類預測往往高估了科技給人類帶來的困難,卻低估了人類解決困難的意愿和能力。冷戰后,在全球化的大背景之下,多邊主義逐漸成為國際共識,國際防止核武器擴散體系的有效性,應對氣候變化的全球運動和各國由此而不斷強化的應對環境變化的合作,以及世界范圍內的和平運動的發展,都顯示了人類在維護和平和應對挑戰上的理念共識和負責任態度。科技造成的問題,可以通過科技本身的不斷再進化而得到解決,人類也需要通過倫理道德和法律來構建嚴密的防范體系。實際上,每一次科技革命都加速了全球化的進程,促使一系列全球性問題被納入國際政治的議事日程中來,世界也因此變得更加透明和更加融為一體。

一、 我們討論的是什么?

在進入正式討論之前,需要明確幾個問題。

第一個問題,我們討論的是什么人工智能? 是狹義的、能夠模擬人的個別智能行為的人工智能,比如識別、學習、推理、判斷? 還是通用人工智能,擁有與人類大腦相似的自主意識和自主創新能力? 是弱人工智能,為解決特定、具體任務而存在,只擅長語音識別、圖像識別、翻譯某些特定素材的人工智能,例如谷歌的 AlphaGo 、科大訊飛的智能翻譯器? 還是強人工智能,能夠思考、計劃、解決問題,能夠進行抽象思維、理解復雜理念、快速學習、從經驗中學習等人類級別的人工智能,例如電影?人工智能?中的小男孩大衛、?機械姬?中的艾娃? 抑或是未來的超級人工智能,即跨過了“奇點” ,計算和思維能力遠超人腦,“在幾乎所有領域都比最聰明的人類大腦聰明很多,包括科學創新、通識和社交技能”(牛津哲學家 NickBostrom 對超級智能的定義)的所謂人工智能合成人(Synthetics )?

我們討論人工智能對國際關系乃至國際格局的影響,只能限定在已知、基于大數據和深度學習技術,以算力、算法和數據為三大要素的人工智能技術及其應用上。我們還無法討論那些尚未獲得突破的、擁有全大腦仿真技術的未來人工智能技術。目前應是依據已經存在和能大致預見到的人工智能技術及其發展趨勢,來探討其已經和可能對國際關系產生的影響。

第二個問題,人工智能能否影響國際關系進而影響到國際秩序? 目前看,答案是肯定的。歷史上,技術革新和傳播曾經無數次革命性地改變了一國或多國命運,進而改變了地區格局甚至世界形勢。麥克尼爾父子在?麥克尼爾全球史:從史前到21世紀的人類網絡?一書中,生動地描寫了技術革命對軍事、政府組織方式、信仰,進而對國家間權力轉移和地區格局演變的決定性影響。書中談到,公元前1700年左右,戰車革命改變了美索不達米亞、埃及、印度、中國黃河地區等區域的權力格局,例如,雅利安人入主印度北部和商朝的興起。公元前1200年后,鐵冶煉技術的出現和傳播,使裝備著相對價格低廉的鐵甲胄和兵器的普通步兵,有條件將精英駕馭的戰車掀翻在地,更加廉價的武器裝備、更大規模的軍隊、官僚統治的鞏固等條件的組合,使亞述、波斯等農業帝國的崛起成為可能。公元前 7 世紀,馬弓手的數量和技術又一次打破歐亞大陸的軍事政治平衡,大草原上的游牧民族再度取得對農耕民族的優勢。 

再舉一例,核技術的出現改變了現代世界的政治面貌,進一步穩固了二戰結束時形成的大國權力格局,五核國的身份使得美國、蘇聯(解體后是俄羅斯)、英國、法國、中國保持了聯合國安理會常任理事國地位,而且產生了為和平目的利用核能、有核國家承擔不擴散核武器義務、允許無核國家獲取和平核能技術等一系列國際規范,催生了核戰爭等于人類毀滅、核擴散不義且非法等國際價值觀,形成了?不擴散核武器條約??全面禁止核試驗條約?、聯合國核裁軍談判機制、全球核安全峰會、東南亞無核區等一系列國際制度安排。

人工智能被認為具有像核能一樣的軍民兩用性和改變國際實力對比的顛覆性。 2017 年7月,哈佛大學肯尼迪學院貝爾福科學與國際事務中心發布了?人工智能與國家安全?報告,認為未來人工智能有可能成為與核武器、飛機、計算機、生物技術不相上下的變革性國家安全技術。 因此,將人工智能納入能夠影響國際關系的討論范疇是合理的。 

人工智能甚至可能影響國際秩序的變遷。北京大學王緝思教授認為,國際秩序包含兩項基本內容,一是主要國家和國家集團的權力結構和實力對比,二是處理國家間關系應遵循的規范。清華大學閻學通教授認為,國際秩序是“國際體系中國家依據國際規范采取非暴力方式解決沖突的狀態”,其構成要素為國際主流價值觀、國際規范和國際制度安排。他還認為,導致國際秩序變化的原因是國際格局的變化,但國際格局卻不是國際秩序的構成要素;建立國際新秩序的性質是國際權力的再分配,即國際制度再安排的核心內容。兩位學者在分析國際秩序時都強調了國際格局、國際規范兩大因素。人工智能有可能通過改變國際行為體的力量對比和相互關系,沖擊現有國際規范并催生新的國際規范,從而從國際格局和國際規范兩個方面影響國際秩序的變遷。

二、 人工智能將如何影響國際格局?

首先,人工智能將從經濟上影響國家間的力量對比,甚至引發新一輪大國興衰。

保羅肯尼迪在?大國的興衰?一書中指出,從長遠看,在每個大國經濟的興衰與其作為一個世界性大國的興衰之間有一種顯而易見的聯系。 2017年6月,普華永道發布的?抓住機遇———2017夏季達沃斯論壇報告?預測,到2030年,人工智能對世界經濟的貢獻將達到15.7萬億美元,中國與北美有望成為最大受益者,總獲益相當于10.7萬億美元。 2018年9月,麥肯錫全球研究所發布的?前沿筆記:用模型分析人工智能對世界經濟的影響?報告認為,人工智能將顯著提高全球整體生產力。去除競爭影響和轉型成本因素,到2030年,人工智能可能為全球額外貢獻13萬億美元的 GDP 增長,平均每年推動 GDP 增長約1.2% 。這堪比或大于歷史上其他幾種通用技術(比如19世紀的蒸汽機、 20世紀的工業制造和21世紀的信息技術)所帶來的變革性影響。報告還指出,占據人工智能領導地位的國家和地區(以發達經濟體為主)可以在目前基礎上獲得20%~25%的經濟增長,而新興經濟體可能只有這一比例的一半。“人工智能鴻溝”可能會導致“數字鴻溝”的進一步加深。人工智能可能改變全球產業鏈。以工業機器人、智能制造等為代表的“新工業化”將吸引制造業“回流”發達經濟體,沖擊發展中國家人力資源等比較優勢,使許多發展中國家提前“去工業化”或永久性失去工業化的機會,被鎖定在資源供應國的位置上。人工智能的開發和應用需要大量資金,科技含量高,且有可能導致就業結構變革,使得高重復性、低技術含量的工作逐漸消失。

此外,麥肯錫在2017年的另外一份報告中,根據對46個國家和800種職業進行的研究作出預測,到2030年,全球將有多達8億人會失去工作,取而代之的是自動化機器人;屆時,全球多達1/5的勞動力將受到影響。全球將發生類似在 20世紀初的大規模崗位轉變,當時全球大部分崗位從農業轉為工業。 簡言之,就是用資本和技術替代勞動力。同時,人工智能技術的廣泛應用也將增加對這方面的專業人才的需求。

研究顯示,有3種類型的國家最有可能從人工智能技術的發展中受益。第一類是有人工智能先發優勢的國家,比如美國和中國,都被看好。第二類是資本和技術密集、同時人口較少或處于下行趨勢的國家,比如日本、韓國、新加坡,既有發展人工智能的資本、技術條件,又能借助人工智能的發展彌補人口總量不足或呈下降趨勢、人口結構老齡化等劣勢。第三類是擁有更多科學家、數學家、工程師的國家,或重視科學、技術、工程、數學(STEM )相關專業教育的國家。

其次,人工智能將從軍事上改變國家間的力量對比。 

軍事智能化的鼓吹者認為,人工智能將顛覆戰爭形態和戰爭樣式。機械化戰爭是以物釋能,靠的是石油和鋼鐵;信息化戰爭是以網絡聚能,靠的是信息和鏈接。而根據目前的預期,一旦戰爭進入智能化時代,將是以智馭能,打的是機器人和自動化戰爭。

可以預見的是,在智能化條件下,戰斗人員、作戰概念、制勝機理等戰爭要素都將發生改變。在傳統的戰爭中,即便存在敵對雙方在武器裝備、訓練水平上的差距,劣勢一方憑借有利的天時地利、超人一等的計謀、先進的戰術等,尚可一戰。比如,在伊拉克和阿富汗戰爭期間,簡易爆炸裝置就讓美軍吃盡了苦頭。而在智能化戰爭條件下,一方在人工智能上的技術優勢會迅速形成戰場上的壓倒性優勢,使劣勢一方無法形成有效的觀察—判斷—決策—行動循環,始終處于被動挨打的狀況。布魯金斯學會在?人工智能改變世界?報告中提出了“極速戰”(hyperwar )的概念,即戰爭是一個與時間賽跑的過程,決策最快和執行最快的一方通常會占上風。在人工智能輔助下的指揮和控制系統,其決策速度會大大超越傳統戰爭模式,加上能夠自主決定發射致命武器的自動武器系統,將大大加速戰爭進程,以至于需要創造一個新術語“極速戰”來描述這種戰爭模式。 關于后者,2018 年 4 月 26 日“大西洋”網站刊發的?當排爆機器人變成武器?一文中,就用大量分析說明,軍事機器人可以顯著降低路邊炸彈的威脅。 

人工智能還將引發軍事裝備的革命性變化,無人自動性致命武器的集群式作戰,可能成為未來戰爭的主角和主要作戰方式。設想中的空中無人機“蜂群”、水下無人潛艇“狼群”、地面機器人、無人坦克“蟻群”等一旦出現,將重構“消耗戰”“人海戰術”的價值,使得艦母、FG35戰斗機等復雜而昂貴的大型武器平臺,從戰爭成本和作戰效能的綜合角度看變得不那么具有優勢。可以想象一下,當單架成本上億美元的 FG35戰斗機對戰單價在幾千美元的武裝無人機集群時,無異于“大炮打蚊子”。

需要說明的是,人工智能對軍事的影響尚存在很大不確定性,這種影響可以有多大、如何影響,都并不確定。在2018 年7月清華大學第七屆世界和平論壇“人工智能與安全”分論壇的討論中,有專家提出,雖然目前大致可以判斷出機器學習、工業機器人、材料科學等技術的未來發展趨勢,但這些技術結合起來給未來戰爭造成的具體影響尚無法準確預估。20世紀前30年,當時的德、英、法、意等歐陸軍事強國都研發出了坦克、飛機、無線電通信技術等。但是,只有當德國在二戰中遂行了“閃電戰”后,世界才發現這些新技術作為一個整體竟會給戰爭帶來如此顛覆性的改變。現在,無論“算法戰”還是“蜂群”戰術,戰略界的熱議都還是從單項技術出發分析其對作戰的影響。如果不能從整體上認識人工智能技術的軍事運用,設想出來的應對措施有可能成為昂貴而無用的新“馬其諾防線”。

再次,按照目前的研究成果看,人工智能對國際格局的影響可以概括為三個方面。 

一是可以顯著增加全球財富。但是財富在國家間的分配將更加不平衡,人工智能技術的引領國受益多,落后國受益少,人工智能將進一步拉大國家間經濟總量和質量差距。新增財富在地區間的分配也將是不平衡的,東亞地區有可能成為人工智能技術的最大受益者,美國有條件鞏固其世界經濟中心的地位,而東亞的地位也會進一步上升。與此同時,財富在同一國不同地區、不同行業、不同群體中的分配可能進一步失衡,相關國家國內政治平衡也將受到不同程度的沖擊。二是在資本、技術、勞動力三要素中,人工智能有利于具有前兩項要素比較優勢的國家,不利于勞動力要素優勢的國家。三是當前人工智能技術的核心要素是算法、算力和數據,哪個國家擁有的計算資源越多、研發的算法越先進、掌握的數據越多,就越有可能獲得經濟優勢。未來可能出現“算法博弈”“算法霸權”,數據將成為國家戰略資源。四是由于人工智能技術迭代速度快,在“馬太效應”作用下,具有先發優勢的國家將強者恒強,后發國家越來越難以追趕,形成國際社會的“階層固化”。由于當前人工智能技術的發展建立在計算機技術進步基礎之上,并與數字經濟發展存在緊密關聯,因此數字經濟和技術領先的國家將在人工智能國際競賽中占得先機。

最后,人工智能帶來的經濟和軍事變化,在影響國家間力量變化的同時,還可能意味著國際趨勢的變化。

一是北升南降還是南升北降? 近年隨著金融危機影響消退,發達經濟體逐步復蘇,而金磚國家相繼出現困難,發展中國家追趕步伐放慢,南升北降的趨勢開始減緩。如果不論其他因素,單就人工智能技術的發展而言,很可能加劇這一勢頭。一方面,發達經濟體有條件維持甚至擴大對發展中國家的整體優勢。另一方面,發展中國家之間的實力、利益分化也可能進一步加劇。

二是多極化還是兩極化? 閻學通教授認為國際格局的趨勢是中美兩極化,而不是多極化。人工智能技術的發展為他的觀點提供了一定的支持。國際上很多人工智能排名都不約而同地將美國和中國列為第一梯隊。美國作為人工智能的發源地,在創新精神、基礎理論、核心算法、高端芯片、從業人員規模和素質等方面,明顯地領先全球。而中國在人臉識別、語音識別等領域走在前面,同時擁有海量數據和應用場景等其他國家難以比擬的天然優勢。中國擁有全球最多的互聯網用戶、最活躍的數據生產主體。 2018年8月20日,中國互聯網絡信息中心發布的第42次?中國互聯網絡發展狀況統計報告?顯示,截止2018年6月,中國網民規模達到8.02億人,每年產生的數據約占全球13% 。中國擁有更多的人工智能相關專業大學生,人才供給上更具潛力。根據騰訊研究院發布的?中美兩國人工智能產業發展全面解讀?報告,截至2017年6月,全球人工智能企業總數為2542家,其中美國有1078家,占 42% ,從業人員約為7.8萬人;中國有792 家,占23% ,從業人員為3.9 萬人;其余872家企業分布在瑞典、新加坡、日本、英國、澳大利亞、以色列、印度等國家。 人工智能技術競賽目前主要是巨頭企業之間的角力,而主要的互聯網巨頭也都在將自己的資源轉向人工智能。在世界互聯網巨頭企業中,美國有蘋果、谷歌、微軟、亞馬遜、臉書5家,中國有百度、阿里巴巴、騰訊3家。美中作為人工智能的世界前兩個強國,同時也是全球綜合國力的前兩強,與其他國家的差距可能會進一步拉大。

三是非國家行為體的權力擴大。人工智能將賦予巨頭企業前所未有的權力。 2016年發生的“劍橋分析”公司通過臉書影響美國大選的事件,顯示了這些企業可以有多大的政治和社會影響力。未來,一些傳統的政府職能,如信息統計和收集、公眾信息發布、社會福利發放還有公共政策討論、評估與反饋,以及涉及軍事和外交方面的輿論活動等,都可能被人工智能企業取代。在信息即權力的時代,企業行為對國內政治、進而對國際政治的影響力還將不斷增大。美國斯坦福大學和美國 Infinite 初創公司聯合研發了一種基于人工智能處理芯片的自主網絡攻擊系統。該系統能夠自主學習網絡環境并自行生成特定惡意代碼,實現對指定網絡的攻擊、信息竊取等操作。通過人工智能自主尋找網絡漏洞的方式,將使網絡作戰行動更加高效,攻擊手段更加隱蔽和智能。傳統的防護方式是基于病毒庫和行為識別,將無法應對靈活多變的人工智能病毒生成系統,其惡意代碼的生成、執行、感染具有更強的隱蔽性,這將使網絡安全環境面臨更大的挑戰。 

更令人擔心的是,人工智能也有可能為恐怖分子、網絡黑客、罪犯等提供新的犯罪手段。例如,恐怖分子可以遠程操縱無人機或無人駕駛汽車,對目標實施暗殺和破壞活動,黑客可以利用大數據武器對關鍵基礎設施進行更加復雜和自動化的大規模攻擊。經常被提到的案例包括:俄羅斯在敘利亞的赫梅米姆和塔爾圖斯軍事基地遭受武裝分子無人機攻擊,委內瑞拉總統馬杜羅在演講時遭受無人機襲擊,“想哭”病毒的爆發,等等。加拿大學者阿查亞提出了“復合世界”概念。  毫無疑問,人工智能將增加世界的復合化,包括政治權力的去中心化、更多元的行為主體的出現,乃至政治和意識形態的多樣性,因此產生更加包容和更多層次的治理需求。

四是加劇科技競爭。人工智能技術的發展及其應用,進一步鞏固了科技在國際競爭中的重要地位。 2016年5月,美國國家科技委員會國土與國家安全分委會發布的?21世紀國家安全科學、技術與創新戰略?提到,科技已經成為一個國家國際競爭力最關鍵的成分。沒有科技創新就沒有國家安全。美國能夠在國際競爭中保持優勢,很大程度上有賴于其科技創新力量。國內許多學者認為,中美貿易戰的實質是科技戰,中美博弈已經率先在科技領域展開了。2018年,美國先后對兩家中國公司禁售芯片,更有甚者,公開阻止盟友國家采用中國華為公司的5G技術。同年11月19日,美國商務部工業安全署列出了擬議管制的14個“具有代表性的新興技術”清單,其中對人工智能和機器學習的技術分類和列管最為詳盡。  可以預見,在人工智能時代,圍繞科技的國際競爭將更加激烈,競爭的結果也將在很大程度上影響國際格局的走向。

三、 人工智能將如何影響國際規范?人工智能可能對現行國際規范帶來一系列沖擊。

第一,人工智能有可能改變戰爭的內涵和形式。美國學者斯蒂芬·平克指出了人類相互間使用暴力減少的歷史大趨勢,認為“今天我們也許處于人類有史以來最和平的時代” 。王緝思對當今世界戰爭明顯減少的現象給出了 5 個方面的解釋,包括:大國發動戰爭可能付出的成本和代價大大高于可能的收益,通過非戰爭手段也可以獲得過去需要通過戰爭才能獲得的收益,國家間相互了解的增加以及危機預防和管控機制的普遍建立,國際軍控機制的建立,和平作為一種國際價值觀的深入人心。 而人工智能的發展有可能使國家和非國家行為體在是否使用軍事手段解決矛盾的選擇中,顧慮下降。至少從理論推演的結果看,人工智能能夠從決策者、軍隊、民意 3 個層面減少對戰爭的制約,降低戰爭門檻。無人武器使得戰爭行為者的人員傷亡預期可以降到近乎“零”。人工智能技術的快速迭代和新材料的廣泛運用將極大地壓縮戰爭的物理成本,讓戰爭的經濟適用性上升,甚至變得有利可圖。這使得決策者發動戰爭的誘惑增大、顧慮減少。“超視距”作戰的可能性和機器人戰士的出現,將進一步從心理上解放士兵。未來戰爭中,士兵或許不必上戰場,作戰任務可以通過事先設計好的算法,由“人工智能將軍”指揮無人自動武器完成。“極速戰”可以極大壓縮戰爭時間,在出現民意的反彈之前戰爭就 可以結束了。這 些可能 改 變 人 們對 戰 爭 的 立 場,讓 暴 力回潮。

2018年10月,美國陸軍協會陸戰研究所發布的報告?影響力機器———讓自動化信息作戰成為戰略制勝機制?稱,在人工智能的幫助下,利用算法生成內容,實施個性化的目標鎖定和采用密集的信息傳播組合,可以生成“影響力機器”,實施信息作戰,由此能產生指數級的影響效應。該報告認為,“影響力機器”信息作戰在戰略層面上的影響力遠勝于人工智能技術在其他領域的應用。因為它可以在機器學習的輔助下,對情感、偏見和價值觀等指標進行篩選,并鎖定那些心理最易受到影響的目標受眾,然后將定制的“精神彈藥”快速密集的“射向”目標群體,達到影響其心理、操縱其認知的目的。 

第二,人工智能可能沖擊全球戰略穩定。約瑟夫·奈曾經談到,核武器的出現使軍事力量作為維護安全的手段走到了極限,甚至走向其反面。人們認識到,在核戰爭中沒有贏家,核武器可能使全人類面臨滅亡的危險。 而人工智能將挑戰經典的“相互確保摧毀”理論。蘭德公司在2018年發布的?人工智能對核戰爭風險的影響?報告中分析認為,到2040年,人工智能技術的進步使報復性核反擊力量成為目標并被摧毀的可能性大大增加,從而削弱“相互確保摧毀”的基礎,打破核戰略平衡。即使各國無意發起先發制人的攻擊,也會傾向于追求先發制人的能力,以此作為與對手討價還價的手段,而這無疑將破壞戰略穩定。 

第三,人工智能的自身特點讓建立相關國際軍控和防擴散機制變得困難。在2018年7月清華大學第七屆世界和平論壇“人工智能與安全”分論壇的討 論 中,?智 能 時 代 的 戰 略 競 爭?報 告 的 作 者 之 一 格 里 戈 利 ·艾 倫( GregoryC.Allen )說,人工智能也有軍民兩用性,但其軍事應用不同于核,更像電。如果可以認為核是一種黑白技術,只存在“有”或“沒有”兩種狀態,一國要么是有核國,要么是無核國。而電則是一種光譜技術,就像紅橙黃綠藍靛紫七色光有不同的波長和媒介反射率一樣,不同的國家都可以用電,只是應用方式和程度會有很大差異。人工智能在軍事上的應用更像電,無法禁止哪一個國家使用人工智能。就像美蘇冷戰期間的軍備競賽一樣,未來很可能出現人工智能強國之間的算法競賽。問題是,當年美蘇通過軍控談判簽署了一系列核導軍控協議,確定了基本規則,未來的人工智能強國間能否本著同樣的精神達成算法控制協議呢? 艾倫認為,從目前大國關系態勢看,達成這樣的共識幾無可能;然而,考慮到未來無序發展的風險,大國又必須認真考慮就此進行共同探討的必要性。 

第四,人工智能給國際法帶來了一系列的問題。在應用人工智能武器的條件下,國際人道法和戰爭法的有關原則是否能夠繼續適用? 比如,區別對待軍民目標的“區分原則”、禁止過分攻擊的“比例原則”、非軍事手段無法達成目標的“軍事必要原則”,對作戰手段的限制等。有沒有必要針對人工智能武器制定專門的規則? 在智能化戰爭條件下,如何區分戰斗人員和非戰斗人員? 戰爭機器人是否享有人道待遇? 人工智能武器是否對其造成的損害有承擔責任的能力? 如果它不具備承擔責任的能力,那責任主體應該是武器的制造者還是使用者? 當人工智能武器侵犯國家的主權原則時,它的行為能否觸發國家責任?

第五,人工智能可能沖擊國際關系民主化。人工智能的發展有可能固化國際權力結構,深化小國、弱國對強國、大國的科技、經濟和安全的依賴。當“贏者通吃”的人工智能技術競爭和商業競爭規律復制到國際關系上時,必然會沖擊大小、強弱國家間的主權平等關系。當主要大國之間的競爭加劇時,結盟關系是否會再度成為弱國的必然選擇呢? 而結盟本身就是一種盟主和盟友之間的不平等關系。 

第六,人工智能對全球治理提出了新的課題。人工智能的發展對于解決當今世界面臨的三大困境(老齡化、數字化和氣候變化)都具有意義。 而更大的挑戰也許是人工智能帶來的對于“人”的價值的進一步思考。  一些國家和城市也開始探索試行“普遍個人收入”制度( UPI ,universal personal income )。但這必定是一個需要匯聚全球智慧與力量共同去思考和實踐的問題。

在規則與制度層面上,以數據為例,在近代人類歷史上,國際社會先后就自然人的跨境移動、船只和飛行器等交通工具的跨境移動、資本和商品的跨境移動等,形成了普遍認同的規則和制度安排。當前,數據作為一種資源的重要性與日俱增,隨之而來的問題是:數據跨境轉移應遵循什么規則、在什么樣的制度安排下進行? 數據的產生方、使用方、輸出方、接收方等利益相關各方分別享有什么權利、承擔什么義務? 數據本土儲存和跨境轉移之間是什么關系? 國家與數據企業之間是什么關系? 這些都將是未來全球治理的難題。 2019年G20的東道主日本已經提議將全球數據治理列入G20的議程。

四、 我們該如何選擇?

目前,即便走在人工智能技術最前列的科研人員也承認,人類距離制造出達到人類智慧的機器人,還有比較長的距離。目前,人工智能可能帶來的安全威脅更多是人類本身利用人工智能去威脅人類。因此,人類如何進行自我約束是人工智能技術進步過程中最為緊迫的道德問題。

2015年10月14日,一個名為“智能平方”的組織在紐約邀請幾位國際問題專家進行了一場辯論,題目是:中美是長期敵人嗎?。芝加哥大學政治學教授米爾斯海默不出所料地講起了“大國政治的悲劇”。作為反方,澳大利亞前總理陸克文有一句話令人記憶猶新。他說,外交的挑戰就是要確保阻止戰爭的發生,相信我們能夠做到這一點。陸克文的邏輯也適用于人工智能。人工智能是一種技術,可以為善,也可以作惡。盡管對善、惡的判斷和選擇是人類一個古老和難有完全一致看法的哲學命題,但是在關系到人類根本生存這樣的大問題上,擁有理性和現代文明的人類應該可以決定向善還是向惡。

2018年6月,筆者應邀參訪科大訊飛北京公司,其間討論到未來是否會出現人工翻譯與機器翻譯之間的競爭時,公司負責人表示,發展人工智能翻譯技術的目的不是取代人,而是助力翻譯工作更加準確和輕松。這給筆者以啟發。畢竟,就像毛澤東同志所說的“決定戰爭勝敗的是人民,而不是一兩件新式武器” 。人類開發人工智能技術的目的是服務于人類,是善用還是惡意應用最終取決于掌握技術的人。 

當前國際上關于秩序的討論十分熱烈。其中,中美兩國學界最為關心的,也為世界其他各國所普遍關注的是:美國與中國是否會展開“新冷戰”,從而導致冷戰時的平行秩序再度出現?2018 年3月,筆者與來北京參加中國發展高層論壇的美歐人士交談時,觀察到他們對中美關系的前景比較悲觀,認為中國的快速增長對美國來說是結構性威脅。當筆者問道:中美兩國除了走向對抗,有沒有別的選擇? 英國?金融時報?副主編馬丁·沃爾夫回答說,你們沒有什么可選擇的,中國不會停止增長,美國不會停止擔憂。( You have no choice , you can’t stop growing and theycan’t stop worrying.)除非出現一種情況,例如發生來自火星的入侵,人類面臨共同的敵人,屆時美中才有可能真正團結起來。

如果用零和博弈和追求絕對安全的眼光看待世界,那毫無疑問,人工智能會像20世紀40 、50年代的原子彈、衛星一樣,成為大國競爭的新焦點,并成為將世界劃分為兩種或多種平行秩序的助推動力。但是如果我們采用人類命運共同體的視角,本著共同安全的理念看問題,那么就不難認識到,人工智能技術帶來的安全和治理挑戰是需要全人類共同面對的問題。如此,我們就不難本著平等協商的精神,共同探討各利益攸關方都能夠接受的規范。那么,人工智能是否會成為那個將中國、美國、俄羅斯以及世界其他國家團結在一起的“火星入侵”式的挑戰呢?

技術專家們在大聲疾呼。在2018年的烏鎮第五屆世界互聯網大會上舉辦的“網絡空間的中美關系”分論壇上,原美國聯邦通信委員會專家戴夫法伯呼吁,應盡早就人工智能制定國際準則,避免重演核武器技術產生時因國際共識和自律的遲到而導致的悲劇及其影響至今的嚴重后果。 

現實情況是,中美兩國在科學技術研究領域的交往與合作是相當深入的。根據科睿唯安提供的人工智能領域科技文獻數據,從2013年到2017年,全球參與評估的167個國家/地區在 WOS 學科“計算機、人工智能”發文排名中,中國大陸位居第一,發文量達到59573 篇,占25.02% ,其次是美國,發文量為32527篇,占13.66% 。其中,中美兩國國際合作論文數量增長最快,例如,過去5年中國大陸開展國際合作最多的對象是美國,合作論文量是4307 篇,同樣,美國開展國際合作最多的國家也是中國大陸,遠遠多于與其他國家的合作論文量。 

國際上圍繞相關問題的探討和研究已經在步步深入。例如,聯合國裁軍委致命性自主武器系統問題政府專家組的討論就涉及要注意致命性自主武器系統可能對國際安全產生的影響。例如,致命性自主武器系統技術方面的軍備競賽,擴大發達國家與發展中國家之間的技術差距,以及可能降低使用武力的門檻等;就國家對其管轄下的致命性自主武器系統負有法律責任達成非正式普遍諒解;探討參照?特定常規武器公約?議定書的形式,制定一項具有法律約束力的文件,預防性地禁止致命性自主武器系統。

習近平主席于2018年9月在致2018世界人工智能大會的賀信中闡明了中國的立場和態度。他指出,新一代人工智能正在全球范圍內蓬勃興起,為經濟社會發展注入了新動能,正在深刻改變人們的生產生活方式。把握好這一發展機遇,處理好人工智能在法律、安全、就業、道德倫理和政府治理等方面提出的新課題,需要各國深化合作、共同探討。中國愿在人工智能領域與各國共推發展、共護安全、共享成果。 

基于清華大學人工智能與安全項目小組的研究結果,我們提出了關于人工智能的六點原則:一是福祉原則。人工智能的發展應服務于人類共同福祉和利益,其設計與應用須遵循人類社會基本倫理道德,符合人類的尊嚴和權利。二是安全原則。人工智能不得傷害人類,要保證人工智能系統的安全性、可適用性與可控性,保護個人隱私,防止數據泄露與濫用。保證人工智能算法的可追溯性與透明性,防止算法歧視。三是共享原則。人工智能創造的經濟繁榮應服務于全體人類。構建合理機制,使更多人受益于人工智能技術的發展、享受便利,避免數字鴻溝的出現。四是和平原則。人工智能技術須用于和平目的,致力于提升透明度和建立信任措施,倡導和平利用人工智能,防止開展致命性自主武器軍備競賽。五是法治原則。人工智能技術的運用,應符合?聯合國憲章?的宗旨以及各國主權平等、和平解決爭端、禁止使用武力、不干涉內政等現代國際法基本原則。六是合作原則。世界各國應促進人工智能的技術交流和人才交流,在開放的環境下推動和規范技術的提升。這些原則可以作為討論和制定人工智能國際規則的基礎。

雖然這些原則尚顯空泛和抽象,如何細化和如何與各國專家深入探討,尋找最大公約數,還是一個需要花時間去努力爭取的目標。值得注意的是,許多從事高端科研的青年專家已經提出為人類的共同利益而主動自律的問題,不少企業界人士表示要在人工智能的技術研究和產品制造中自覺強調道德和道義的因素,不會從事有損人類福祉的研究和制造工作。

筆者希望國際上關于這些問題的探討能不斷深入,也期待中國的智庫和科學技術界能在這個方向上為全球的共同努力貢獻力量。

該文章來源互聯網,如有侵權請聯系刪除

查看原文:http://aoc.ouc.edu.cn/9e/38/c9821a237112/pagem.htm


Copyright ? 2004-2014 hycfw.com Inc. All Rights Reserved. 山東海洋網絡科技有限公司 版權所有
用微信掃描二維碼
分享至好友和朋友圈
x
排列3走势图预测