人工智能可以同聲傳譯、寫新聞稿、協助醫生看病、讓機器人臉識別的精度高于人類、甚至寫詩和戰勝圍棋世界冠軍,其應用可謂“百花齊放”。

數據顯示,截至2017年6月,全球人工智能企業總數達到2542家,預計到2030年,人工智能將為世界經濟貢獻15.7萬億美元

在今年7月國務院印發的《新一代人工智能發展規劃》(以下簡稱《規劃》)中提出,到2020年,我國人工智能核心產業規模超過1500億元,帶動相關產業規模超過1萬億元。頂層設計相繼出臺,巨頭發力布局生態,資本市場熱情洋溢,細分行業獨角獸不斷涌現,人工智能這片“花海”已不止“看上去很美”。

但“花海”之下仍有“荊棘”。市場研究機構埃森哲大中華區信息技術服務總裁陳笑冰坦言:“人工智能也將會引發新的安全和倫理問題,鑒于未來人工智能將深入生活,政府也需要切實為人工智能制定監管規則,保證人工智能應用合理合規發展。”《規劃》也同時提出:“人工智能發展的不確定性帶來新挑戰。人工智能是影響面廣的顛覆性技術,可能帶來改變就業結構、沖擊法律與社會倫理、侵犯個人隱私、挑戰國際關系準則等問題,將對政府管理、經濟安全和社會穩定乃至全球治理產生深遠影響。”

人工智能發展將面對怎樣的挑戰與風險?又應該設立怎樣的“游戲規則”,讓新技術能夠與人類社會良性互動?

監管剛剛起步

人工智能不斷融入人類生活的同時,也引發公眾對人工智能的憂慮。對此,專家表示,應該建立監管機構來引導、促進和保障人工智能的健康發展

此前有報道稱,“臉書”人工智能研究所中的兩個聊天機器人“失控”,發展出了人類無法理解的語言,“被迫關閉”引發了廣泛關注。盡管隨后被證明是一場“烏龍”,只是因為工程師忘記加入“使用英語語法”這一條件。

但對事實的夸大報道,也顯示出媒體和公眾對人工智能的憂慮。在北京市中盾律師事務所律師陳濤看來,隨著人工智能深入融入生產和生活,必須以立法來對其安全性進行監管,給公眾吃下“定心丸”。互聯網汽車的特斯拉埃隆·馬斯克也表示,我們應該警惕人工智能崛起的潛在風險,并建立監管機構來引導這項強大技術的發展。

對人工智能進行立法監管,首先要解決人工智能使用中基本的安全問題,以及使用者與服務提供者的責任界定問題。以無人駕駛汽車為例,上路前,對其安全性如何全面評判?一旦無人駕駛汽車出現事故,如何判斷使用者、軟件提供商以及車輛制造商等多方主體的責任,如何在后續賠償和保險理賠中進行規定?實際上,立法監管不僅降低風險,也讓服務企業能夠“有據可依”,從而促進和保障人工智能的健康發展。

從目前來看,各個國家的人工智能監管都剛剛被提上日程。在美國,2016年10月,總統行政辦公室和國家科技委員會發布了兩份重量級報告:《美國國家人工智能研究發展戰略規劃》與《為未來的人工智能做好準備》,后者提出了發展人工智能的7項關鍵戰略,在第三條“社會影響戰略”中,提出“理解和確定人工智能在法律、倫理和社會領域中的影響”;在第四條“安全戰略”中,則提出“確保人工智能系統的安全和對公眾的隱私保護”。

在歐盟,2016年歐盟法律事務委員會向歐盟提交了《歐盟機器人民事法律規則》,針對基于人工智能控制的機器人,提出了使用的責任規則、倫理原則、對人類自身和財產的傷害賠償等監管原則。英國下議院科學技術委員會在今年4月表示,也將開展關于人工智能監管的研究。

在我國,《規劃》中同樣提出,到2020年,“部分領域的人工智能倫理規范和政策法規初步建立”。其中特別提出,要“開展與人工智能應用相關的民事與刑事責任確認、隱私和產權保護、信息安全利用等法律問題研究,建立追溯和問責制度,明確人工智能法律主體以及相關權利、義務和責任等”,“重點圍繞自動駕駛、服務機器人等應用基礎較好的細分領域,加快研究制定相關安全管理法規,為新技術的快速應用奠定法律基礎”。

不過,對人工智能的監管也不能“閉門造車”。“立法的前提是了解人工智能的科學規律,需要充分準備、摸索和積累,對技術進步充分了解,同時考慮公眾的實際需求。”陳濤表示。

安全仍有漏洞

安全是人工智能面臨的巨大挑戰。這其中既包括在應用層面的傳統黑客攻擊方式,也存在著對基礎設施方面進行的數據庫、云服務等攻擊。但更關鍵的安全問題是從最核心的算法層面發起攻擊

兩張人眼看起來一模一樣的熊貓圖片,一張被神經網絡正確識別為“熊貓”,另外一張卻因為被加上了人眼難以察覺的微小擾動,就被神經網絡以99.3%的置信度識別為“長臂猿”——這就是可以“愚弄”人工智能的對抗樣本,直接折射出人工智能所面對的安全問題縮影。

專注于互聯網安全的極棒實驗室總監王海兵告訴《經濟日報》記者:“安全是人工智能面臨的巨大挑戰。”他表示,一方面,人工智能要面對傳統的黑客攻擊方式,比如在應用層面,可以攻擊它的操作系統或者邏輯漏洞。“比如說,通過對智能門鎖的攻擊,就能實現任意人臉都可以通過門禁。”在人工智能的基礎設施方面,則可以對人工智能使用的數據庫、云服務等進行攻擊,“比如說,機器視覺經常調用的OpenCv庫,機器學習用到的TensorFlow框架,人工智能的從業者可以直接調用這些服務,但不幸的是,這些基礎設施同樣有漏洞。”王海兵說。

然而,人工智能所面對的更關鍵安全問題,正是諸如熊貓圖片這樣的對抗樣本。王海兵表示:“用對抗樣本攻擊人工智能,其實就是從最核心的算法層面來攻擊它。”

美國加州大學伯克利分校教授宋曉冬這樣介紹對抗樣本攻擊的危害:“比如,無人駕駛汽車根據交通標示進行決策。如果交通標示是一個對抗樣本,那么人類可以完全不受干擾,但無人駕駛汽車卻可能將它完全識別成錯誤信息,這將帶來嚴重后果。”實際上,美國伊利諾伊大學的一項測試已經證明,自動駕駛系統有可能被對抗樣本“蒙騙”。

“但公眾不用過于擔心,至少現在來看,針對自動駕駛的對抗樣本對抗性很差。比如,它只能在0.5米的距離內讓自動駕駛系統錯判,但自動駕駛場景畢竟是逐漸接近交通標識的。”王海兵也表示,“未來會不會有更完美的對抗樣本,仍是未知數”。

人工智能面對眾多安全問題,對此,開發者也在努力總結與之對抗的手段。智能家居生產廠商BroadLink高級副總裁康海洋表示:“我們會將多方數據融合和統一分析,以提升數據的可信程度,同時也在盡量讓整個系統變得更加透明。此外,我們還會及時銷毀所有能銷毀的數據,減少用戶被攻擊的可能性。”

倫理尚待明確

告訴人工智能何為“正確”,正在成為當務之急。如果不對其進化方向和目標形成共識,人工智能的倫理規則將無法“落地”

如果保持前行,會撞上沿途的5位行人;如果避開他們,就會撞上路邊的墻,車中的兩名乘客則可能有生命危險。在這種情況下,指揮自動駕駛的人工智能應該如何選擇?英國倫敦瑪麗女王大學高級講師雅思密·艾登表示:“如果是人類駕駛員,大可以直接撞上行人,并表示‘是他們自己突然跳出來的’,但人工智能在道德上很難獲得這么奢侈的原諒。”

這只是人工智能所處倫理困境的冰山一角。今年以來,麻省理工和哈佛大學聯合推出了人工智能倫理研究計劃,微軟和谷歌等巨頭也成立了人工智能倫理委員會,告訴人工智能何為“正確”,正在成為當務之急。《互聯網進化論》一書的作者、計算機博士劉鋒坦言:“盡管大方向上說,人工智能應當以造福人類為前提,但如果不對進化方向和目標形成共識,人工智能的倫理規則將無法‘落地’。”

對于人工智能來說,“倫理正確”的核心是正確的“算法”。美國一些法院使用的一個人工智能犯罪風險評估算法COMPAS,被第三方機構認為對黑人造成了系統性歧視。業界因此懷疑,小眾人群有可能因為個體差異而承受“算法的歧視”。騰訊研究院研究員曹建峰表示,如果算法本身有問題,一旦將算法應用在犯罪評估、信用貸款、雇傭評估等關乎人身利益的場合,“因為它是規模化運作的,并不是僅僅針對某一個人,可能影響具有類似情況的一群人或者種族的利益。規模性是很大的”。

此外,還有來自數據的風險。以色列歷史學家尤瓦爾·赫拉利表示,“人工智能技術的一個潛在結果是:促成數據集中到某一個地方,也進而導致權力的集中”。比如,大量互聯網數據集中在少數幾家巨頭的手中,人工智能技術是否會因此遭到壟斷?“AlphaGo之父”哈薩比斯就曾表示:“我提醒諸位,必須正確地使用人工智能。”他告訴記者,“人工智能技術不能僅為少數公司和少數人所使用,必須共享”。

AlphaGo超越了人類幾千年來對圍棋的理解,但人類并非能完全理解AlphaGo為何會如此決策。從這一點來看,人工智能像個“魔盒”,這也讓透明性成為人工智能倫理中的重要組成部分。英國阿蘭圖靈研究所科研主管安德魯·布萊克表示,算法可問責性的存在至關重要。“透明性規則應被作為倫理道德準則,編入算法之中,這樣人們才能更為清晰地認知人工智能的社會影響,并在問題發生之時能夠及時找出原因,調整策略。”