亦能覆舟!為人工智能敲響警鐘
來源:知社學術圈 更新時間:2018-03-14

日前,26位專家學者就人工智能安全問題聯合發布了一份報告,這份名為《人工智能的惡意用途:預測、預防和緩解》的報告,呼吁大家關注危險人工智能的崛起,并為之做好充分的準備。(文末含LaTeX福利)

報告指出惡意利用人工智能將導致潛在的安全威脅,并提出了多種預測、預防和緩解威脅的方式建議。報告分析了未來5到10年內,人工智能在數字安全、物理安全政治安全領域可能產生的影響,并向研究者等領域相關人員提出了四條應對建議。此外,報告還提及了多個有前景的研究領域,以促進人工智能安全問題的防治解決。最后,報告還討論了安全行為中攻守雙方的平衡問題,但未提出明確的解決方案。

本次報告撰寫者來自于14家頂尖人工智能研究及安全組織,它們包括:非營利組織OpenAI(不久前Open AI宣布聯合創始人Elon Musk將離開董事會,但會繼續為該組織提供支持和建議)、劍橋大學生存風險研究中心(CSER)、牛津大學人類未來研究所(FHI)、新美國安全中心(CNAS)、電子前沿基金會(EFF)等。

關于人工智能的分析報告不少,如白宮出臺的《國家人工智能研究與發展策略規劃》、我國四部委聯合發印的《“互聯網+”人工智能三年行動實施方案》、烏鎮智庫推出的《烏鎮指數:全球人工智能發展報告2017》等等。但這些報告更多地側重于人工智能的光明前景,而撰寫此次報告的專家們卻認為:

人們對人工智能被惡意使用的方式與可能性,

從未給予過足夠重視,這是值得擔憂的。

烏鎮報告中的人工智能領域大學排名(Top20

人工智能將如何影響現有的安全格局

1、人工智能會擴大現有的安全威脅。通過AI系統的拓展使用,那些通常需要人力、智力和專業知識的任務將更容易完成,令攻擊成本大大降低。這會直接導致被攻擊人群的范圍迅速擴大,增加更多可攻擊的潛在目標,其攻擊速度也會攀升。

2、人工智能會引入新的安全威脅。通過 AI 系統,攻擊者可以完成以往難以做到的新型安全攻擊。另一方面,所開發的AI系統本身也會因為開發漏洞而增加被攻擊利用的可能。

3、人工智能會改變安全威脅的典型特征。伴隨著AI的迅速普及應用,安全攻擊將會更加高效、富于針對性,并且難以溯因防守。這將很大程度上改變網絡安全問題的相關特征。

人工智能的應用前景

資料來源:《國家人工智能研究與發展策略規劃》

報告中還詳細分析了數字安全、物理安全和政治安全這三個領域,并通過一些代表性的例子說明了其中潛在的安全威脅:

數字安全:傳統的網絡攻擊任務中,攻擊規模和攻擊效率之間往往不能兩全,而使用AI來執行這些任務,將突破這一局限。比如,它會增大“勞動密集型”網絡攻擊(如魚叉式網絡釣魚)的威脅程度。此外,人工智能還會促成各種新型安全攻擊:利用人類弱點,例如通過語音合成進行身份冒充;利用現有的軟件漏洞進行自動黑客攻擊;通過對抗性樣本和數據下毒攻擊AI系統,等等。

物理安全:使用 AI 來自動執行如無人機或其他物理系統(如自主武器系統)有關的攻擊任務。此外,AI 也可能會催生新型的攻擊方式,包括破壞物理網絡(如導致自動駕駛車輛癱瘓故障)、可實現遠程入侵的物理系統(如成千上萬的微型無人機)。

政治安全:使用AI進行自動地監控(如分析所收集的數據)、勸誘(如有針對性地宣傳)、欺詐(如竄改影像資料),這可能會導致更嚴重的隱私侵犯和社交操縱。此外,利用AI的學習能力,在現有數據的基礎上,分析掌握人們的行為、情緒、信念,這也是一大潛在危險。這些手段被威權國家采用將尤其令人憂心。當然,不可否認,它也會同時危及民主國家(如是否還能保證公開辯論的真實性)。

Musk領導的特斯拉正在積極推進無人駕駛技術

為應對這些威脅挑戰,報告提出了四項建議:

密切合作:決策者應與技術研究人員保持密切合作,防止人工智能被惡意應用。

嚴陣以待:人工智能領域的相關人員應審慎對待他們工作的雙重性,并在有害應用可預見時迅速采取措施,積極與相關行為者接觸。

制定方案:應采用更多成熟的方案,以便在研究領域確立最佳的實踐方法,來解決AI的雙刃劍問題。就像解決計算機安全一樣來考慮哪些地方可以應用 AI。

擴大討論:積極拓寬該討論的參與者范圍。

質疑炒作

對于這份報告,Gigaom網站評論員Jon Collins認為,它缺乏對風險的“性質討論”,他批評道:“……風險是個數學結構,是概率和影響的產物。而報告里卻一而再地使用‘好像是’等字眼來描述AI的進程、潛在目標和預期結果。好像除此之外,報告別無他物。”

他提到,報告很好地進入了公共輿論,這是它值得稱道的地方。但是這還遠遠不夠的,因為AI周圍早已布滿了“炒作與反炒作”。他指出:

報告給出的分析、建議實際上都在指引著更多的資源流向AI領域,而這是學者和咨詢公司常用的一種策略。

“也許第四個建議才最能說明問題,即他們在尋求更多人的關注和參與”,Jon Collins評論道。



铁牛视频app下载苹果-铁牛视频app下载地址-铁牛视频app破解版ios